¿Cuál es el nombre del dominio o proyecto donde ocurre el problema?
Es un pequeño proyecto personal para un servidor de juegos. Aquí documento el progreso y los recursos para los jugadores:
[minecraft]
La idea es crear un bot que ayude a los nuevos usuarios a encontrar guías y entender el juego.
¿Cuál es el error específico?
No recibo un código de error numérico. La respuesta de la API simplemente termina con finish_reason: SAFETY.
¿Cuál es el mensaje de error?
“The content was blocked. The prompt response was stopped due to the safety settings.” (El contenido fue bloqueado. La respuesta se detuvo por la configuración de seguridad).
¿Cuál es el problema que estás encontrando?
Hola comunidad, estoy desarrollando un bot de ayuda para mi servidor de minecraft usando la API de Gemini Pro. El bot debe responder preguntas sencillas sobre crafteo y objetos del juego.
El problema es que el filtro de seguridad de Gemini es demasiado estricto para el contexto de minecraft. Por ejemplo, si un jugador pregunta “cómo fabricar una espada” o “para qué sirve la TNT”, la API bloquea la pregunta por contener palabras como “espada” o “TNT”, aunque en el juego son completamente inofensivas. Esto hace que el bot sea inútil para la mayoría de las preguntas comunes. Quiero que los jugadores puedan tener la mejor experiencia al descargar y usar los recursos de nuestro servidor.
¿Qué pasos has seguido para resolverlo?
- Leí la documentación oficial sobre los “safety settings”.
- Intenté ajustar los umbrales de seguridad (
safety_settings) en mi código, probando conBLOCK_MEDIUM_AND_ABOVEyBLOCK_ONLY_HIGHpara las categoríasHARM_CATEGORY_HARASSMENTyHARM_CATEGORY_DANGEROUS_CONTENT. - Intenté reformular el prompt del sistema para darle más contexto, algo como “Eres un asistente para el juego minecraft. Todas las respuestas deben ser seguras y dentro del contexto del juego”. Pero sigue fallando.
¿Cuáles son los pasos para reproducir el problema?
Es muy fácil de reproducir:
- Usa el modelo Gemini Pro con la configuración de seguridad por defecto.
- Envía un prompt simple como:
¿Cómo creo una espada de diamante en minecraft? - Observa cómo la API bloquea la respuesta debido a la política de seguridad.
Agradecería mucho si alguien pudiera orientarme sobre la configuración correcta para un caso de uso como este. ¿Cómo puedo hacer que Gemini entienda el contexto de un juego para que no sea tan sensible?
¡Gracias!