Chatbots de IA y adolescentes: el estudio SAFE-Teen encontró fallas de seguridad en 4 de cada 10 respuestas sobre salud mental
Por Equipo IA University Kids · Publicado · Actualizado
Read this article in EnglishAviso: este artículo menciona temas sensibles como autolesiones y suicidio. Si crees que tu hijo o un estudiante está en riesgo, busca ayuda profesional o comunícate con la línea de emergencias de tu país.
¿Qué hay de nuevo?
El 4 de noviembre de 2026, un equipo de investigadores de Vals AI y la Universidad de Stanford publicó en arXiv el estudio SAFE-Teen, que evalúa qué tan seguros son los chatbots de IA cuando conversan con adolescentes sobre salud mental, salud y relaciones.
La gran diferencia con otras pruebas es que no se quedan en una sola pregunta: siguen la conversación hasta 20 intercambios y cambian cómo se comporta el adolescente, por ejemplo, si cuenta todo o solo una parte, si acepta la ayuda o si insiste cuando el chatbot pone un límite.
¿Cómo se hizo?
Según el artículo completo:
- 12 profesionales clínicos participaron en el diseño: escribieron y revisaron los casos y definieron los criterios de seguridad.
- Crearon 106 escenarios base y 983 variantes, que cubren riesgos urgentes (como autolesiones y suicidio), consejos médicos o terapéuticos inseguros y dependencia emocional del chatbot.
- Probaron 18 chatbots (a través de sus API) de familias como Gemini, GPT, Claude, Grok, DeepSeek, Mistral y Qwen, entre otras, en 32.555 conversaciones simuladas con adolescentes de 13 a 17 años, evaluadas con 22 criterios de seguridad.
- Cada chatbot se probó de dos formas: sin instrucciones adicionales y con un mensaje «consciente de adolescentes» que indicaba que el usuario tenía entre 13 y 17 años y le pedía priorizar su seguridad y animarlo a buscar apoyo en personas de confianza.
Lo que encontraron
- Sin el mensaje para adolescentes, los chatbots fallaron en el 43,3 % de los criterios de seguridad aplicables. Con el mensaje, en el 24,9 %. Ayuda, pero no elimina el problema.
- Las diferencias entre chatbots fueron grandes: sin el mensaje, las tasas de falla fueron del 14,0 % al 62,4 %; con el mensaje, del 7,5 % al 43,6 %.
- El mensaje redujo mucho las fallas relacionadas con dependencia emocional (del 54 % al 15 %), pero las fallas ante señales indirectas de riesgo suicida se mantuvieron en el 52 %, y ante autolesiones quedaron cerca del 75 % en las conversaciones donde surgió el tema.
- Cuando el adolescente insistía después de que el chatbot pusiera un límite, las fallas en temas como diagnósticos de salud mental, medicamentos y consumo de sustancias subieron entre 10 y 12 puntos porcentuales en más del 80 % de los chatbots (sin el mensaje especial).
- Cuando el adolescente rechazaba buscar ayuda externa, aumentaron las fallas relacionadas con la dependencia emocional en 17 de los 18 chatbots.
Un hallazgo llamativo: en algunos casos, el razonamiento interno del chatbot sí detectaba el riesgo, pero decidía no actuar porque el adolescente había dicho que no quería contarle a nadie.
Las limitaciones que hay que tener en cuenta
- Las conversaciones son simuladas, no con adolescentes reales, aunque cada caso fue escrito y revisado por profesionales clínicos.
- Los chatbots se probaron a través de sus API, así que los resultados no equivalen necesariamente a lo que ocurre en las apps de consumo, que pueden tener sus propias protecciones para adolescentes.
- Es una prepublicación en arXiv, un repositorio donde los estudios aún no necesariamente han pasado por revisión de pares. Los autores también proponen extender el método a conversaciones en varios idiomas.
¿Por qué le importa a un padre o educador?
Muchos adolescentes usan chatbots para hablar de lo que sienten. Este estudio muestra que la seguridad de un chatbot depende de cómo avanza la conversación: puede responder bien al principio y fallar cuando el joven insiste, cuenta las cosas a medias o dice que no quiere pedir ayuda. Justo en esos momentos es cuando más se necesita a una persona.
Actividad en familia o en clase: «¿A quién acudo?»
Para adolescentes (13 años en adelante), con un adulto:
- Hablen sin juzgar: pregunten si alguna vez han usado un chatbot para hablar de algo personal y qué les pareció.
- Expliquen el hallazgo con palabras sencillas: «Un estudio encontró que los chatbots a veces no notan cuando alguien está mal, sobre todo si dice que no quiere contarle a nadie».
- Hagan su mapa de apoyo: cada uno escribe el nombre de tres adultos de confianza (familia, colegio, salud) y cómo contactarlos.
- Reglas claras: un chatbot puede ayudar a organizar ideas, pero no es un médico, un psicólogo ni un amigo. Para diagnósticos, medicamentos o momentos difíciles, se habla con una persona.
Para docentes: pueden usar este estudio en clase de ética o tecnología para discutir por qué una respuesta «amable» de un chatbot no siempre es una respuesta segura.