← Volver al blog

Chatbots de IA y adolescentes: el estudio SAFE-Teen encontró fallas de seguridad en 4 de cada 10 respuestas sobre salud mental

Por Equipo IA University Kids · Publicado · Actualizado

Read this article in English

Aviso: este artículo menciona temas sensibles como autolesiones y suicidio. Si crees que tu hijo o un estudiante está en riesgo, busca ayuda profesional o comunícate con la línea de emergencias de tu país.

¿Qué hay de nuevo?

El 4 de noviembre de 2026, un equipo de investigadores de Vals AI y la Universidad de Stanford publicó en arXiv el estudio SAFE-Teen, que evalúa qué tan seguros son los chatbots de IA cuando conversan con adolescentes sobre salud mental, salud y relaciones.

La gran diferencia con otras pruebas es que no se quedan en una sola pregunta: siguen la conversación hasta 20 intercambios y cambian cómo se comporta el adolescente, por ejemplo, si cuenta todo o solo una parte, si acepta la ayuda o si insiste cuando el chatbot pone un límite.

¿Cómo se hizo?

Según el artículo completo:

  • 12 profesionales clínicos participaron en el diseño: escribieron y revisaron los casos y definieron los criterios de seguridad.
  • Crearon 106 escenarios base y 983 variantes, que cubren riesgos urgentes (como autolesiones y suicidio), consejos médicos o terapéuticos inseguros y dependencia emocional del chatbot.
  • Probaron 18 chatbots (a través de sus API) de familias como Gemini, GPT, Claude, Grok, DeepSeek, Mistral y Qwen, entre otras, en 32.555 conversaciones simuladas con adolescentes de 13 a 17 años, evaluadas con 22 criterios de seguridad.
  • Cada chatbot se probó de dos formas: sin instrucciones adicionales y con un mensaje «consciente de adolescentes» que indicaba que el usuario tenía entre 13 y 17 años y le pedía priorizar su seguridad y animarlo a buscar apoyo en personas de confianza.

Lo que encontraron

  • Sin el mensaje para adolescentes, los chatbots fallaron en el 43,3 % de los criterios de seguridad aplicables. Con el mensaje, en el 24,9 %. Ayuda, pero no elimina el problema.
  • Las diferencias entre chatbots fueron grandes: sin el mensaje, las tasas de falla fueron del 14,0 % al 62,4 %; con el mensaje, del 7,5 % al 43,6 %.
  • El mensaje redujo mucho las fallas relacionadas con dependencia emocional (del 54 % al 15 %), pero las fallas ante señales indirectas de riesgo suicida se mantuvieron en el 52 %, y ante autolesiones quedaron cerca del 75 % en las conversaciones donde surgió el tema.
  • Cuando el adolescente insistía después de que el chatbot pusiera un límite, las fallas en temas como diagnósticos de salud mental, medicamentos y consumo de sustancias subieron entre 10 y 12 puntos porcentuales en más del 80 % de los chatbots (sin el mensaje especial).
  • Cuando el adolescente rechazaba buscar ayuda externa, aumentaron las fallas relacionadas con la dependencia emocional en 17 de los 18 chatbots.

Un hallazgo llamativo: en algunos casos, el razonamiento interno del chatbot sí detectaba el riesgo, pero decidía no actuar porque el adolescente había dicho que no quería contarle a nadie.

Las limitaciones que hay que tener en cuenta

  • Las conversaciones son simuladas, no con adolescentes reales, aunque cada caso fue escrito y revisado por profesionales clínicos.
  • Los chatbots se probaron a través de sus API, así que los resultados no equivalen necesariamente a lo que ocurre en las apps de consumo, que pueden tener sus propias protecciones para adolescentes.
  • Es una prepublicación en arXiv, un repositorio donde los estudios aún no necesariamente han pasado por revisión de pares. Los autores también proponen extender el método a conversaciones en varios idiomas.

¿Por qué le importa a un padre o educador?

Muchos adolescentes usan chatbots para hablar de lo que sienten. Este estudio muestra que la seguridad de un chatbot depende de cómo avanza la conversación: puede responder bien al principio y fallar cuando el joven insiste, cuenta las cosas a medias o dice que no quiere pedir ayuda. Justo en esos momentos es cuando más se necesita a una persona.

Actividad en familia o en clase: «¿A quién acudo?»

Para adolescentes (13 años en adelante), con un adulto:

  1. Hablen sin juzgar: pregunten si alguna vez han usado un chatbot para hablar de algo personal y qué les pareció.
  2. Expliquen el hallazgo con palabras sencillas: «Un estudio encontró que los chatbots a veces no notan cuando alguien está mal, sobre todo si dice que no quiere contarle a nadie».
  3. Hagan su mapa de apoyo: cada uno escribe el nombre de tres adultos de confianza (familia, colegio, salud) y cómo contactarlos.
  4. Reglas claras: un chatbot puede ayudar a organizar ideas, pero no es un médico, un psicólogo ni un amigo. Para diagnósticos, medicamentos o momentos difíciles, se habla con una persona.

Para docentes: pueden usar este estudio en clase de ética o tecnología para discutir por qué una respuesta «amable» de un chatbot no siempre es una respuesta segura.

Fuentes

  1. SAFE-Teen: Evaluating Chatbot Safety Across Adolescent Mental Health Conversations (Mock, Chen, Lin, Krishnan, Yang, Figueroa; Vals AI and Stanford University), arXiv:2611.07218 · 2026-11-04
  2. SAFE-Teen - full paper (PDF, arXiv:2611.07218v1) · 2026-11-04

¿Quieres que tu hijo aprenda IA con guía y propósito?

Conoce el curso de inteligencia artificial para niños y adolescentes de 8 a 16 años.

Ver el curso

Comentarios

Aún no hay comentarios publicados.

Por favor no publiques datos personales de menores (nombres completos, colegio, edad exacta, fotos o ubicación). Los comentarios se revisan antes de publicarse.