OpenAI lanza herramientas contra imágenes de abuso sexual infantil hechas con IA: qué cambia y cómo proteger a tus hijos
Por Equipo IA University Kids · Publicado · Actualizado
Read this article in English¿Qué hay de nuevo?
El 16 de noviembre de 2026, OpenAI publicó Strengthening the fight against online child sexual abuse with new tools and support («Reforzando la lucha contra el abuso sexual infantil en línea con nuevas herramientas y apoyo»). Estas son las cuatro novedades:
- Un detector de imágenes de abuso sexual infantil. Busca señales visuales de abuso, también en imágenes nuevas que nunca se habían visto y en las generadas con IA. Según OpenAI, es el primer clasificador de este tipo de amplia disponibilidad que indica específicamente si el material pudo ser creado con IA. Se entrenó y evaluó con ayuda del NCMEC (Centro Nacional para Niños Desaparecidos y Explotados de EE. UU.) y se ofrece sin costo a organizaciones verificadas a través de su API. Los detalles técnicos están en su ficha del modelo.
- Avisos en ChatGPT. Si alguien intenta buscar material que sexualiza a menores, ChatGPT muestra una advertencia que explica que eso causa daño (también cuando el contenido es generado con IA), elimina la conversación, suspende el acceso por 24 horas y ofrece apoyo especializado para detener esa conducta. Las reincidencias pueden llevar a restricciones más largas, al cierre de la cuenta o a reportes a las autoridades.
- Una guía para desarrolladores, hecha con aportes de organizaciones como Thorn, NCMEC, Tech Coalition e Internet Watch Foundation, para prevenir, detectar y reportar abusos en sus propias apps.
- Herramientas y capacitación para unidades policiales especializadas en protección infantil.
¿Qué tan bien funciona?
OpenAI reporta resultados de sus propias pruebas y de socios tempranos (no son evaluaciones independientes publicadas):
- Frente a su sistema anterior, el nuevo clasificador marcaría 48 % menos imágenes encontrando aproximadamente la misma cantidad de material abusivo, y lo que marca tiene cerca del doble de probabilidad de ser realmente abuso.
- En pruebas de la empresa fal, los revisores confirmaron como material nuevo de abuso el 72 % de las alertas de alta confianza; en las de SafetyKit con dibujos o animaciones que sexualizan a menores, detectó el 90 % de los casos.
¿Por qué le importa a un padre o educador?
Las imágenes falsas de contenido sexual hechas con IA a partir de fotos reales de niños y adolescentes son un riesgo real. Que una gran empresa de IA comparta gratis una herramienta de detección con otras plataformas puede ayudar a que ese contenido se encuentre y se retire más rápido.
Pero hay límites que conviene tener claros:
- El clasificador lo usan plataformas y organizaciones, no las familias. No es una app de control parental.
- Las protecciones de ChatGPT no cubren otras apps de edición de fotos o de IA que su hijo o sus compañeros puedan usar.
- Ninguna herramienta reemplaza la confianza para contar lo que pasa.
Si pasa: qué hacer y dónde reportar
- No reenvíen, no descarguen ni compartan la imagen, ni siquiera para «guardarla como prueba» o mostrarla. Hacerlo la difunde más.
- Reporten en la plataforma donde apareció (red social, chat, juego).
- Colombia y México: Te Protejo recibe reportes confidenciales de situaciones que afectan a menores de 18 años, con énfasis en la violencia sexual en entornos digitales.
- Estados Unidos: Take It Down, servicio gratuito del NCMEC, ayuda a frenar la difusión de imágenes íntimas de una persona tomadas cuando era menor de 18 años: genera una «huella digital» de la imagen sin que esta salga del dispositivo, y las plataformas participantes la usan para detectarla y retirarla. También pueden reportar en el CyberTipline del NCMEC.
- Si hay peligro inmediato, llamen a la policía o a la línea de emergencias de su país.
- Ante todo, apoyen a su hijo: la culpa nunca es de la víctima.
Actividad en familia: «Mi imagen, mi decisión»
Una conversación de 15 minutos, adaptada a la edad (desde los 10 años aprox.):
- Expliquen sin alarmar: hoy la IA puede modificar fotos para que parezca que alguien hizo o mostró algo que nunca pasó.
- Pregunten: «¿Has visto o escuchado de algo así en tu colegio o en tus grupos?». Escuchen sin castigar.
- Acuerden tres reglas: no subir ni pasar fotos de otras personas sin permiso; nunca reenviar una imagen íntima o falsa de alguien; y si les llega algo así o los amenazan, contarle a un adulto de confianza.
- Dejen claro el mensaje más importante: «Si algo te pasa, no te vas a meter en problemas por contármelo. Lo resolvemos juntos».
Para docentes: incluyan en sus clases de ciudadanía digital qué es una imagen manipulada con IA, por qué compartirla causa daño real y a quién acudir en el colegio.
Fuentes
- Strengthening the fight against online child sexual abuse with new tools and support (OpenAI) · 2026-11-16
- OpenAI CSAM Image Classifier - Model Card (OpenAI Deployment Safety Hub) · 2026-11-16
- Take It Down (National Center for Missing & Exploited Children, NCMEC) · consultado 2026-11-18
- CyberTipline - Report Child Sexual Exploitation (NCMEC) · consultado 2026-11-18
- Te Protejo Latino - reporte confidencial (Colombia y México) · consultado 2026-11-18