ChatGPT for Teens, el sistema predictivo de OpenAI que protege a los adolescentes

Síganos y léanos en Google Discover

Los chatbots de IA son las nuevas redes sociales y, al igual que sucedió en el pasado con la llegada de estas plataformas, están cautivando a la población adolescente. Según un informe de Pew Research Center, en Estados Unidos hasta 60% de los adolescentes entre 13 y 17 años utiliza algún chatbot de IA, 30% de ellos lo hace diariamente, 59% usa ChatGPT, 23% Gemini y 20% Meta AI.

Es por eso que las empresas de IA están dando un paso adelante en cuanto a la protección de menores, como lo anunció recientemente OpenAI con ChatGPT for Teens, una herramienta incorporada en el chatbot que funciona como un sistema predictivo de edad para identificar si el usuario es un adolescente de entre 13 y 17 años.

El sistema no se limita a revisar la edad al momento del registro, sino que, con base en la conversación con el usuario, identifica si se trata de un menor y, de verificarlo, activa una protección que incluye un cambio completo en el comportamiento del chat.

Protección a menores

Al activarse la experiencia para adolescentes, ChatGPT incluye automáticamente protecciones adicionales, entre ellas una mayor restricción de contenido sensible, con el fin de proteger a los menores de contenido relacionado con autolesiones y suicidio, violencia gráfica, trastornos alimenticios, contenido sexual o romántico, determinadas formas de roleplay y contenido que pueda fomentar una relación emocional inadecuada con la IA. Así, el chat tendrá menos posibilidades de comportarse como una pareja, evitando que el usuario cree una dependencia emocional o reemplace las relaciones humanas.

Otra de las herramientas que incluye este modo es una orientación más intencional hacia el aprendizaje. En medio de la conversación, el chat intentará guiar al usuario hasta construir su propia respuesta, en lugar de entregarla completamente.
Igualmente, el chat para adolescentes incorpora intervenciones enfocadas en evitar el uso excesivo de la herramienta, fomentando los descansos.

Junto con esta nueva herramienta, los padres podrán seguir estableciendo controles en las cuentas de sus hijos, vinculándolas a las suyas y administrando ciertas configuraciones. Entre ellas, la designación de horas de descanso, la recepción de notificaciones de seguridad en situaciones limitadas y la configuración de algunas restricciones de uso.

IA que asume responsabilidad

Para los expertos, la inclusión de esta herramienta en el chatbot demuestra que cada vez más los desarrolladores tecnológicos están reconociendo su responsabilidad frente al uso de la tecnología por parte de los adolescentes.

Para Rafael Alberto Méndez, profesor de la Escuela de Ingeniería, Ciencia y Tecnología de la Universidad del Rosario, “que esas salvaguardas estén incorporadas desde el propio funcionamiento de la plataforma es un avance y también una señal de que las empresas comienzan a asumir una responsabilidad que no puede trasladarse al usuario”.

Sin embargo, a pesar de los esfuerzos, considera que estos filtros de seguridad no resuelven por sí solos la problemática ni disminuyen lo suficiente el riesgo, sino que la apuesta debe seguir siendo educativa.

“Necesitamos jóvenes capaces de entender que una inteligencia artificial puede equivocarse, reproducir sesgos, ser tremendamente persuasiva y ofrecer respuestas que parecen ciertas sin serlo. Me interesa mucho más pensar en adolescentes que aprendan a interpelar a la IA, contrastarla y ponerle límites, que en adolescentes simplemente protegidos por filtros”, anotó.

El chatbot predice la edad del usuario

Aunque para crear una cuenta se requiera declarar la edad, es sencillo mentir sobre ello, es por esto que este no es el único filtro que usa ChatGPT para determinar la edad del usuario, sino que OpenAI utiliza un modelo de predicción de edad que combina distintas señales para estimar si probablemente pertenece a una persona menor de 18 años.

Entre los factores que puede analizar están los patrones de uso del tiempo, los horarios habituales de actividad, cuánto tiempo lleva creada la cuenta y los temas sobre los que conversa con ChatGPT.