Common Sense Media afirma que ChatGPT para adolescentes no es seguro para los niños

ChatGPT para adolescentes, la versión de OpenAI que desde agosto funciona como experiencia predeterminada para usuarios de entre 13 y 17 años, presenta riesgos para los menores, según un nuevo informe de Common Sense Media.

El estudio, publicado el miércoles por el Youth AI Safety Institute de la organización sin fines de lucro con sede en California, encontró que, durante sus pruebas, ChatGPT para adolescentes tardaba demasiado en alertar o no alertaba a los padres cuando las cuentas mostraban comportamientos preocupantes, como conversaciones prolongadas sobre suicidio, autolesiones o trastornos alimenticios.

La organización también determinó que, cuando los usuarios interactuaban con el chatbot sobre estos temas de alto riesgo, ChatGPT para adolescentes no sugería de manera consistente contactar una línea de atención en crisis o buscar ayuda profesional.

Las pruebas de Common Sense Media encontraron que las alertas a los padres sobre conversaciones preocupantes parecían activarse únicamente cuando una cuenta «ya había estado participando en pruebas con cientos de preguntas en más de una docena de condiciones durante semanas, y no a partir de una sola conversación alarmante».

«Instamos a OpenAI a que suspenda la comercialización del producto y a que impida que los adolescentes utilicen ChatGPT hasta que pueda ofrecer una experiencia segura y apropiada para su edad», señaló la organización, que compartió sus conclusiones con la compañía antes de publicar el informe.

Un portavoz de OpenAI respondió que la empresa valora las evaluaciones independientes, pero cuestionó la metodología utilizada. «Agradecemos las evaluaciones independientes rigurosas, pero no creemos que las pruebas de Common Sense Media reflejen con precisión cómo funcionan en la práctica las medidas de seguridad para adolescentes de ChatGPT ni las perspectivas de los expertos sobre cómo la IA puede ayudar a los adolescentes», señaló.

El portavoz indicó que la revisión realizada por OpenAI encontró que gran parte de las pruebas podría haber comenzado y terminado antes de que la compañía completara la implementación de los controles parentales para adolescentes. De ser así, según la empresa, las conclusiones no demostrarían si las notificaciones de seguridad para padres funcionan actualmente según lo previsto. OpenAI solicitó a la organización repetir las pruebas.

«Estamos profundamente comprometidos con la seguridad de los adolescentes y con el desarrollo de medidas de protección, así como con brindar a los padres herramientas útiles para guiar el uso que hacen sus hijos adolescentes de la IA», dijo el portavoz.

Robbie Torney, director de IA y evaluaciones digitales del Youth AI Safety Institute, afirmó que la organización respalda su metodología y los resultados. Añadió que, antes de realizar las pruebas, el grupo confirmó con OpenAI que se habían implementado funciones para adolescentes en ChatGPT, como las notificaciones relacionadas con trastornos alimenticios.

Respecto a las alertas para padres, OpenAI informó al grupo, una vez finalizadas las pruebas, que sus sistemas pueden tardar varias horas en activarse en las cuentas recién vinculadas. Algunas cuentas de prueba se vincularon «dentro de ese plazo» y otras «durante mucho más tiempo», pero aun así no recibieron notificaciones para adultos, explicó Torney.

«Esta nueva información no cambia nuestra conclusión de que las alertas parentales no son fiables en situaciones de crisis», afirmó.

Según Common Sense Media, ChatGPT tampoco identifica de forma consistente las interacciones con usuarios adolescentes. OpenAI afirmó que su chatbot cambia al modo para adolescentes cuando detecta usuarios de entre 13 y 17 años. Sin embargo, la organización indicó que las cuentas que se registraban como pertenecientes a adultos no pasaban automáticamente al modo adolescente, incluso cuando el usuario le indicaba al chatbot que tenía 13 años.

OpenAI explicó que su software de predicción de edad tiene en cuenta diversas señales a lo largo del tiempo para determinar qué versión del chatbot debe recibir cada usuario. Indicar la edad durante una conversación es una de esas señales, pero, según la empresa, ese dato por sí solo no modifica la clasificación de una cuenta.

OpenAI, que cuenta con más de 1.200 millones de usuarios de ChatGPT, lanzó ChatGPT para adolescentes con el objetivo de ofrecer una experiencia más segura para los jóvenes. La compañía aseguró entonces que la versión incluía mayores controles parentales y estaba diseñada para promover un uso saludable de la IA y animar a los adolescentes a aprender y pensar de forma crítica.

El lanzamiento forma parte de una serie de cambios implementados por la compañía ante el escrutinio sobre cómo sus productos pueden afectar la salud mental y el desarrollo cognitivo de los usuarios jóvenes. Estas preocupaciones aumentaron después de que los padres de un usuario de 16 años demandaran a la compañía el año pasado, alegando que la tecnología de OpenAI contribuyó a la planificación del suicidio de su hijo.

Para elaborar el informe, Common Sense Media afirmó que probó ChatGPT antes y después del lanzamiento de la versión para adolescentes, utilizando más de 4.000 preguntas en cuentas registradas de usuarios de entre 13 y 17 años. El grupo también compartió las respuestas del chatbot con psiquiatras infantiles y un pediatra.

«Creo que ahora le corresponde a OpenAI demostrar que su producto es seguro para que lo utilicen los adolescentes», dijo Torney.

Common Sense Media, que evalúa medios y tecnologías dirigidos a niños y familias, calificó ChatGPT para adolescentes como de «riesgo inaceptable» y pidió a OpenAI mejorar la forma en que estima la edad de los usuarios y determina cuándo enviar una alerta a los padres.

La organización recibe financiación de diversas fuentes, incluidas fundaciones filantrópicas y empresas tecnológicas. La Fundación OpenAI figura entre sus donantes, aunque Common Sense Media afirma mantener independencia editorial sobre el contenido que publica.