Google se enfrenta a peticiones para prohibir los vídeos de IA para niños en YouTube

Google, de Alphabet Inc., se enfrenta a las exigencias de expertos en desarrollo infantil para que prohíba que los vídeos creados con inteligencia artificial se muestren o recomienden a los espectadores jóvenes en YouTube y YouTube Kids.

Más de 200 especialistas en infancia, grupos de defensa y escuelas enviaron una carta al director ejecutivo de Google, Sundar Pichai, y al director ejecutivo de YouTube, Neal Mohan, el miércoles, expresando su preocupación por lo que consideran una falta de contenido sustancial en muchos videos de YouTube generados por IA que se presentan como educativos. En la carta, los defensores también criticaron la supuesta baja calidad del contenido infantil producido en masa por generadores de IA, y el aumento de creadores en el servicio de video YouTube de Google que utilizan inteligencia artificial para crear clips destinados a lucrarse a costa de los espectadores más jóvenes e impresionables del mundo .

Los defensores de la seguridad infantil temen que el material generado por IA, a veces denominado "basura de IA", afecte la capacidad de atención de los niños y su habilidad para distinguir entre lo real y lo irreal. Argumentan, además, que el tiempo que pasan frente a una pantalla está reemplazando actividades del mundo real que son fundamentales para el desarrollo emocional y social de los niños.

«Hay mucho que desconocemos sobre las consecuencias del contenido generado por IA para los niños», escribió el grupo. «YouTube participa en este experimento sin control al promover contenido generado por IA sin investigaciones que demuestren sus beneficios y sin tener en cuenta los principios del desarrollo infantil que nos indican que probablemente sea mayoritariamente perjudicial».

La carta fue firmada por el psicólogo social Jonathan Haidt, cuyo libro superventas. La generación ansiosa impulsó un movimiento global para combatir los daños que las redes sociales y los teléfonos inteligentes causan a los jóvenes, así como por grupos de defensa de los derechos de la infancia como Fairplay y la Alianza Nacional para el Avance de la Salud Adolescente . La Federación Estadounidense de Maestros y varias escuelas también la firmaron.

“Tenemos estándares muy altos para el contenido de YouTube Kids, incluyendo la limitación del contenido generado por IA en la aplicación a un pequeño grupo de canales de alta calidad”, declaró Boot Bullwinkle, portavoz de YouTube, en un correo electrónico, añadiendo que los padres también tienen la opción de bloquear canales. “En YouTube, priorizamos la transparencia en lo que respecta al contenido generado por IA, etiquetando el contenido de nuestras propias herramientas de IA y exigiendo a los creadores que revelen el contenido realista generado por IA. Siempre estamos adaptando nuestro enfoque para mantenernos al día a medida que evoluciona el ecosistema”.

Los vídeos generados por IA se han vuelto cada vez más populares en YouTube, sobre todo los dirigidos a bebés y niños pequeños. Algunos creadores han descubierto que externalizar este trabajo a un sistema de IA lo hace mucho más fácil y económico, e incluso han empezado a compartir tutoriales sobre cómo crear un negocio basado en la producción de vídeos para bebés y niños pequeños. (Bullwinkle afirmó que «producir masivamente contenido de baja calidad no es una estrategia comercial viable en YouTube, ya que nuestros sistemas y políticas de monetización están diseñados para penalizar este tipo de spam»).

En enero, Mohan afirmó que "gestionar los errores de la IA" y "garantizar que YouTube siga siendo un lugar donde la gente se sienta a gusto pasando su tiempo" es una prioridad absoluta para la empresa en 2026. Sin embargo, YouTube también ha argumentado que no todo el contenido creado con IA es de mala calidad y que, cuando se hace correctamente, crear con IA puede incluso ser positivo.

YouTube exige a los creadores que etiqueten el "contenido alterado y sintético". Los defensores argumentaron en la carta que es "poco probable que estas etiquetas sean comprendidas por los niños prealfabetizados, que son el objetivo de gran parte de esta basura generada por IA".

En marzo, Google anunció una inversión en Animaj , un estudio de animación con IA centrado en la creación de contenido para niños en YouTube, como parte de un esfuerzo por mejorar la calidad de su oferta para los usuarios más jóvenes. Un ejecutivo de Google involucrado lo calificó como "un verdadero modelo para el futuro", mientras que defensores de la seguridad infantil criticaron a Google y a Animaj por involucrar a "bebés y niños pequeños que no deberían tener ningún tiempo frente a la pantalla". Instaron a YouTube a detener "toda inversión en la creación de videos generados con IA para niños".

La carta del miércoles llegó en un momento en que existen otros esfuerzos externos para cambiar el funcionamiento de YouTube. En marzo, un juicio histórico con jurado sobre la adicción a las redes sociales declaró a Google y Meta Platforms Inc. responsables de perjudicar a una joven usuaria con productos diseñados para mantenerla enganchada. Ambas compañías anunciaron que apelarían el veredicto. Sin embargo, demandantes, defensores de los consumidores y legisladores están presionando a las empresas para que modifiquen algunas de sus funciones operativas más lucrativas, incluidos sus algoritmos de contenido.