Hay decisiones que no admiten una sola mirada. Antes de actuar, alguien más debe revisar, preguntar, comprobar que nada se haya escapado. En la aviación, ese ejercicio tiene nombre: chequeo cruzado, pilotos y tripulantes revisan instrumentos, procedimientos y datos porque saben que un descuido puede terminar en tragedia y no es que unos desconfíen de otros, es que nadie, por experimentado que sea, está libre de equivocarse. Se necesita humildad para aceptar que otra persona puede descubrir lo que alguien pasó por alto. Cuando un avión está a miles de metros de altura con cientos de vidas a bordo, no basta con estar convencido de haber hecho las cosas, hay que comprobarlo. La seguridad no puede quedar en manos de la soberbia, la costumbre o la confianza ciega en el criterio.

El 5 y 6 de noviembre se realizó en Armenia, Quindío, la Ruta de las Ideas. Fueron dos días para hablar de algo que merece más atención: qué contenidos se están poniendo frente a los ojos de niños, niñas y adolescentes de América Latina, ahora que la inteligencia artificial comienza a cambiarlo todo. Se compartieron experiencias que funcionan, proyectos que han abierto caminos y avances en la manera de producir y distribuir contenidos. Había razones para entusiasmarse con las nuevas herramientas, por supuesto. Pero también una pregunta que no podía dejarse a un lado: ¿qué responsabilidad tienen quienes producen contenidos frente a las nuevas generaciones que están creciendo con esas pantallas?

En uno de los talleres se realizó un ejercicio de creación de contenidos con inteligencia artificial, y ocurrió algo que muchos han experimentado: en minutos aparecieron resultados que antes habrían requerido horas de trabajo, la herramienta sorprendió por su rapidez, por las opciones que ofrecía y por todo lo que permitía imaginar. Sin embargo, junto al entusiasmo aparecieron las dudas. ¿Quién revisa lo que produce? ¿Quién detecta un sesgo, una falsedad o un mensaje equivocado? No todo lo que una máquina entrega está listo para salir al aire. Menos todavía si llega a niños y jóvenes que están formando su manera de mirar el mundo y de relacionarse con otros.

De esas conversaciones salió algo concreto: la firma de un manifiesto para promover un uso responsable de la inteligencia artificial en los contenidos dirigidos a niños, niñas y jóvenes. El documento fue suscrito por el canal Telecafé, la Red TAL, la Fundación PoderIA y Aún Humanos. La intención no es sumar otro documento a una carpeta, sino ofrecer a los canales públicos de América Latina una guía que pueda ponerse en práctica. Y ahí vuelve el chequeo cruzado.

Todo contenido, hecho por una máquina o construido entre máquinas y personas, necesita ojos que lo revisen y voces capaces de cuestionarlo. Porque los sesgos, los errores y hasta las decisiones deliberadamente equivocadas no vienen solamente de un algoritmo. También nacen de las creencias humanas, de los descuidos y de la forma en que se elige contar una historia. Por eso no alcanza con pedirle cuentas a la tecnología. El criterio humano también necesita ser revisado, contrastado y cuestionado con el mismo rigor.