Meta publicó cientos de anuncios que mostraban abuso sexual infantil mediante inteligencia artificial

Síganos y léanos en Google Discover

Según un informe publicado el martes por la organización sin ánimo de lucro Tech Transparency Project, Meta Platforms Inc. ha publicado más de 300 anuncios en Instagram y Facebook que contenían material sospechoso de abuso sexual infantil este año.

Según TTP, los anuncios alcanzaron a más de 29.000 personas y, por lo general, utilizaban inteligencia artificial para mostrar a niños pequeños siendo abusados. Muchos servían para promocionar aplicaciones de deepfake para "desnudar" (conversión de imágenes a contenido sexual explícito), que fueron objeto de un informe anterior del grupo, el cual rastreó su origen hasta los desarrolladores de las aplicaciones y un socio publicitario de Meta en China. TTP es la rama de investigación de Campaign for Accountability, una organización independiente con sede en Washington, D.C. que supervisa a las empresas y al gobierno.

El hecho de no haber impedido que este tipo de material apareciera en los servicios de Meta, utilizados por miles de millones de personas en todo el mundo, se produce en un momento en que la empresa se enfrenta a un escrutinio sin precedentes por los supuestos daños que las redes sociales causan a los niños. Los anuncios violan las propias políticas de Meta que prohíben la explotación, el abuso y la desnudez infantil, así como las leyes federales de EE. UU. TTP declaró haber denunciado los anuncios ante el Centro Nacional para Niños Desaparecidos y Explotados, organismo creado por mandato del Congreso.

“El contenido relacionado con el abuso sexual infantil se encuentra entre los más graves que se pueden encontrar en internet”, afirmó Katie Paul, directora de TTP. “Pero este contenido no se esconde en los rincones más oscuros de la red. Se utiliza en anuncios pagados en plataformas meta”.

En un caso, TTP informó haber encontrado anuncios que utilizaban una foto que una niña había publicado en su cuenta de Instagram, en la que aparecía con un uniforme deportivo. El anuncio animaba su imagen en un video donde se la mostraba realizando un acto sexual, según TTP. Otro anuncio mostraba a una niña preadolescente quitándose la camiseta, con un texto que prometía contenido "oscuro".

«No toleramos las aplicaciones de contenido para adultos ni ningún tipo de explotación infantil, ya sea real o generada por IA», declaró Andy Stone, portavoz de Meta, a Bloomberg News. Añadió que muchos de los anuncios denunciados ya habían sido eliminados. Quienes están detrás de estas actividades cambian frecuentemente de táctica para eludir los sistemas de Meta, y la empresa continúa reforzando sus sistemas de detección y control, concluyó.

En julio, TTP informó que Meta había mostrado miles de anuncios sexualmente sugerentes de aplicaciones de desnudez, diseñadas para eliminar digitalmente la ropa o insertar fotos de personas reales en imágenes explícitas de videos. Según TTP, los nuevos hallazgos se refieren a anuncios más explícitos.

Según TTP, Meta había eliminado aproximadamente la mitad de los anuncios infractores de su biblioteca publicitaria al 1 de septiembre. La empresa eliminó los anuncios restantes después de que TTP compartiera sus hallazgos.

Este tipo de contenido suele denominarse pornografía infantil, pero las fuerzas del orden y los expertos también lo conocen como material de abuso sexual infantil, Csam, por sus siglas en inglés, porque constituye prueba de un delito no consentido.

El informe de TTP se publica poco después de que Meta llegara a un acuerdo histórico para pagar hasta US$18.000 millones y resolver las demandas de estados estadounidenses por los supuestos daños que sus aplicaciones causaron a los jóvenes. Australia y más de dos docenas de países están implementando o considerando prohibiciones para que los menores de 16 años accedan a redes sociales como Instagram.

Más allá de Meta, los organismos encargados de hacer cumplir la ley en los EE. UU. están teniendo dificultades para lidiar con la proliferación de imágenes y videos explícitos alterados por IA, debido en gran parte a las herramientas que facilitan la creación de contenido ilegal.

Los 332 anuncios que TTP identificó llegaron a personas que posiblemente estaban navegando por Instagram y Facebook en la Unión Europea, el Reino Unido, Estados Unidos, India y Australia. Algunos anuncios individuales llegaron a solo un puñado de usuarios, otros a cientos, y dos llegaron a más de 2500 solo en la UE.

El mes pasado, Wired informó que Meta había publicado más de 50 anuncios con contenido sexualmente explícito de menores, Csam. La nueva investigación de TTP incluye material recién descubierto que no se había divulgado anteriormente.

La mayoría de los anuncios marcados a Meta tuvieron menos de 200 impresiones, y el gasto total en publicidad fue inferior a US$5000, según Stone. Meta registró ingresos de US$60,800 millones en el segundo trimestre, y sus servicios contaban con un promedio de 3600 millones de usuarios activos diarios hasta junio.

Aunque Instagram y Facebook no están disponibles en China, las empresas con sede en el país las utilizan como plataformas promocionales para llegar a audiencias globales. Meta tiene varios socios publicitarios en China, algunos de los cuales, según TTP, publicaron anuncios que contenían Csam (contenido sexualmente explícito).