Documentos revelan que Facebook sabía del contenido de odio pero no lo controló

Los empleados de Facebook llevan años advirtiendo que mientras la compañía se convertía en un servicio global no controlaba el contenido abusivo y de odio en países donde tal discurso probablemente causaría el mayor daño, según entrevistas con cinco exempleados y documentos internos de la compañía vistos por Reuters.

Durante más de una década, Facebook ha presionado para convertirse en la plataforma en la línea dominante del mundo. En la actualidad opera en más de 190 países y cuenta con más de 2.800 millones de usuarios mensuales que publican contenido en más de 160 idiomas.

No obstante, sus esfuerzos para impedir que sus productos se conviertan en conductos para el discurso de odio, la retórica incendiaria y la desinformación -algunos de los cuales han sido acusados, incluso, de incitar a la violencia- no siguieron el ritmo de su expansión global.

Documentos internos de la firma vistos por Reuters muestran que Facebook sabía que no contrató suficientes trabajadores con las habilidades lingüísticas y el conocimiento de los eventos locales necesarios para identificar publicaciones objetables de usuarios en varios países en desarrollo.

Los documentos también revelan que Facebook emplea sistemas de inteligencia artificial para erradicar ese contenido que con frecuencia tampoco están a la altura. Así mismo, tampoco ha hecho fácil que sus propios usuarios globales marquen las publicaciones que violan las reglas del sitio.

Según advirtieron los empleados en los documentos, esas deficiencias podrían limitar la capacidad de la compañía para cumplir su promesa de bloquear el discurso de odio y otras publicaciones que infrinjan sus reglas en lugares desde Afganistán a Yemen.

En una revisión publicada en el tablero de mensajes interno de Facebook el año pasado sobre las formas en que la compañía identifica los abusos en su sitio, un empleado informó de "brechas significativas" en ciertos países en riesgo de violencia en el mundo real, sobre todo en Myanmar y Etiopía.

Los documentos forman parte de una serie de revelaciones hechas a la Comisión de Bolsa y Valores de Estados Unidos y al Congreso por Frances Haugen, un exgerente de productos de Facebook que dejó la empresa en mayo.