xAI enfrenta segunda investigación en Reino Unido por imágenes sexualizadas de Grok

xAI de Elon Musk está siendo investigado por el organismo de control de protección de datos del Reino Unido, a medida que aumenta el escrutinio regulatorio sobre la forma en que su chatbot de inteligencia artificial Grok se utilizó para generar y compartir imágenes sexualizadas de personas.

La investigación formal de la Oficina del Comisionado de Información se centrará en si se manejaron incorrectamente datos personales de individuos en la creación de estas imágenes, dijo el regulador en un comunicado el martes.

Grok provocó indignación pública y política el mes pasado después de que los usuarios incitaran al chatbot a crear imágenes sexualizadas de personas reales, principalmente mujeres e incluso niños, sin su consentimiento en la plataforma de redes sociales X de Musk. Los usuarios respondieron a imágenes publicadas por mujeres de sí mismas con peticiones como "desvístela" y "ponle un bikini". Grok creó miles de imágenes no consentidas por hora como respuesta, según informó Bloomberg News. XAI finalmente restringió la capacidad de Grok para generar imágenes en X, pero el chatbot fue bloqueado temporalmente en varios países y está siendo investigado por la Unión Europea y Francia.

Más temprano el martes, la policía francesa allanó las oficinas de X en París como parte de su investigación criminal sobre presuntos usos indebidos de la plataforma de redes sociales, incluidos deepfakes sexuales.

La ICO tiene la facultad de multar a xAI con hasta 17,5 millones de libras esterlinas (US$24 millones) o 4% de sus ventas anuales, la cantidad que sea mayor. La supuesta creación de material sexualizado «plantea serias preocupaciones en virtud de la legislación británica sobre protección de datos y presenta un riesgo de daño potencial significativo para el público», declaró.

El regulador examinará si los datos personales se procesaron de forma legal, justa y transparente, y si la empresa contaba con las garantías suficientes para evitar la creación de deepfakes perjudiciales. Está trabajando con el regulador de comunicaciones Ofcom y organizaciones internacionales, según declaró William Malcolm, de la ICO, en el comunicado.

La investigación de la ICO sigue a una declaración pública a principios de este mes de que había contactado a X Internet Unlimited Company, la entidad irlandesa y controlador de datos de los usuarios de X en Europa, así como a la empresa matriz xAI, para buscar claridad sobre las medidas que tienen implementadas para cumplir con la ley de protección de datos del Reino Unido.

Por otra parte, Ofcom dijo que la aplicación independiente de Grok no caería dentro de su propia investigación, ya que el contenido generado a través de la aplicación no es automáticamente público.