Florida demanda a OpenAI y a Sam Altman por problemas de seguridad con chatbots

El estado de Florida demandó a OpenAI y a su director ejecutivo, Sam Altman, acusando a la empresa de inteligencia artificial de ignorar las advertencias de seguridad y de lanzar su producto ChatGPT a sabiendas de que era perjudicial para los usuarios.

La demanda , presentada el lunes ante un tribunal estatal, acusa a OpenAI y a su chatbot de violar las leyes de responsabilidad por productos defectuosos, y también alega negligencia y prácticas comerciales engañosas e injustas. Florida solicita sanciones civiles y una orden judicial que impida a la empresa recopilar ciertos datos de usuarios menores de 13 años sin el consentimiento de sus padres, entre otras medidas.

“Sam Altman y ChatGPT han priorizado la carrera por la inteligencia artificial por encima de la seguridad de los niños”, declaró el fiscal general de Florida, James Uthmeier, durante una conferencia de prensa. “Han priorizado las ganancias sobre la seguridad pública. No lo vamos a tolerar aquí en Florida”.

Esta denuncia parece ser la primera de su tipo presentada por un estado contra OpenAI, si bien el creador de ChatGPT se enfrenta a varias demandas interpuestas por particulares que alegan diversos perjuicios tanto para niños como para adultos. Algunos citan delirios crecientes con el uso prolongado, mientras que otros afirman que provocó suicidios e incluso asesinatos-suicidios.

OpenAI no respondió de inmediato a la solicitud de comentarios sobre la demanda. La compañía ha negado haber actuado de forma indebida en litigios anteriores relacionados con cuestiones similares, insistiendo en que la seguridad es una prioridad y que han tomado medidas para mejorar el entrenamiento de ChatGPT para que responda a los signos de angustia mental o emocional.

Otros chatbots ya han sido objeto de demandas estatales. En enero, Kentucky demandó a Character Technologies Inc., creadora de la aplicación de chatbot personalizable Character.AI, por supuestamente dirigirse a menores y provocar autolesiones. En junio, Utah demandó a Snap, Inc. por alegar que su chatbot de IA contribuye a la adicción a las redes sociales.

La extensa demanda presentada por Florida cita una serie de supuestos daños causados ​​por ChatGPT, que afectan tanto a menores como a adultos. Destaca las preocupaciones sobre la seguridad pública, incluyendo la presunta complicidad de ChatGPT en tiroteos masivos y otros actos de violencia. También afirma que ha provocado “humillación pública” y la pérdida de la capacidad de pensamiento crítico.

Además, el estado alega que el chatbot es particularmente adictivo y perjudicial para los usuarios jóvenes, y que carece de herramientas de supervisión parental.

“Esta larga lista de perjuicios se debe a la insaciable sed de los demandados por ganar la carrera armamentística de la IA y amasar grandes fortunas, a pesar de conocer el peligro de ChatGPT”, declaró el estado en su demanda. “De no cesar, la conducta de los demandados seguirá poniendo en peligro la salud y la seguridad de los residentes de Florida”.

Florida alega que OpenAI ha sido "negligente" en la presentación de su chatbot al público y que su comunicación pública no transmite adecuadamente los riesgos del uso del producto.

La demanda es independiente de la investigación penal iniciada por el estado en abril sobre la posible responsabilidad de la empresa, luego de que las autoridades afirmaran que ChatGPT se utilizó en un tiroteo masivo en la Universidad Estatal de Florida. OpenAI ha declarado que no fue responsable de la tragedia y que está cooperando con la investigación. Uthmeier afirmó el lunes que la investigación continúa en curso.

La demanda se produce en un momento en que OpenAI se prepara para presentar su solicitud de oferta pública inicial en las próximas semanas.