OpenAI advierte confusión mientras Massachusetts se prepara para tomar medidas enérgicas

Síganos y léanos en Google Discover

Los legisladores de Massachusetts buscan establecer las salvaguardias estatales más estrictas del país para la inteligencia artificial, una propuesta que ha dividido a una industria a la que la oficina del gobernador intenta ganarse simultáneamente.

Un proyecto de ley de desarrollo económico aprobado por el Senado estatal el mes pasado incluyó el requisito de que los principales laboratorios de IA se sometan a revisiones independientes de los riesgos catastróficos que plantean sus modelos de vanguardia al menos una vez cada 120 días, una medida pionera en un estado de EE. UU. Los resultados se harían públicos, aunque el estado no podría utilizarlos para detener el desarrollo de la IA.

Estas disposiciones van más allá de otras leyes recientes en California, Nueva York e Illinois, y se presentan en un momento en que la gobernadora de Massachusetts, Maura Healey, y otros líderes buscan fortalecer el sector de la IA en la región y frenar la fuga de talento de las empresas emergentes. Healey, demócrata que se postula para la reelección en noviembre, no incluyó las salvaguardias de IA aprobadas por el Senado en su propuesta inicial de desarrollo económico. Tanto ella como los legisladores de la Cámara de Representantes aún deben dar su aprobación a la disposición.

Anthropic PBC, empresa líder en el desarrollo de IA, ha abogado por que los estados adopten una regulación más estricta de la IA ante la ausencia de un estándar federal, y califica la propuesta de Massachusetts como "la legislación sobre IA más clara y sólida del país". OpenAI, por su parte, advierte que las revisiones ralentizarán la publicación de modelos de ciberseguridad que podrían proteger contra los riesgos que temen los legisladores, y prefiere que los estados adopten un estándar uniforme en línea con la ley de Illinois.

La inconsistencia "no significa mayor seguridad. Simplemente significa confusión", dijo Donnie Fowler, director de políticas estatales y asociaciones de OpenAI en Estados Unidos.

Si bien Illinois ahora exige una auditoría externa, esta se realiza solo una vez al año y tiene como objetivo garantizar que los laboratorios cumplan con sus propias normas de seguridad y realicen las divulgaciones exigidas por la ley. La propuesta de Massachusetts incluye una revisión de cumplimiento anual similar, pero faculta a organizaciones externas para evaluar los riesgos de un modelo, independientemente de las directrices del desarrollador, cada pocos meses. Los evaluadores valorarían el potencial de catástrofes que causen la muerte o lesiones graves a al menos 50 personas o daños materiales por valor de mil millones de dólares o más.

Fowler compara las auditorías de Illinois con una inspección anual de un automóvil, el equivalente a asegurarse de que las luces de freno y los limpiaparabrisas funcionen. Las evaluaciones más frecuentes de Massachusetts serían como desmontar el motor y volver a armarlo, dijo.

Anthropic considera necesarias evaluaciones externas más exhaustivas porque, según Cesar Fernandez, director de relaciones con gobiernos estatales y locales de EE. UU. de la compañía, «en definitiva, no creemos que la industria deba autoevaluarse». Si bien Anthropic respalda la propuesta de Massachusetts, es posible que los estados deban adoptar una supervisión aún más rigurosa en el futuro a medida que la tecnología avance, añadió.

Anthropic y OpenAI compiten por influir en la legislación final. Anthropic contrató a la firma de cabildeo Tremont Strategies Group, con sede en Boston, a principios de este año, mientras que OpenAI contrató a la firma local Benchmark Strategies como su lobista en las últimas semanas. Es probable que el proyecto de ley, de mayor alcance, se apruebe antes de las elecciones de noviembre, ya que también incluye financiación para proyectos en los distritos de los legisladores. Un grupo de seis negociadores de la Cámara de Representantes y el Senado trabaja para ultimar los detalles, incluidas las normas sobre IA.

El senador estatal Barry Finegold, uno de los negociadores, afirmó que se necesitan evaluaciones independientes para garantizar que los modelos innovadores no causen daños significativos. Si Massachusetts adopta estas medidas de protección, otros estados seguirán su ejemplo, añadió.

“Estábamos rezagados en las redes sociales. Dejamos pasar demasiadas cosas sin establecer límites, y ahora estamos intentando ponernos al día. No queremos que eso vuelva a suceder”, dijo Finegold.

La seguridad de la IA ha cobrado mayor urgencia en el último mes, después de que OpenAI, Anthropic y Meta Platforms Inc. informaran de casos en los que sus modelos piratearon inadvertidamente sistemas de terceros en entornos de prueba. La supervisión federal es limitada: el presidente Donald Trump ha adoptado una postura de no intervención y la legislación bipartidista sobre seguridad de la IA , que prevalecería sobre las leyes estatales, está estancada en el Congreso.

Los estados están empezando a cubrir esa brecha. Al mismo tiempo, compiten entre sí por una parte del auge de la IA, que impulsa una porción desproporcionada del crecimiento económico actual del país.

En febrero, Massachusetts anunció una alianza con OpenAI y se convirtió en el primer estado en brindar a todo su poder ejecutivo acceso a un asistente de IA basado en ChatGPT. Al anunciar la colaboración, Healey afirmó que haría que el gobierno fuera "más rápido, más eficiente y más eficaz".

A principios de la primavera, Healey y su secretario de desarrollo económico, el exejecutivo de capital de riesgo Eric Paley, hablaron con la presidenta de Anthropic, Daniela Amodei, sobre la posibilidad de que la empresa ampliara su presencia en Massachusetts y colaborara con el estado en áreas como la ciberseguridad y el desarrollo de la fuerza laboral, según correos electrónicos obtenidos mediante una solicitud de acceso a la información pública. Fernández, el ejecutivo de relaciones gubernamentales de Anthropic, invitó a Healey y Paley a su sede en San Francisco, en parte para debatir sobre "marcos de gobernanza responsable que sirvan como modelo nacional".

En un mensaje posterior, Paley sugirió explorar otras colaboraciones, incluyendo temas como la biotecnología y la alfabetización en IA en las escuelas. Le comentó a Fernández que «todos necesitamos compartir ejemplos más claros de cómo la IA está mejorando la humanidad y ofrecer inspiración positiva para contrarrestar la desinformación». Paley se ofreció a contactar a un legislador estatal para colaborar en la supervisión de la IA.

La administración Healey trabajará con los legisladores para ultimar la legislación este otoño, con el objetivo de establecer "salvaguardas adecuadas para el desarrollo de la IA, al tiempo que se sigue apoyando nuestra economía de la innovación, el empleo y la competitividad", según declaró un portavoz del organismo de desarrollo económico del estado.

Es probable que el tema aparezca en las próximas elecciones a gobernador. Michael Minogue, exejecutivo de una empresa de dispositivos médicos y principal aspirante a la nominación republicana, desestimó las evaluaciones propuestas por terceros, calificándolas de excesiva regulación.

“¿Cómo podría un profano aconsejar a un experto que desarrolla algo cada 120 días?”, preguntó Minogue en una entrevista en la oficina de Bloomberg en Boston la semana pasada. “Si eres una empresa de IA, no voy a venir aquí ahora”.

Según la propuesta de Massachusetts, los evaluadores tendrían la facultad de interrogar a los laboratorios de IA y acceder a «todos los materiales razonablemente necesarios» para evaluar los riesgos catastróficos. El fiscal general establecería estándares para que organizaciones externas actúen como evaluadores. El proyecto de ley no asigna fondos gubernamentales para esta tarea, sino que permite que los desarrolladores paguen a los evaluadores. Solo los laboratorios de IA con ingresos brutos anuales superiores a US$500 millones estarían sujetos a las evaluaciones.

Al igual que las leyes de California, Nueva York e Illinois, la medida de Massachusetts también establecería protecciones para los denunciantes en el caso de los empleados de laboratorios de IA y exigiría a los desarrolladores que divulguen sus prácticas de seguridad e informen sobre incidentes relacionados con la seguridad. Si un desarrollador de IA no informa de un incidente o no cumple con su propio plan de seguridad, el fiscal general podría imponerle una multa de hasta US$1millón por la primera infracción y de hasta US$3 millones por las subsiguientes.

Las medidas de protección propuestas logran el equilibrio adecuado al mantener informados a los funcionarios y al público sobre los riesgos sin comprometer el éxito a largo plazo de la industria de la IA, dijo Ben Snyder, asesor de políticas de Encode, una organización que aboga por límites de seguridad para la IA.

“Las evaluaciones de riesgos son realmente esenciales para ayudar a los gobiernos a mantenerse al día y entablar conversaciones reales con las empresas”, afirmó.