La Unión Europea aprueba el conjunto de normas sobre IA más completo del mundo

La Unión Europea está promulgando las barreras más completas en el mundo de rápido desarrollo de la inteligencia artificial después de que el parlamento del bloque aprobara la Ley de IA.

El conjunto histórico de reglas, ante la ausencia de legislación estadounidense, podría marcar la pauta sobre cómo se gobierna la IA en el mundo occidental. Pero la aprobación de la legislación se produce cuando las empresas temen que la ley vaya demasiado lejos y los organismos de control digital dicen que no va lo suficientemente lejos.

"Europa es ahora un referente mundial en IA confiable", dijo el Comisario de Mercado Interior, Thierry Breton, en un comunicado. La regulación de IA se convierte en ley después de que los estados miembros la aprueben, lo que suele ser una formalidad, y una vez que se publica en el Diario Oficial de la UE.

Lo que busca

La nueva ley tiene como objetivo abordar las preocupaciones sobre los prejuicios, la privacidad y otros riesgos derivados de la rápida evolución de la tecnología. La legislación prohibiría el uso de IA para detectar emociones en lugares de trabajo y escuelas, además de limitar cómo se puede utilizar en situaciones de alto riesgo, como clasificar solicitudes de empleo. También impondría las primeras restricciones a las herramientas de IA generativa, que captaron la atención del mundo el año pasado con la popularidad de ChatGPT.

Sin embargo, el proyecto de ley ha generado preocupación en los tres meses transcurridos desde que los funcionarios alcanzaron un acuerdo provisional revolucionario después de una sesión de negociación maratónica que duró más de 35 horas.

Cuando las conversaciones llegaron a la recta final el año pasado, los gobiernos francés y alemán rechazaron algunas de las ideas más estrictas para regular la IA generativa, argumentando que las reglas perjudicarán a las nuevas empresas europeas como la francesa Mistral AI y la alemana Aleph Alpha GmbH. Grupos de la sociedad civil como Corporate Europe Observatory (CEO) expresaron su preocupación por la influencia que tuvieron las grandes empresas tecnológicas y europeas en la configuración del texto final.

"Esta influencia unilateral significó que la 'IA de propósito general' quedó en gran medida exenta de las reglas y solo se le exigió cumplir con algunas obligaciones de transparencia", escribieron en un comunicado organismos de control, incluidos CEO y LobbyControl, refiriéndose a los sistemas de IA capaces de realizar una gama más amplia de tareas.

Un anuncio reciente de que Mistral se había asociado con Microsoft generó preocupaciones entre algunos legisladores. Kai Zenner, asistente parlamentario clave en la redacción de la ley y ahora asesor de las Naciones Unidas sobre política de IA, escribió que la medida era estratégicamente inteligente y "quizás incluso necesaria" para la startup francesa, pero dijo que "el legislador de la UE consiguió Jugué de nuevo”.

Brando Benifei, legislador y autor principal de la ley, dijo que los resultados hablan por sí solos. "La legislación define claramente las necesidades de seguridad de los modelos más potentes con criterios claros, por lo que está claro que nos mantuvimos en pie", dijo el miércoles en una conferencia de prensa.

Las empresas estadounidenses y europeas también han expresado su preocupación de que la ley limite la competitividad del bloque.

"Con una industria de tecnología digital limitada y una inversión relativamente baja en comparación con gigantes de la industria como Estados Unidos y China, las ambiciones de soberanía tecnológica y liderazgo en IA de la UE enfrentan obstáculos considerables", escribió Raluca Csernatoni, investigador del grupo de expertos Carnegie Europe.

Durante el debate del martes, los legisladores reconocieron que todavía queda mucho trabajo por delante. La UE está en proceso de establecer su Oficina de IA, un organismo independiente dentro de la Comisión Europea. En la práctica, la oficina será el ejecutor clave, con la capacidad de solicitar información a las empresas que desarrollan IA generativa y posiblemente prohibir que un sistema opere en el bloque.

"Las normas que hemos aprobado en este mandato para regir el dominio digital -no sólo la Ley de IA- son verdaderamente históricas y pioneras", dijo Dragos Tudorache, miembro del Parlamento Europeo que también fue uno de los principales autores. "Pero lograr que todos funcionen en armonía con el efecto deseado y convertir a Europa en la potencia digital del futuro será la prueba de nuestra vida".