OpenAI insta a EE.UU. a liderar los esfuerzos mundiales para desarrollar normas técnicas

El gigante de la inteligencia artificial OpenAI pidió el lunes que Estados Unidos lidere una iniciativa internacional para desarrollar normas técnicas globales para el sector, incluida la "automejora recursiva", que permite a los sistemas mejorar de forma autónoma sus propias capacidades.

La IA será un asunto clave de debate en la Asamblea General de las Naciones Unidas de esta semana, después de que varios líderes del sector, entre ellos el presidente ejecutivo de OpenAI, Sam Altman, pidieran una ralentización coordinada del desarrollo de esta tecnología cada vez más potente, advirtiendo de que pronto podría mejorar por sí misma y escapar al control humano.

En una entrada de blog publicada mientras los líderes mundiales se reúnen en la ONU, OpenAI dijo que es esencial desarrollar un mecanismo que facilite la creación de normas nacionales e internacionales complementarias en materia de IA, junto con métricas comunes y protocolos de notificación de incidentes para una mejor acción colectiva.

"Tomar la iniciativa ahora determinará si Estados Unidos da forma al marco global de la IA o si se limita a observar cómo se afianza a su alrededor un sistema fragmentado, desigual y plagado de conflictos. Esto también determinará si la IA avanzada refuerza las redes que ya tienen Estados Unidos y sus aliados; no asumir el liderazgo podría debilitarlas", señaló.

Dadas las preocupaciones sobre el daño que la IA podría causar a los seres humanos en el futuro, el sector ha estado debatiendo la posibilidad de ralentizar de forma intencionada el desarrollo.

"Modular el desarrollo de la IA no consiste en mantener una velocidad predeterminada. Técnicamente, se trata de garantizar que la investigación sobre la alineación y la aplicación de dicha investigación se mantengan por delante de las capacidades", afirmó OpenAI. La alineación garantiza que la IA actúe de acuerdo con los valores humanos.

Altman tiene previsto informar este miércoles a los 15 miembros del Consejo de Seguridad de la ONU sobre la IA y la seguridad internacional. La reunión fue convocada por Francia, que ocupa la presidencia del órgano durante septiembre, y estará presidida por el ministro francés de Europa y Relaciones Exteriores, Jean-Noël Barrot.

El Consejo de Seguridad de la ONU, encargado de mantener la paz y la seguridad internacionales, se reunió por primera vez para tratar los riesgos de la IA en 2023, cuando China afirmó que la tecnología no debía convertirse en un "caballo desbocado" y Estados Unidos advirtió contra su uso para censurar o reprimir a la población.