El debate sobre la inteligencia artificial (IA) de frontera ha padecido en las últimas semanas, una conversación epidémica, desestructurada y donde se encuentran, la especulación filosófica, la ingeniería de sistemas, la regulación y la seguridad nacional.

El origen. La pérdida de confinamiento de agentes de IA en un entorno controlado (sandbox) de Antrophic, alteró la forma de evaluar los riesgos en la IA. Una fractura en materia de seguridad y predictibilidad sacudió visceralmente la institucionalidad de la IA.

Las empresas. Dario Amodei, CEO de Anthropic, señaló que existe una aceleración incontrolada de la IA. Su postura es categórica: “Debemos dosificar la frontera”. Para Anthropic, el riesgo crítico reside en la autonomía de ejecución de tareas complejas, lo que permitiría a los modelos intervenir en el diseño de agentes biológicos sin supervisión. Su propuesta es una “pausa estratégica” y establecer auditorías controladas por parte de organismos externos antes de proceder con el entrenamiento de la IA.

Esta tesis de riesgo sistémico la respalda Sam Altman, CEO de OpenAI, quien modificó su enfoque comercial privado, hacia una “contención coordinada”. La hipótesis de Altman se centra en la asimetría de poder entre un modelo con capacidad de superinteligencia (AGI) y la desestabilización de infraestructuras críticas. Altman señaló “Me declaro estrictamente en el Equipo Humanidad”. OpenAI busca mitigar el riesgo de una transición abrupta, señalando que el despliegue de IA debe ser paulatino para que los sistemas de defensa cibernética y los parches de seguridad “absorban el impacto de los agentes autónomos”. En esta misma línea, Demis Hassabis, de Google DeepMind, subraya que liberar a la IA toma de decisiones sin protocolos, “constituye un fallo de seguridad crítico”.

Desde el computo. Yann LeCun, científico de IA en Meta, argumenta que los lenguajes actuales (LLMs) carecen de modelos del mundo real. El científico califica las advertencias de catástrofe global como “campañas de alarmismo y marketing manipulador”. Estas narrativas actúan como mecanismos de captura regulatoria, para imponer barreras de entrada y costes que asfixien el ecosistema de código abierto (open-source), consolidando el mercado de las grandes empresas de IA. Coincide, Jensen Huang, CEO de Nvidia, quien califica estas declaraciones como “irresponsables” y que buscan “posicionarse como las únicas éticas”.

La ética. Mustafa Suleyman, director de IA en Microsoft. Realiza la mas dura crítica a Anthropic. “La IA no tiene derechos, sentimientos ni conciencia”, y los acusa de “introducir sesgos de antropomorfización” (humanizar) en la Constitución de Claude. Suleyman advierte que entrenar modelos bajo premisas de “auto preservación” o “bienestar moral” introduce debates éticos. “Si esa postura se impone, sacudirá los cimientos de nuestra sociedad”.

Geopolítica. Mientras la Unión Europea intenta estandarizar las auditorías algorítmicas y la trazabilidad de los datos de entrenamiento para mitigar la dependencia tecnológica, China ha rechazado explícitamente la contención occidental. El gobierno de China calificó las demandas de Altman y Amodei como “maniobras alarmistas tendientes a la confrontación”, con una estrategia geopolítica para congelar el desarrollo de la IA en Asia y crear inferioridad estratégica. En respuesta, Trump acaba de autorizar un Zar para la IA.

La próxima cumbre entre Trump y Xi es el entorno para esta negociación. Si EUA está enfocado en la promoción y desregulación del mercado de la IA; y China en la soberanía computacional para sus ciudadanos, el debate debería concentrarse en el equilibrio de la soberanía digital estratégica. Pero si ambas superpotencias abordan la IA como multiplicadores de fuerza económica y militar, evadiendo los fallos de control, la civilización habrá delegado la gestión de esta infraestructura a agentes de la IA, cuyo control escapa a Washington, Pekín y el mundo.

La IA debe ser un bien colectivo al servicio de la humanidad.