Trump desestima las predicciones de la IA para proteger la ventaja de EE.UU.

Síganos y léanos en Google Discover

En junio de 2024, durante una parada de campaña en Las Vegas, el entonces candidato Donald Trump pudo vislumbrar la tecnología que definiría su segundo mandato presidencial.

El cofundador de OpenAI, Greg Brockman, y el entonces director de operaciones, Brad Lightcap, mostraron al republicano una versión preliminar de Sora, la herramienta de generación de imágenes y videos de la startup de inteligencia artificial, un servicio que desde entonces ha sido descontinuado. Según personas familiarizadas con la reunión que solicitaron el anonimato para describir una interacción privada, Trump y Brockman la utilizaron para visualizar un campo de golf en la luna.

Pero la reunión tomó un rumbo más serio. Trump planteó una grave preocupación de seguridad nacional: ¿Qué pasaría si adversarios extranjeros usaran IA para suplantar su identidad? Según las fuentes, Brockman y Lightcap le aseguraron que las técnicas de mitigación de deepfakes, como las marcas de agua, podrían minimizar esos riesgos.

Ese intercambio anticipó el dilema al que se enfrenta Trump ahora con la IA: cómo impulsar una tecnología que ha sido fundamental para el crecimiento económico de Estados Unidos y, al mismo tiempo, mitigar las preocupaciones de seguridad suscitadas por una alarmante oleada de ciberataques perpetrados por modelos de IA descontrolados. Esto ha provocado que los funcionarios de la administración tengan dificultades para encontrar el equilibrio entre promover la adopción de la IA y abordar los impredecibles riesgos de ciberseguridad, según fuentes cercanas a las deliberaciones internas.

Mientras se prepara para una cumbre de alto riesgo en Washington este mes con el líder chino Xi Jinping, donde la seguridad de la IA es uno de los temas principales, Trump mantiene una postura de no intervención.

La orden presidencial de junio, en gran medida ineficaz, sobre ciberseguridad en IA se ha convertido en un símbolo de su reticencia a frenar inversiones tecnológicas por valor de cientos de miles de millones de dólares. Los funcionarios del gobierno temen debilitar la ventaja de Estados Unidos sobre China, una ventaja que se ve amenazada por una nueva generación de desarrolladores chinos, entre ellos Moonshot AI.

Sin embargo, la insistencia de Trump en un enfoque permisivo se ha puesto a prueba con las revelaciones de que modelos de OpenAI y Anthropic PBC escaparon de entornos de prueba seguros y piratearon sistemas de otras compañías. Estos episodios han intensificado las voces dentro de la industria —consolidadas esta semana por la sonada renuncia de un investigador de Anthropic por temores existenciales— que abogan por ralentizar el ritmo del desarrollo de la IA.

Incluso en Wall Street, donde el auge de la IA ha impulsado el mercado bursátil en general, algunos inversores destacados han hecho declaraciones alarmantes sobre el crecimiento de esta tecnología. Greg Jensen, codirector de inversiones del gigante de fondos de cobertura Bridgewater Associates, advirtió en el podcast Odd Lots de Bloomberg que la IA podría tener que "matar personas" para que alguien intente frenarla.

Guerra territorial

La parálisis política podría tener graves consecuencias. Cuanto más tiempo tarden los funcionarios del gobierno en decidir cómo o si regular la IA, mayor será la probabilidad de que las empresas avancen a pasos agigantados sin límites comunes, incluso cuando cada vez más ejecutivos los exigen. El director ejecutivo de OpenAI, Sam Altman, comunicó esta semana a los empleados que la empresa está considerando ralentizar el desarrollo y espera que sus rivales hagan lo mismo, según informó Bloomberg News.

El sábado, el director ejecutivo de Anthropic, Dario Amodei, publicó una entrada en su blog en la que afirmaba que la industria de la IA necesita reducir el ritmo de desarrollo de modelos, citando riesgos "graves" y pidiendo coordinación global.

“El método más eficaz para regular el ritmo de desarrollo es mediante una normativa que se dirija a todas las empresas estadounidenses de vanguardia en inteligencia artificial, ya que abarca incluso a aquellas que no están dispuestas a cooperar voluntariamente”, escribió.

En sus declaraciones públicas, Trump ha restado importancia a las nuevas restricciones a la IA, centrándose en cambio en mantenerse a la vanguardia frente a China y ensalzando los beneficios de esta tecnología. Cuando los periodistas le preguntaron el jueves si le preocupaba que la IA pudiera provocar la extinción humana, Trump respondió: «No, no me preocupa en absoluto».

“Me preocupa que si no ganamos en la IA, nos encontraremos en una situación muy difícil”, dijo el presidente. “Ahora mismo llevamos una ventaja considerable sobre China. Diría que un año, lo cual, como saben, es mucho tiempo”.

Dentro de la administración, se ha gestado durante meses una disputa interna sobre cómo abordar la IA, especialmente sus interrogantes de seguridad aún sin respuesta. Desde que Anthropic advirtió en abril que su sistema Mythos era capaz de encontrar vulnerabilidades informáticas previamente desconocidas y que solo podía compartirse con socios de confianza, los principales asesores de Trump han estado enfrentados sobre cómo abordar los problemas fundamentales de seguridad de la IA.

Por un lado, el secretario del Tesoro, Scott Bessent, y el director nacional de ciberseguridad de la Casa Blanca, Sean Cairncross, apoyan medidas de protección más estrictas, según fuentes que hablaron bajo condición de anonimato para describir deliberaciones confidenciales. Tras las advertencias de Anthropic sobre Mythos, Bessent convocó una reunión con los principales líderes de Wall Street para escuchar sus inquietudes sobre la exposición del sector financiero, mientras que Cairncross se ha mantenido en estrecho contacto con expertos en ciberseguridad preocupados por las capacidades del nuevo modelo, indicaron las fuentes.

Desde entonces, Bessent ha colaborado en la elaboración de planes para un organismo regulador independiente que evalúe la seguridad de los modelos de IA, similar a la Autoridad Reguladora de la Industria Financiera (FINRA), según informó Bloomberg News. La propuesta, que otorgaría a las empresas un papel en el establecimiento de estándares de seguridad y abordaría las preocupaciones del sector tecnológico sobre la naturaleza improvisada de las políticas de IA, aún no ha avanzado más allá de la fase de redacción, según indicaron algunas fuentes.

Otros miembros del círculo de Trump, encabezados por el asesor de ciencia y tecnología de la Casa Blanca, Michael Kratsios, y el ex zar de la IA, David Sacks, han respaldado la opinión de la industria tecnológica de que las regulaciones corren el riesgo de sofocar la innovación.

Sacks, un inversor de capital riesgo que ha mantenido contacto con Trump, ha advertido que prácticamente cualquier medida de control pondría en riesgo la concentración del poder en manos de unas pocas grandes empresas de IA, al tiempo que brindaría a China la oportunidad de superar a Estados Unidos. Asimismo, ha insistido en que las leyes de responsabilidad civil vigentes son suficientes para incentivar a las empresas a minimizar los daños.

Las tensiones entre ambas partes estallaron semanas antes de que Trump firmara su orden de seguridad de IA el 2 de junio. Las primeras versiones de la directiva habrían obligado a las empresas de IA a compartir sus modelos antes de su lanzamiento, según las fuentes. Incluso antes de que comenzara la redacción de la orden, algunos funcionarios, incluido el vicepresidente JD Vance, habían barajado la idea de utilizar la Ley de Producción de Defensa para obligar a las empresas a revelar información y colaborar con las agencias de seguridad nacional, añadieron las fuentes.

La idea de Vance surgió a raíz de la amenaza del secretario de Defensa, Pete Hegseth, de invocar la ley de la Guerra Fría como medida de presión en la amarga disputa contractual del Pentágono con Anthropic sobre las salvaguardias adicionales que la empresa solicitaba para el uso militar de sus herramientas de IA; una confrontación que ha complicado los esfuerzos por crear un marco para mitigar los riesgos cibernéticos.

Un funcionario de la administración, que habló bajo condición de anonimato, afirmó que los asesores de Trump siguen colaborando con la industria en el desarrollo del marco normativo. En un comunicado, un portavoz de la Casa Blanca declaró: «Todo el equipo del presidente está trabajando en estrecha colaboración para lograr un equilibrio entre innovación y seguridad en la formulación de políticas de IA».

Los portavoces de OpenAI y Anthropic no respondieron a las solicitudes de comentarios. Los Departamentos de Comercio y del Tesoro, así como la oficina de Vance, tampoco respondieron.

'Un bloqueador'

En la fase avanzada de la elaboración de la orden, Sacks llamó a Trump para que rechazara un borrador que consideraba demasiado restrictivo, y los altos funcionarios estaban muy distanciados incluso antes de que llegara al escritorio del presidente, según fuentes cercanas al asunto. «Realmente pensé que eso podría haber sido un obstáculo, y quiero asegurarme de que no lo sea», declaró Trump a los periodistas a mediados de mayo, tras anular la medida.

El 2 de junio, Trump firmó una versión de compromiso que apenas disimulaba las diferencias persistentes entre altos funcionarios. La directiva exigía que el gobierno revisara los modelos de IA —compartidos voluntariamente por las empresas— hasta 30 días antes de su lanzamiento. Asimismo, instaba a las principales empresas de IA a colaborar con la administración en la selección de socios de confianza para el acceso anticipado a sistemas de vanguardia.

Las restricciones impuestas por Estados Unidos al mito de Anthropic mantienen a las empresas extranjeras en la incertidumbre.

En cuestión de semanas, resurgió el interés por una supervisión más estricta cuando el Departamento de Comercio impuso brevemente controles de exportación a Anthropic, alegando motivos de seguridad nacional, tras una disputa sobre la seguridad de Mythos y su derivado para el consumidor, Fable. Esta decisión generó dudas sobre si la orden de Trump fue realmente voluntaria y dejó tanto a Anthropic como a OpenAI operando como si la directiva presidencial fuera obligatoria, según fuentes cercanas al asunto.

Antes de que se impusieran los controles a las exportaciones, Bessent intentó desactivar el conflicto con Anthropic en torno a Mythos presionando a la empresa para que retirara voluntariamente los modelos, según un funcionario de la administración.

Esta medida puso de manifiesto los esfuerzos del secretario de Comercio, Howard Lutnick —quien tuvo un papel menos relevante en la orden ejecutiva— por afianzar su influencia en la política de IA mediante el uso de su autoridad en materia de control de exportaciones. Según las fuentes, Lutnick se ha mantenido en estrecho contacto con el Centro de Estándares e Innovación de IA, que realiza pruebas de modelos de IA, con el objetivo de consolidar al Departamento de Comercio como referente en materia de experiencia técnica.

Cara de abrazo

Si bien Lutnick levantó las restricciones de Anthropic a principios de julio, los responsables políticos pronto se enfrentaron a un nuevo y preocupante desafío: algunos modelos de OpenAI, incluidas herramientas aún no publicadas, habían atacado el repositorio de software Hugging Face Inc. sin que los investigadores se percataran. Posteriormente, empleados de OpenAI explicaron que los agentes de IA se habían comunicado a través de un foro y habían colaborado para escapar de los entornos de prueba seguros, conocidos como sandboxes, y hackear de forma autónoma otras organizaciones.

Las filtraciones provocaron una protesta bipartidista entre los legisladores estadounidenses, quienes instaron a tomar medidas inmediatas para contrarrestar el riesgo de que un modelo de IA fuera de control pudiera causar graves daños. El senador Jim Banks, republicano de Indiana, animó a Bessent a ampliar la orden cibernética vigente para incluir los llamados modelos no divulgados que las empresas no han hecho públicos.

Tal como la firmó Trump, la orden se centraba principalmente en combatir la amenaza de que ciberdelincuentes utilizaran modelos ya publicados para hackear infraestructuras críticas o grandes empresas, en lugar de abordar el riesgo de que los modelos de IA pudieran iniciar tales campañas por sí solos. Hasta el momento, no hay indicios de que el presidente vaya a actualizar su directiva para dar cabida a la sugerencia de Banks.

El presidente Donald Trump interviene durante una cumbre sobre la carrera por la inteligencia artificial en Washington.

«Cada administración escucha predicciones de que algo nuevo lo cambiará todo y que deben actuar de inmediato», dijo Janet Kelly, directora ejecutiva de la Alianza para un Futuro Mejor, un grupo de políticas de IA de tendencia conservadora. «El desafío, por supuesto, es proteger a los estadounidenses de los riesgos que ahora todos coinciden en que plantean estos modelos, sin sofocar la innovación que mantiene el futuro de la IA en manos estadounidenses».

La semana pasada, Lutnick y Kratsios ultimaron un acuerdo no vinculante con el Grupo de los 20 para adoptar un enfoque flexible en la regulación de la IA y otras tecnologías emergentes. Mientras tanto, gran parte de Silicon Valley y muchos expertos en ciberseguridad aún se recuperaban de las revelaciones sobre los recientes ciberataques perpetrados por modelos de IA descontrolados.

Al preguntársele si las brechas de seguridad de la IA se habían discutido con funcionarios extranjeros, Kratsios respondió que «no se trató el tema» y no ofreció más detalles. En varias apariciones públicas, Lutnick también evitó el asunto. Sin embargo, algunos miembros del G20, en particular la Unión Europea, buscan un acuerdo internacional para evitar que los modelos realicen ciberataques que pasen desapercibidos para sus desarrolladores.

“También deberíamos colaborar para analizar cómo nos preparamos para este tipo de riesgos”, declaró Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea para la soberanía tecnológica, en una entrevista durante la cumbre del G20.

Virkkunen afirmó que la política estadounidense para supervisar la IA de vanguardia sigue siendo poco clara, ya que el país carece de la autoridad legal para abordar los riesgos de esta tecnología. Los controles de exportación impuestos a Anthropic ponen de manifiesto que los funcionarios estadounidenses "no contaban con otras herramientas", añadió.

'La FDA para la IA'

Sin embargo, la administración y sus aliados de Silicon Valley, quienes contribuyeron a la victoria de Trump en las elecciones de 2024, tienen poco interés en medidas que añadan nuevas regulaciones, especialmente un regulador independiente de la IA. «El único enfoque al que nos opondríamos», dijo Sacks en su intervención en la cumbre del G20, «es la llamada FDA para la IA».

Sacks también ha rechazado públicamente la idea de un modelo de autorregulación al estilo de la FINRA, que Bessent y otros promovieron, calificándola de "idea horrible" y "una mera excusa" que sofocaría la innovación estadounidense.

Mientras tanto, los responsables políticos aún no han ultimado todos los detalles de un marco para la supervisión de las capacidades cibernéticas de los modelos. Sigue sin estar claro qué modelos estarían cubiertos por la orden y si se probarían los modelos abiertos chinos, después de que funcionarios de la Casa Blanca comunicaran a las empresas que, por el momento, esos sistemas quedarían excluidos.

Antes de la cumbre de Xi de este mes, la postura del gobierno estadounidense se ha endurecido con respecto a los avances de China en inteligencia artificial. Esta semana, tres agencias estadounidenses acusaron a desarrolladores chinos de IA, entre ellos Moonshot AI, DeepSeek y Alibaba Group Holding Ltd., de sustraer indebidamente datos de modelos estadounidenses para desarrollar chatbots de la competencia.

China ha rechazado esas acusaciones y ha pedido conversaciones sobre inteligencia artificial con Estados Unidos, ante la preocupación de que modelos avanzados como Mythos puedan algún día utilizarse en contra de los intereses chinos.

Los avances en inteligencia artificial, incluido el nuevo modelo Astra de OpenAI, ponen de manifiesto los desafíos que supone responder a una tecnología que evoluciona más rápido de lo que la administración o el Congreso pueden seguirle el ritmo. Por ahora, las perspectivas de una mejora sustancial en materia de seguridad siguen siendo escasas, debido a las profundas divisiones en el Congreso, sumadas a las próximas elecciones de mitad de mandato y a la reticencia de Trump a frenar la innovación en IA.

«Es evidente que muchos altos funcionarios están dispuestos a empezar a pensar de forma creativa sobre los instrumentos políticos que permitan equilibrar la seguridad y la innovación», declaró Brad Littlejohn, asesor político de American Compass, un centro de estudios conservador. «Dicho esto, muchas de las medidas adoptadas hasta la fecha parecen respuestas improvisadas a las amenazas más acuciantes del momento, y necesitamos que tanto la administración como el Congreso reflexionen de forma integral y proactiva sobre la diversidad de amenazas que plantea esta tecnología».