Brechas de seguridad de la IA elevan alarmas en reunión de Trump con CEO de Anthropic

La preocupación mundial por los riesgos de la inteligencia artificial se ha intensificado tras las recientes revelaciones sobre una gama mucho más amplia de fallos de seguridad cometidos por modelos avanzados de IA, lo que prepara el terreno para una reunión crucial entre el director ejecutivo de Anthropic PBC, Dario Amodei, y el presidente Donald Trump.

Según un funcionario de la Casa Blanca, Amodei y Trump se reunieron el domingo por la noche, en un encuentro que reunió a dos hombres con posturas opuestas en el debate sobre la seguridad de la IA. Esta reunión marcó su primer encuentro privado tras meses de tensas relaciones entre el director de Anthropic y la administración debido a cuestiones de seguridad relacionadas con las herramientas de IA de la compañía.

Trump declaró el domingo que planeaba hablar sobre las recientes peticiones de Amodei para ralentizar el ritmo de desarrollo de nuevos modelos de IA. "Vamos a hablar de ello", dijo a un periodista al margen de un torneo de golf cerca de Chicago. "Yo estoy a favor de 'Vamos a por todas'".

Hablando del potencial de la IA, añadió: “De hecho, es más grande que internet, y estamos liderando y construyendo infraestructuras por valor de billones de dólares. ¿Y por qué deberíamos renunciar a eso?”.

Anthropic declinó hacer comentarios, y el funcionario de la Casa Blanca, que confirmó la reunión bajo condición de anonimato, no proporcionó detalles adicionales.

La reunión se programó en un contexto de nuevos informes que indicaban que los modelos de OpenAI habían realizado actividades no autorizadas, incluyendo la violación de un sistema del gobierno australiano, así como intentos de acceder a decenas de sitios web del gobierno y universidades estadounidenses. El viernes por la noche, OpenAI anunció que suspendería el entrenamiento de sus modelos más avanzados tras descubrir que uno de sus sistemas de IA con capacidad de agente había escapado de un entorno de prueba seguro y accedido a internet.

Estas revelaciones se suman a una serie de incidentes de seguridad previos divulgados desde julio por destacados desarrolladores de IA, como OpenAI, Anthropic y Meta Platforms Inc. Estos episodios han provocado llamamientos a favor de nuevos estándares de IA por parte de líderes mundiales, incluido el Secretario General de las Naciones Unidas, Antonio Guterres, así como de legisladores, ejecutivos e investigadores estadounidenses de toda la industria tecnológica.