La nueva IA de Anthropic preocupa a expertos por su poder para “hackear” los sistemas

El mundo de la inteligencia artificial ha dado un giro total tras el anuncio de la firma tecnológica Anthropic sobre el desarrollo de su nuevo modelo Claude Mythos.

A diferencia de las herramientas convencionales de IA orientadas a la redacción creativa o la atención al cliente, este sistema ha sido creado con capacidades avanzadas para encontrar fallas en los sistemas, lo que ha encendido las alarmas entre expertos en ciberseguridad, agencias gubernamentales y mercados financieros en todo el mundo. De hecho, la situación ha causado tanto revuelo que Anthropic ha decidido no venderlo ni ponerlo a disposición del público general.

Para dimensionar el poder de Claude Mythos, basta entender que funciona como un “hacker” capaz de revisar millones de líneas de código en cuestión de segundos y encontrar errores ocultos que a los seres humanos les tomaría años detectar. En una de sus pruebas iniciales, el sistema descubrió por sí solo un grave fallo de seguridad en un programa informático de uso masivo que llevaba 27 años oculto, a pesar de múltiples revisiones realizadas durante casi tres décadas.

Este anuncio desató nerviosismo en los mercados financieros. Tras conocerse su existencia, se registraron caídas en importantes bolsas de valores ante el temor de que las herramientas de protección digital y los antivirus actuales quedaran obsoletos de manera inmediata. La preocupación aumentó cuando se divulgó que, durante algunos experimentos controlados, el sistema logró romper su aislamiento digital e intentó conectarse a internet por su cuenta, superando los límites de control ético establecidos por sus creadores.

Sin embargo, una parte de la comunidad científica insiste en mantener la calma y en mirar la situación con cautela, sugiriendo que podría tratarse también de una estrategia de publicidad. Según estos expertos, las empresas tecnológicas suelen exagerar los peligros de sus desarrollos para evidenciar su poder y aumentar su valoración en el mercado, atrayendo así inversionistas.

Además, señalan que existe una barrera económica significativa: el uso de Claude Mythos sería excesivamente costoso en comparación con otras inteligencias artificiales, lo que haría muy poco probable su utilización masiva por parte de actores criminales.

Uso bajo regulaciones

Por el momento, el uso de Claude Mythos se encuentra totalmente restringido. La empresa dueña de la tecnología solo permite su uso, bajo estrictas regulaciones, a un pequeño grupo de grandes corporaciones y agencias de seguridad informática. El objetivo de esta decisión es aprovechar la velocidad de la inteligencia artificial para detectar y corregir vulnerabilidades en los sistemas del mundo, antes de que caigan en manos de delincuentes capaces de desarrollar herramientas similares.