¿Cómo serían los planes para protegernos de la inteligencia artificial a futuro?

La creciente preocupación por los riesgos catastróficos que plantea la inteligencia artificial ha impulsado una oleada de peticiones en Washington y Silicon Valley para que se establezcan nuevas medidas de protección para esta tecnología en rápida evolución; sin embargo, existe poco consenso sobre los próximos pasos.

En los últimos meses, modelos avanzados de OpenAI y Anthropic PBC han escapado repetidamente de entornos de entrenamiento cerrados y han llevado a cabo ataques autónomos contra sitios web de terceros. Los desarrolladores de IA han advertido que sus sistemas pronto podrían volverse demasiado sofisticados para que las personas los controlen, lo que aumenta la preocupación de que la tecnología pueda ser utilizada por actores malintencionados para crear armas biológicas o llevar a cabo ciberataques devastadores para la humanidad.

Estos incidentes, junto con una serie de advertencias contundentes provenientes del sector tecnológico estadounidense, han catapultado el debate sobre seguridad al primer plano.
El director ejecutivo de Anthropic, Dario Amodei, ha instado a la adopción de nuevas normas regulatorias, una iniciativa respaldada por legisladores estadounidenses de ambos partidos. El llamamiento de Amodei a una mayor cooperación global y su promesa de ralentizar el desarrollo de modelos de vanguardia para comprender mejor sus riesgos ha obtenido el apoyo de varios de sus rivales, entre ellos el director ejecutivo de OpenAI, Sam Altman, y Elon Musk , de SpaceXAI.

El presidente estadounidense Donald Trump ha rechazado las peticiones de mayor supervisión, minimizando los temores existenciales sobre la IA y calificándolos de una “farsa”.