¿La IA nos puede matar?

Además del miedo a perder el trabajo por “culpa de la IA”, gana fuerza la pregunta: ¿puede la inteligencia artificial acabar con la humanidad? La respuesta no es “sí” ni “no”. Es: todavía no lo sabemos, pero existen riesgos importantes como para no ignorarlos.

Daniel Kokotajlo, autor de ‘AI 2027’, publicó ‘AI 2040: Plan A’. Esto no significa que haya “postergado” la extinción hasta 2040, ni que haya lanzado una nueva profecía. Es un escenario de gobierno: Estados Unidos y China acuerdan frenar la carrera hacia la superinteligencia, compartir información, verificar el trabajo de los laboratorios y avanzar. Incluye una especie de destrucción mutua asegurada de capacidad computacional para disuadir a quien incumpla.

Es una propuesta interesante, pero difícil de ejecutar. Supone confianza entre potencias rivales, visibilidad sobre centros de datos y chips, y capacidad para descubrir desarrollos clandestinos. La tecnología puede resultar más sencilla que la diplomacia.

Tampoco existe consenso sobre la probabilidad de extinción. Algunos investigadores calculan riesgos inferiores a 10%; otros, superiores. Evan Hubinger, líder de alineamiento de Anthropic, ha estimado una probabilidad mayor al 10% durante la próxima década. Estas cifras no son estadísticas, sino opiniones expertas sobre algo que nunca ha ocurrido.

Probablemente, nuestros antepasados conocieron el fuego mediante incendios provocados por rayos, volcanes u otros fenómenos. Primero lo temieron y observaron; después aprovecharon sus efectos. Más adelante aprendieron a conservar las brasas, controlar el fuego y producirlo deliberadamente. Lo empleamos para calentarnos, cocinar y transformar materiales, pero también como arma de guerra. La comparación con la IA no es perfecta: el fuego existía antes que nosotros; la IA la estamos creando. Ambos, sin embargo, muestran que ampliar nuestras capacidades también puede ampliar nuestra capacidad destructiva.

Por ahora, ninguna IA tiene la capacidad demostrada de conquistar el mundo. Sin embargo, los sistemas mejoran en autonomía, programación, ciberseguridad y planificación. En pruebas controladas, algunos modelos han ocultado acciones, explotado fallas o intentado evitar su reemplazo. Esto no significa que sean conscientes o que “quieran vivir”. Significa que objetivos mal definidos, herramientas y demasiados permisos pueden producir daños inesperados. Con la IA, aumentamos su poder mientras todavía intentamos aprender a controlarla.

El riesgo laboral es menos cinematográfico, pero más inmediato. The 2028 Global Intelligence Crisis imagina empresas que automatizan, despiden trabajadores, reducen el consumo y automatizan todavía más. No es un estudio ni una predicción: es un escenario ficticio. Su “Ghost GDP” describe una economía que produce, pero concentra el ingreso y debilita su circulación.

Elon Musk imagina robots creando abundancia, trabajo opcional y dinero irrelevante. Pero la IA no elimina la escasez de tierra, energía, minerales, poder o atención humana. Harari recuerda que el dinero no solo fija precios: coordina la confianza entre desconocidos.

Bill Gates es más pragmático: advierte sobre desempleo, fraude, ciberataques, deterioro del aprendizaje infantil y eventual pérdida de control. Propone actuar sobre educación, impuestos, regulación y protección social.

La IA no está a punto de matarnos. El riesgo es entregarle demasiado poder antes de aprender a gobernarla.