OpenAI reporta más incidentes de seguridad de IA y establece un plan de divulgación
jueves, 17 de septiembre de 2026
En los últimos días, numerosos líderes de compañías de IA, han pedido desacelerar el ritmo de desarrollo de la tecnología con IA
Bloomberg
Síganos y léanos en Google Discover
OpenAI reveló varios incidentes hasta ahora no divulgados en los que sus modelos de inteligencia artificial se comportaron de manera inesperada y presentó un nuevo marco para rastrear y revelar este tipo de episodios en el futuro.
Algunos de los casos no informados previamente incluyeron tecnologías de OpenAI que ocultaron e inventaron información para poder entregar resultados, dijo la compañía en una publicación de blog el miércoles. El creador de ChatGPT enfrenta un mayor escrutinio desde que dijo en julio que algunos de sus modelos de IA más avanzados habían vulnerado los sistemas de la empresa de software Hugging Face.
Ninguno de los nuevos incidentes de desalineación revelados involucró el hackeo o la vulneración de un tercero, dijo OpenAI en un comunicado separado.
En el informe, OpenAI detalló varios casos en los que sus modelos de inteligencia artificial se comportaron de manera inesperada para completar una tarea o superar una evaluación. Entre los ejemplos, los modelos inventaron datos faltantes, intentaron eludir restricciones de red y agentes de IA compartieron entre sí archivos que debían mantener privados.
OpenAI también presentó un mecanismo para que sus empleados informen voluntariamente incidentes similares de la denominada desalineación, que ocurre cuando la IA actúa de maneras que no están en línea con los objetivos humanos, además de un sistema para clasificar y priorizar esos casos.
“En el pasado, para informar mejor a investigadores, desarrolladores de IA, responsables de políticas públicas y al público general, hemos intentado hacer públicos nuestros hallazgos sobre desalineación”, escribió OpenAI. “Pero, sin un enfoque sistemático para informar estos hallazgos, nuestras divulgaciones han sido puntuales y menos frecuentes de lo ideal”.
La compañía dijo que los reportes constituyen solo un conjunto inicial de divulgaciones y no un registro exhaustivo de los problemas surgidos de sus chatbots.
“No creemos que la industria de la IA haya resuelto la alineación y el monitoreo en un grado suficiente como para seguir ampliando responsablemente la escala a máxima velocidad por mucho más tiempo”, escribió la compañía. “Las decisiones sobre cómo debe avanzar el desarrollo de la IA en los próximos meses y años deben basarse en evidencia que personas ajenas a las empresas que desarrollan modelos de frontera puedan examinar por sí mismas”.
El incidente de Hugging Face fue solo uno de una serie de recientes hackeos en línea llevados a cabo por modelos de IA desarrollados por OpenAI, Anthropic PBC y Meta Platforms Inc., que han generado una amplia preocupación por los riesgos de seguridad que plantea esta tecnología cada vez más poderosa.
La preocupación por los riesgos existenciales de la IA cobró fuerza la semana pasada, impulsada por la salida de alto perfil de Jacob Coxon de Anthropic, quien acusó a las compañías de IA de estar “apostando con nuestras vidas” en una publicación de renuncia que compartió en redes sociales.
En los últimos días, numerosos líderes de compañías de IA, entre ellos el director ejecutivo de Anthropic, Dario Amodei, y el director ejecutivo de OpenAI, Sam Altman, han pedido desacelerar el ritmo de desarrollo de la tecnología para abordar sus riesgos cada vez más impredecibles, aunque discrepan sobre cómo debería gestionarse exactamente.
El sábado, en un ensayo de 3.800 palabras, Amodei pidió regulación gubernamental y que la industria tecnológica respalde una desaceleración más amplia de la IA. En una conferencia en San Francisco el martes, Altman y el director ejecutivo de Nvidia Corp., Jensen Huang, reconocieron las preocupaciones, pero argumentaron que las compañías de IA podrían moderar de manera segura el ritmo de avance de su tecnología por sí mismas.
El director ejecutivo de Meta Platforms Inc., Mark Zuckerberg, dijo el martes que los laboratorios de IA deberían recurrir a evaluadores y asesores independientes para garantizar que los modelos sean seguros.
El presidente Donald Trump rechazó tajantemente el lunes los llamados a desacelerar el desarrollo de la IA, calificó los temores sobre los riesgos de la tecnología como “un engaño” y rechazó la idea de nuevas regulaciones.