Sam Altman afirma que OpenAI no tiene voz ni voto en las decisiones del Pentágono

Sam Altman, director ejecutivo de OpenAI, dijo a los empleados que la empresa no tiene poder sobre lo que hace el Departamento de Defensa con su software de inteligencia artificial y sugirió que el deseo de hacerlo puede haber sido parte de las tensiones entre el Pentágono y su rival Anthropic PBC.

Durante una reunión general el martes, Altman afirmó que el Departamento de Defensa dejó claro que escuchará la experiencia de OpenAI sobre las aplicaciones de la tecnología, pero que la agencia federal no quiere que la compañía opine sobre si ciertas acciones militares fueron buenas o malas, según la fuente, que pidió no ser identificada debido a que los detalles son privados. "No tienen derecho a tomar decisiones operativas", afirmó Altman, según la fuente. OpenAI se negó a hacer comentarios.

La reunión marcó la primera oportunidad de Altman para responder preguntas de los empleados después de que OpenAI llegara a un acuerdo el viernes por la noche para permitir que el Pentágono implementara los modelos de inteligencia artificial de la compañía en su red clasificada. Esto ocurrió tras un enfrentamiento con su rival Anthropic, que había exigido que su tecnología no se utilizara para la vigilancia masiva de estadounidenses ni para el despliegue de armas totalmente autónomas.

Según se informa, Anthropic también preguntó sobre cómo se utilizó su tecnología en la redada para capturar al presidente venezolano Nicolás Maduro. (Anthropic ha negado haber discutido operaciones específicas con el Departamento de Defensa).

Altman declaró previamente haber llegado a un acuerdo con el departamento que refleja los principios de OpenAI, que prohíben la vigilancia masiva a nivel nacional y exigen "responsabilidad humana en el uso de la fuerza, incluso en el caso de los sistemas de armas autónomas".

Posteriormente, declaró que el apresurado acuerdo de OpenAI parecía "oportunista y descuidado", y que la empresa estaba trabajando con el departamento para "introducir algunas modificaciones en nuestro acuerdo para dejar muy claros nuestros principios". Esto incluye garantizar que la IA no se utilice para la vigilancia a nivel nacional de estadounidenses y que agencias de inteligencia como la Agencia de Seguridad Nacional (NSA) no puedan depender de los servicios de OpenAI.

Durante la reunión general, Altman también afirmó que sigue presionando al Departamento de Defensa para que abandone la designación de Anthropic como un riesgo para la cadena de suministro, una etiqueta que no se ha otorgado previamente a ninguna empresa estadounidense y que suele aplicarse a adversarios de Estados Unidos. Altman ya ha declarado su deseo de ayudar a reducir la tensión entre el Pentágono y Anthropic.