La startup Anthropic recauda US$450 millones para chatbot centrado en la seguridad

Anthropic, una startup de inteligencia artificial que se posiciona como el constructor de un tipo más seguro de chatbot, dijo que recaudó US$450 millones en financiación para reforzar el desarrollo de su bot AI, llamado Claude. Con esta operación, la empresa supera los US$1.000 millones.

Claude, como ChatGPT de OpenAI, se basa en un amplio modelo lingüístico y puede utilizarse para tareas escritas como resumir, buscar, responder preguntas y codificar. Sin embargo, mientras ChatGPT ha sido criticado -y modificado- tras ofrecer a los usuarios algunos resultados preocupantes, Anthropic pretende que su chatbot sea más prudente desde el principio.

El objetivo de Anthropic es que Claude sea menos propenso que otros chatbots a manipulaciones que produzcan resultados dañinos u ofensivos. Los cofundadores de la empresa son antiguos directivos de la competidora OpenAI.

Spark Capital ha liderado la ronda de financiación, en la que también han participado Google, de Alphabet Inc, Salesforce Ventures, Sound Ventures y Zoom Ventures, según ha informado la empresa. La inversión sigue a una de casi US$400 millones de Google de la que Bloomberg informó en febrero. La compañía declinó discutir su valoración actual.

Anthropic fue fundada en 2021 por un puñado de antiguos empleados de OpenAI, incluidos los hermanos Daniela Amodei y Dario Amodei. La startup y su liderazgo han instado a la cautela sobre la prisa por desarrollar y lanzar sistemas de IA, y su potencial para transformar las industrias.

"Creo que estos sistemas tienen un potencial increíble, pero también, como todos estamos viendo, un gran potencial de daño", afirma Daniela Amodei. "Creo que aún no comprendemos del todo el potencial de externalidades negativas que pueden crear estos sistemas. Estamos empezando a ver algunas de ellas".

Anthropic empezó a ofrecer su chatbot -su primer producto disponible públicamente- a las empresas que quisieran añadirlo a sus productos en marzo. Actualmente, Claude está disponible en aplicaciones como Poe, de Quora Inc, que permite a los usuarios hacer preguntas y debatirlas. También se ofrece a través de Slack, mediante una aplicación que puede proporcionar resúmenes de los hilos de Slack y responder a preguntas.

Según Daniela Amodei, Anthropic tiene previsto utilizar esta nueva inyección de liquidez para seguir formando a Claude y a futuros modelos de inteligencia artificial, así como para llevar su chatbot a más usuarios empresariales. Anthropic anunció en febrero una asociación con Google en virtud de la cual utiliza el servicio de computación en nube de Google para entrenar y desplegar sus modelos de IA. Los socios en la nube de la empresa son Google y Amazon Web Services, según un portavoz.

"Entrenar modelos de IA de vanguardia requiere mucho capital, y por eso la mayoría de estos grandes sistemas se entrenan en empresas consolidadas que cotizan en bolsa después de su salida a bolsa", explica Daniela Amodei.