OpenAI respalda una nueva iniciativa que intenta poner freno a los bioataques a la IA

Es un escenario de pesadilla: un terrorista sin mucho entrenamiento utiliza un programa de inteligencia artificial para crear un supervirus que combina el período de incubación del VIH, la contagiosidad del sarampión y la tasa de mortalidad de la viruela. Este es el peor escenario posible para la revolución de la IA, escribió el Centro para la Seguridad de la IA en un informe reciente . También es lo que le quita el sueño a Kathleen McMahon.

McMahon es cofundador y director ejecutivo de Valthos Inc., una startup de software de bioseguridad con sede en Nueva York que desarrolla herramientas para defenderse de ataques con armas biológicas, que podrían verse acelerados por los avances en inteligencia artificial. El viernes, la startup, compuesta por nueve personas, emergió oficialmente de su invisibilidad, con una financiación de US$30 millones de OpenAI, Founders Fund y Lux Capital.

El software de Valthos recopila datos biológicos de fuentes comerciales y gubernamentales, como el monitoreo del aire y las aguas residuales, y luego utiliza herramientas de IA para identificar amenazas emergentes y caracterizar los riesgos. La compañía también está desarrollando sistemas de IA para actualizar el diseño de contramedidas médicas ante amenazas en constante evolución y planea incorporar socios como compañías farmacéuticas para la fabricación y distribución.

“La única manera de disuadir un ataque es saber cuándo ocurre, actualizar las contramedidas e implementarlas rápidamente”, afirmó McMahon, quien anteriormente dirigió durante mucho tiempo la división de ciencias de la vida de Palantir Technologies Inc. McMahon fundó Valthos junto con Tess van Stekelenburg, socia de capital de riesgo de Lux Capital, licenciada en neurociencia computacional y biología. Van Stekelenburg comentó que llevaba años buscando una empresa de biodefensa a la que apoyar antes de decidirse a fundar la suya propia con McMahon.

La tecnología de defensa se ha convertido en un área atractiva para la inversión de capital riesgo, ya que los inversores de Silicon Valley invierten miles de millones en drones autónomos, sistemas nucleares avanzados y otras iniciativas de seguridad nacional. Sin embargo, la financiación para la biotecnología, una categoría que incluye la defensa contra armas biológicas, se desplomó este año a su nivel más bajo en más de una década, según datos de la firma de investigación PitchBook.

Al mismo tiempo, los avances en la investigación de IA, bien financiada, han aumentado las apuestas por la innovación biotecnológica. A principios de este año, la Comisión de Seguridad Nacional sobre Biotecnología Emergente publicó un informe sobre el sector, en el que solicitaba más inversión. «Llegará el momento ChatGPT para la biotecnología», escribieron los autores, «y si China llega primero, por muy rápido que corramos, nunca lo alcanzaremos».

Grandes empresas de modelos lingüísticos han afirmado que están realizando sus propias evaluaciones de riesgos y trabajando para desarrollar contramedidas que identifiquen y prevengan el uso delictivo de su tecnología. Jason Kwon, director de estrategia de OpenAI, afirmó que Valthos es la primera inversión en bioseguridad que OpenAI ha considerado realizar, aunque sugirió que el trabajo de la empresa en este ámbito podría aumentar.

“Es necesario un sistema de tecnologías compensatorias para que el sistema sea robusto”, afirmó Kwon. Añadió que OpenAI está en constante evolución de medidas de seguridad para prevenir el uso indebido de ChatGPT, y que una bioseguridad eficaz requiere una amplia red de actores diversos. “Tenemos que construir un ecosistema”.

El gobierno federal ha recortado recientemente la financiación de proyectos de biodefensa, al mismo tiempo que el sector privado ha reducido su propio gasto, en parte porque la biotecnología no siempre ha sido rentable para los inversores. "La pregunta es si esta es la cantidad adecuada de dinero y si podemos implementar estas soluciones de la manera correcta", declaró Daniel Regan , miembro sénior del Consejo de Riesgos Estratégicos, especializado en bioseguridad. "Es difícil para estas empresas con capital privado salir del valle de la muerte de la inversión y encontrar el camino al éxito".

Pero la IA y un mayor enfoque en la tecnología de defensa podrían estar cambiando el panorama e impulsando a empresas como Valthos. Delian Asparouhov, socia de Founders Fund, conoce a van Stekelenburg desde que su firma, Lux, respaldó a Varda Space Industries, la farmacéutica espacial que él fundó. Asparouhov afirmó que respaldar a Valthos no habría tenido sentido, ni siquiera habría sido posible hace unos años, pero desde entonces los avances tecnológicos han aumentado la capacidad de crear armas biológicas con IA, así como la posibilidad de prevenirlas.

“Antes de 2025 había rumores, pero ahora realmente ha salido a la luz”, dijo Asparouhov. Dado que el gobierno estadounidense será un cliente principal de la tecnología de Valthos, la directora ejecutiva McMahon afirmó que la startup aplicará muchos de los mismos principios que aprendió en Palantir sobre cómo trabajar con funcionarios y clientes comerciales. "Necesitamos conectar con los operadores en sus propios lugares", afirmó.

Brandon Reeves, socio de Lux Capital, afirmó que había pocas startups desarrollando herramientas en el ámbito de la bioseguridad, pero predice que Valthos será la primera de muchas empresas en centrarse en el sector. "Estamos en las primeras etapas", declaró Reeves. "Creemos que esto debería estar al mismo nivel de amenaza que la energía nuclear o la ciberseguridad".