CEO de Nvidia, Huang, solicita pruebas de seguridad de IA en la Cumbre del Rey Carlos

Los titanes de la industria de la inteligencia artificial se reunieron en Escocia para escuchar al monarca británico desafiarlos a controlar sus inventos.

El rey Carlos III convocó a líderes tecnológicos y otras figuras influyentes a una cumbre centrada en los crecientes riesgos de la IA, un tema que ha acaparado la atención mundial esta semana. Si bien los ejecutivos presentes no se comprometieron públicamente a realizar cambios, algunos abordaron directamente las preocupaciones sobre la seguridad.

«Quienes desarrollamos IA debemos probar los sistemas rigurosamente», declaró Jensen Huang, director ejecutivo de Nvidia Corp., en unas breves palabras durante el evento real del jueves. «Si un producto no es lo suficientemente seguro, debemos retenerlo».

Junto a Huang en Escocia estuvieron Sarah Friar, directora financiera de OpenAI, y Demis Hassabis, cofundador de Google DeepMind. Tino Cuéllar, jefe de asuntos públicos de Anthropic PBC, también participó en el foro de IA en Dumfries House, junto con líderes de otras empresas tecnológicas, organizaciones sin fines de lucro e instituciones educativas, incluida la Universidad de Tsinghua de Pekín.

«Quienes en nuestro mundo valoran nuestra humanidad y su componente moral vital buscan con ansias su garantía de que no perderemos el control de nuestro destino», dijo el rey en su discurso de apertura. La reunión tenía como objetivo debatir cómo se podría «aprovechar la tecnología para beneficiar a la sociedad y al mundo natural», indicó el Palacio de Buckingham en un comunicado.

El evento llega en un momento oportuno. El director ejecutivo de Anthropic, Dario Amodei, desató un debate global sobre los crecientes riesgos de la IA en un ensayo publicado el fin de semana, en el que abogaba por ralentizar el desarrollo de modelos de vanguardia. El director ejecutivo de OpenAI, Sam Altman, coincidió con las conclusiones del ensayo, mientras que Hassabis lo describió como el «camino correcto a seguir». Por su parte, Huang, de Nvidia, se mostró en desacuerdo con una ralentización o una mayor regulación. La semana pasada, dos investigadores de IA renunciaron a Google DeepMind y Anthropic , alegando que la tecnología podría ser letal.

Estas preocupaciones han generado inquietud entre los legisladores y el público en general a nivel internacional. El primer ministro británico, Andy Burnham, está bajo presión de diputados de su Partido Laborista para que aclare la política de IA del país. Funcionarios chinos han rechazado el alarmismo de Amodei y han advertido sobre los peligros de la IA en los últimos días. Si bien el presidente estadounidense Donald Trump se ha opuesto a cualquier ralentización, legisladores de ambos partidos han propuesto medidas para abordar la seguridad de la IA y los votantes están cada vez más preocupados por esta tecnología .

“Últimamente ha habido un debate bastante acalorado sobre el riesgo catastrófico de esta tecnología”, declaró Hassabis en la cumbre. El científico británico, que recientemente dejó su cargo al frente de las operaciones de IA de Google, afirmó tener dos preocupaciones principales sobre la IA avanzada: los sistemas autónomos que se comportan mal y los “actores malintencionados” que los utilizan con fines perversos. Se mostró confiado en que la industria podría abordar estas preocupaciones. “Creo firmemente en el ingenio humano”, concluyó.