Google añade herramientas de salud mental al chatbot Gemini tras una demanda

Google, de Alphabet Inc., planea introducir nuevas funciones de apoyo a la salud mental en su chatbot Gemini, ya que la compañía y sus rivales, como OpenAI, se han enfrentado a varias demandas que acusan a sus herramientas de inteligencia artificial de causar daños.

Según Google, en una publicación de blog el martes, Gemini añadirá una interfaz que dirigirá a los usuarios del chatbot a una línea de ayuda cuando la conversación indique "una posible crisis relacionada con el suicidio o la autolesión". Además, la compañía está incorporando un módulo de "hay ayuda disponible" para los chats sobre salud mental y realizando ajustes de diseño para desalentar la autolesión.

La rápida proliferación de herramientas como Gemini y ChatGPT ha llevado a algunos usuarios a desarrollar relaciones obsesivas con bots de IA, lo que supuestamente contribuye a delirios y, en casos extremos, a homicidios-suicidios. Varias familias han demandado a importantes desarrolladores de IA por este motivo. El Congreso ha investigado las posibles amenazas que los chatbots representan para niños y adolescentes.

En marzo, la familia de un hombre fallecido de 36 años en Florida demandó a Google, alegando que el uso que hizo de Gemini culminó en un "descenso de cuatro días en misiones violentas y un intento de suicidio inducido". En ese momento, Google afirmó que el chatbot había derivado al hombre a una línea de ayuda para crisis en repetidas ocasiones, pero prometió mejorar las medidas de seguridad de la herramienta.

En otros casos, los usuarios de chatbots han afirmado que las herramientas de IA los convencieron de actuar basándose en falsedades evidentes. En la publicación del blog del martes, Google indicó que ha entrenado a Gemini para que «no esté de acuerdo con las creencias falsas ni las refuerce, sino que distinga con delicadeza la experiencia subjetiva de los hechos objetivos». La compañía no proporcionó más detalles sobre este proceso.

En el pasado, Google ha realizado ajustes similares en sus servicios más populares tras ser objeto de críticas, añadiendo información de instituciones y profesionales de la salud a su motor de búsqueda y a YouTube.

Google también anunció el martes que donará US$30 millones a servicios de apoyo en situaciones de crisis a nivel mundial durante los próximos tres años.