Google presenta actualizaciones en su IA Gemini para respaldar la salud mental, incluyendo conexión rápida a líneas de ayuda y recursos para crisis.
© E. Vartanyan
Google ha presentado una serie de actualizaciones en su IA Gemini, orientadas a respaldar la salud mental de los usuarios. La compañía subraya que un enfoque responsable de la inteligencia artificial puede influir positivamente en el bienestar psicológico de las personas.
Ahora, si un chat muestra indicios de una crisis relacionada con suicidio o autolesión, Gemini despliega una interfaz de "un solo toque". Esto permite conectar de inmediato con una línea de ayuda mediante llamada, chat, mensaje o navegación web. La tarjeta permanece activa durante toda la conversación y busca animar a los usuarios a pedir ayuda.
En situaciones donde un usuario evidencia necesidad de información sobre salud mental, el módulo actualizado "Hay ayuda disponible" ofrece acceso rápido a profesionales clínicos. Este módulo se desarrolló con expertos para garantizar un apoyo eficaz y una derivación adecuada a especialistas.
Los modelos de Gemini están entrenados para reconocer señales de problemas de salud mental y dirigir a los usuarios hacia recursos reales. Las respuestas del sistema se formulan para fomentar la búsqueda de ayuda sin avalar conductas peligrosas, como las autolesiones. Además, distingue correctamente entre experiencias subjetivas y hechos objetivos, evitando respaldar creencias falsas.
Para niños y adolescentes, se han implementado medidas de protección adicionales. Entre ellas, se impide que Gemini se presente como humano o atribuya cualidades humanas, se limita el lenguaje que imita cercanía para evitar dependencia emocional, y se protege contra el acoso y otras formas de hostigamiento.