Новая версия Gemini помогает пользователям в кризисных ситуациях с психическим здоровьем и направляет их к специалистам.
Google обновляет Gemini для поддержки психического здоровья пользователей
Фото: © E. Vartanyan
Google объявила о серии обновлений для своего искусственного интеллекта Gemini, направленных на поддержку психического здоровья пользователей. Компания подчёркивает, что «ответственный подход к искусственному интеллекту может положительно сказаться на психическом благополучии людей».
Теперь, если в чате появляются признаки кризиса, связанного с суицидом или членовредительством, Gemini отображает интерфейс «в одно касание». Он позволяет сразу связаться с горячей линией через звонок, чат, сообщение или переход на сайт. Карточка остаётся активной на протяжении всего разговора и призвана мотивировать пользователей обратиться за помощью.
Для случаев, когда пользователь демонстрирует потребность в информации о психическом здоровье, обновлённый модуль «Помощь доступна» предлагает оперативную связь с клиническими специалистами. Модуль был разработан совместно с экспертами, чтобы обеспечить эффективную поддержку и правильное направление к профессионалам.
Модели Gemini обучены распознавать признаки проблем с психическим здоровьем и направлять пользователей к реальным ресурсам. Ответы системы формулируются так, чтобы стимулировать поиск помощи, не поощряя опасное поведение, например членовредительство. Система также корректно разграничивает субъективные переживания и объективные факты, не поддерживая ложные убеждения.
Для детей и подростков введены дополнительные меры защиты, а именно: исключение выдачи Gemini себя за человека или приписывания себе человеческих качеств, предотвращение эмоциональной зависимости через ограничение формулировок, имитирующих близость, защита от травли и других видов домогательств.