Google Gemini KI bietet Updates zur psychischen Gesundheit, darunter Hotline-Verbindungen und Fachhilfe. Erfahren Sie, wie KI verantwortungsvoll Hilfe leistet und Schutz für Nutzer bietet.
© E. Vartanyan
Google hat eine Reihe von Updates für seine KI Gemini vorgestellt, die auf die Unterstützung der psychischen Gesundheit von Nutzern abzielen. Das Unternehmen betont, dass ein verantwortungsvoller Umgang mit KI das mentale Wohlbefinden positiv beeinflussen kann.
Erkennt Gemini in einem Chat Anzeichen einer Krise im Zusammenhang mit Suizid oder Selbstverletzung, zeigt es eine "One-Tap"-Schnittstelle an. Diese ermöglicht eine sofortige Verbindung zu einer Hotline per Anruf, Chat, Nachricht oder Website-Navigation. Die Karte bleibt während des gesamten Gesprächs aktiv und soll Nutzer dazu ermutigen, Hilfe in Anspruch zu nehmen.
Für Fälle, in denen ein Nutzer Bedarf an Informationen zur psychischen Gesundheit zeigt, bietet das aktualisierte "Hilfe ist verfügbar"-Modul schnellen Zugang zu klinischen Fachkräften. Das Modul wurde mit Experten entwickelt, um wirksame Unterstützung und eine angemessene Weiterleitung zu gewährleisten.
Die Gemini-Modelle sind darauf trainiert, Anzeichen psychischer Probleme zu erkennen und Nutzer an echte Ressourcen zu verweisen. Die Antworten des Systems sind so formuliert, dass sie zur Hilfesuche ermutigen, ohne gefährliches Verhalten wie Selbstverletzung zu befürworten. Zudem unterscheidet es korrekt zwischen subjektiven Erfahrungen und objektiven Fakten, um die Unterstützung falscher Überzeugungen zu vermeiden.
Für Kinder und Jugendliche gelten zusätzliche Schutzmaßnahmen. Dazu gehört, dass Gemini sich nicht als Mensch ausgibt oder menschliche Eigenschaften zuschreibt. Die Formulierungen sind so gestaltet, dass sie keine emotionale Abhängigkeit fördern, und es schützt vor Mobbing und anderen Formen von Belästigung.