Google har uppdaterat Gemini AI med funktioner för psykisk hälsa, inklusive jourlinje-åtkomst och klinisk expertstöd, för att främja ansvarsfull användning och välbefinnande.
© E. Vartanyan
Google har presenterat en rad uppdateringar till sin AI-modell Gemini, med fokus på att stödja användares psykiska hälsa. Företaget understryker att ett ansvarsfullt förhållningssätt till AI kan ha en positiv inverkan på människors välbefinnande.
Om en chatt visar tecken på kris kopplad till självmord eller självskada, visar Gemini nu ett gränssnitt med enkelknappsfunktion. Detta möjliggör omedelbar kontakt med en jourlinje via telefonsamtal, chatt, meddelande eller webbnavigation. Funktionen förblir aktiv under hela konversationen och syftar till att uppmuntra användare att söka hjälp.
I situationer där en användare visar behov av information om psykisk hälsa, erbjuder den uppdaterade modulen "Hjälp finns tillgänglig" snabb åtkomst till kliniska experter. Modulen har utvecklats i samarbete med specialister för att säkerställa effektivt stöd och korrekt hänvisning till professionella.
Geminis modeller är tränade att känna igen tecken på psykiska hälsoproblem och att dirigera användare till verkliga resurser. Systemets svar är utformade för att uppmuntra hjälpsökande utan att stödja farligt beteende som självskada. Det skiljer också korrekt mellan subjektiva upplevelser och objektiva fakta, vilket undviker stöd för falska föreställningar.
För barn och tonåringar finns ytterligare skyddsåtgärder på plats. Dessa inkluderar att förhindra att Gemini presenterar sig som mänsklig eller tillskriver sig mänskliga egenskaper, begränsningar i formuleringar som efterliknar närhet för att undvika emotionellt beroende, samt skydd mot mobbning och andra former av trakasserier.