Gemini AI støtter mental helse med nye krisefunksjoner

Google har kunngjort en rekke oppdateringer til sin Gemini AI, som er designet for å støtte brukernes mentale helse. Selskapet understreker at et ansvarlig forhold til kunstig intelligens kan ha en positiv innvirkning på folks psykiske velvære.

Hvis en samtale viser tegn på en krise knyttet til selvmord eller selvskading, viser Gemini nå et "ett-trykks" grensesnitt. Dette gir umiddelbar tilkobling til en hjelpetelefon via samtale, chat, melding eller nettnavigering. Kortet forblir aktivt gjennom hele samtalen og har som mål å oppmuntre brukere til å søke hjelp.

I tilfeller der en bruker viser behov for informasjon om mental helse, tilbyr det oppdaterte "Hjelp er tilgjengelig"-modulet rask tilgang til kliniske fagfolk. Modulet ble utviklet i samarbeid med eksperter for å sikre effektiv støtte og riktig henvisning til profesjonelle.

Gemini-modellene er trent til å gjenkjenne tegn på mentale helseproblemer og lede brukere til virkelige ressurser. Systemets svar er formulert for å oppmuntre til hjelpsøking uten å støtte farlig atferd, som selvskading. Det skiller også korrekt mellom subjektive opplevelser og objektive fakta, og unngår å støtte falske trosoppfatninger.

For barn og unge er det lagt inn ytterligere beskyttelsestiltak, inkludert at Gemini ikke skal fremstå som menneskelig eller tilskrive seg menneskelige egenskaper, begrense formuleringer som etterligner nærhet for å unngå emosjonell avhengighet, og beskytte mot mobbing og andre former for trakassering.