Google heeft updates voor Gemini AI aangekondigd die gebruikers ondersteunen bij mentale gezondheid, met snelle toegang tot hulplijnen en professionele zorg.
© E. Vartanyan
Google heeft een reeks updates aangekondigd voor zijn AI-model Gemini, die gericht zijn op het ondersteunen van de mentale gezondheid van gebruikers. Het bedrijf benadrukt dat een verantwoorde aanpak van kunstmatige intelligentie een positieve invloed kan hebben op het mentale welzijn van mensen.
Wanneer een chatgesprek tekenen vertoont van een crisis rond zelfmoord of zelfbeschadiging, toont Gemini nu een interface met één tik. Hiermee kunnen gebruikers direct contact leggen met een hulplijn via telefoon, chat, bericht of websitebezoek. Deze kaart blijft actief tijdens het hele gesprek en heeft als doel gebruikers aan te moedigen hulp te zoeken.
Voor situaties waarin een gebruiker behoefte toont aan informatie over mentale gezondheid, biedt de bijgewerkte module 'Hulp is beschikbaar' snelle toegang tot klinische professionals. Deze module is ontwikkeld in samenwerking met experts om effectieve ondersteuning en een goede doorverwijzing naar professionals te garanderen.
De Gemini-modellen zijn getraind om signalen van mentale gezondheidsproblemen te herkennen en gebruikers naar echte hulpbronnen te leiden. De reacties van het systeem zijn zo geformuleerd dat ze aanzetten tot het zoeken van hulp, zonder gevaarlijk gedrag zoals zelfbeschadiging te promoten. Het systeem maakt ook een duidelijk onderscheid tussen subjectieve ervaringen en objectieve feiten, waardoor het geen valse overtuigingen ondersteunt.
Voor kinderen en tieners gelden extra beschermende maatregelen. Zo voorkomt Gemini dat het zichzelf als mens presenteert of menselijke eigenschappen toeschrijft. Ook beperkt het woordgebruik dat nabijheid suggereert, om emotionele afhankelijkheid te vermijden. Daarnaast beschermt het tegen pesten en andere vormen van intimidatie.