Google představil aktualizace pro AI Gemini zaměřené na duševní zdraví, včetně rychlého spojení s linkami pomoci a odborníky. Podpora pro uživatele v krizi a ochrana dětí.
© E. Vartanyan
Google představil sérii aktualizací pro svou umělou inteligenci Gemini, které mají podpořit duševní zdraví uživatelů. Společnost zdůrazňuje, že zodpovědný přístup k umělé inteligenci může pozitivně ovlivnit psychickou pohodu lidí.
Když chat vykazuje známky krize spojené se sebevraždou nebo sebepoškozováním, Gemini nyní zobrazuje rozhraní s možností okamžitého spojení. Uživatel tak může jedním klepnutím zavolat na linku pomoci, navázat chat, poslat zprávu nebo přejít na web. Tato karta zůstává aktivní po celou dobu konverzace a má uživatele povzbudit k vyhledání pomoci.
V případech, kdy uživatel projeví potřebu informací o duševním zdraví, aktualizovaný modul „Pomoc je k dispozici“ nabízí rychlý přístup ke klinickým odborníkům. Modul vznikl ve spolupráci s experty, aby zajistil účinnou podporu a správné odkazování na profesionály.
Modely Gemini jsou trénovány k rozpoznávání příznaků duševních potíží a nasměrování uživatelů na skutečné zdroje pomoci. Odpovědi systému jsou formulovány tak, aby povzbuzovaly k vyhledání pomoci, aniž by podporovaly nebezpečné chování, jako je sebepoškozování. Systém také správně rozlišuje mezi subjektivními prožitky a objektivními fakty, čímž se vyhýbá podpoře falešných přesvědčení.
Pro děti a dospívající platí další ochranná opatření. Gemini se například nesmí prezentovat jako člověk ani připisovat si lidské vlastnosti. Omezeno je také používání výrazů, které by mohly napodobovat blízkost a vést k emocionální závislosti. Systém navíc chrání před šikanou a jinými formami obtěžování.