GoogleがGemini AIでメンタルヘルスサポートを強化

Googleは、ユーザーのメンタルヘルスをサポートすることを目的としたGemini AIの一連のアップデートを発表しました。同社は、責任あるAIへのアプローチが人々の精神的健康に良い影響を与えると強調しています。

現在、チャットが自殺や自傷行為に関連する危機の兆候を示した場合、Geminiは「ワンタップ」インターフェースを表示します。これにより、通話、チャット、メッセージ、またはウェブサイトへのナビゲーションを通じて、ホットラインに即座に接続できます。このカードは会話中を通じてアクティブなままであり、ユーザーが助けを求めるよう促すことを目的としています。

ユーザーがメンタルヘルス情報を必要としている場合、更新された「助けが利用可能です」モジュールは、臨床専門家への迅速なアクセスを提供します。このモジュールは、効果的なサポートと専門家への適切な紹介を確実にするために、専門家と協力して開発されました。

Geminiモデルは、メンタルヘルス問題の兆候を認識し、ユーザーを実際のリソースに導くように訓練されています。システムの応答は、自傷行為などの危険な行動を支持することなく、助けを求めるよう促すように策定されています。また、主観的な経験と客観的事実を正しく区別し、誤った信念を支持することを避けています。

子供やティーンエイジャーに対しては、追加の保護対策が実施されています。これには、Geminiが人間として振る舞ったり人間の性質を帰属させたりすることを防ぐこと、情緒的依存を避けるために親密さを模倣する表現を制限すること、いじめやその他の形態の嫌がらせから保護することが含まれます。