Нейросеть Gemini уличили в предвзятости

Google временно приостановила работу функции создания изображений в своем чат-боте Gemini после обнаружения проблем с исторической точностью портретов, особенно в контексте расовых вопросов. Проблема стала очевидной, когда изображения, созданные на основе запросов о персонах из истории, вроде американских отцов-основателей или солдат нацистской Германии, выходили за рамки общепринятых гендерных и расовых представлений, что вызвало обвинения в искажении исторических фактов.

Вскоре после появления первых жалоб, Google решила отправить генератор изображений на доработку. Пользователи столкнулись с тем, что запросы на создание изображений исторических личностей или групп часто приводили к результатам, отражающим расы, отличные от белой, что спровоцировало онлайн-спекуляции о преднамеренном избегании изображения белых людей компанией.

Например, когда Gemini получил запрос на создание портрета американского сенатора XIX века, ИИ предложил изображения чернокожих женщин и женщин из коренных народов Америки, несмотря на то, что первой женщиной-сенатором в США стала белая женщина только в 1922 году. Это вызвало беспокойство относительно возможного стирания исторической информации о расовой и гендерной дискриминации.

В настоящее время при попытке создать изображение человека или группы людей через Gemini пользователи получают уведомление о том, что Google работает над улучшением данной функции и обещает восстановить ее после обновления. Этот генератор изображений был введен в чат-боте Gemini, ранее известном как Bard, в начале месяца, в качестве ответа на схожие продукты от OpenAI и Microsoft Copilot, позволяя создавать визуальный контент по текстовым запросам.

Ранее сообщалось, что Microsoft проведёт принудительное обновление Windows 11 до версии 23H2.