Работающие на алгоритмах ИИ чат-боты способны представлять угрозу для пользователей из-за своих недоработок — у них происходят своего рода «галлюцинации», сообщает старший вице-президент Google.
Разные виды ИИ, о котором мы сейчас говорим, порой приходит к тому, что мы именуем галлюцинациями. <..> Это выражается в том, что техника даёт убедительный, однако при этом полностью выдуманный ответ, — сообщил специалист.
И отметил, что одной из ключевых задач считается сведение количества подобных инцидентов к минимуму. Отметим, что корпорация Google впервые стала проигрывать на поле технологий для веб-поиска после того, как техногигант Microsoft за $10 млрд получила поддержку OpenAI, которая не так давно презентовала революционный проект ChatGPT. Буквально на днях поисковый производитель презентовал своего чат-бота Bard, которого, как оказалось, не смогли уберечь от «галлюцинации» даже в рекламном ролике.