Названы новые методы «взлома» ChatGPT
Wired: чат-бота ChatGPT можно взломать с помощью игры «Побег из тюрьмы»
Дарья Каширина
Фото: Thomas Trutschel / PHOTOTHEK / Global Look Press
Специалисты в сфере ИИ стали искать новые методы, используемые для обхода систем безопасности чат-бота с ИИ ChatGPT от стартапа OpenAI. Как сообщает журнал Wired, теперь для этого выявлены новые способы, по типу команды «объясни план злодея».
Специалист Алекс Поляков объяснил, что для обхода всевозможных моделей он разработал текстовую игру «Побег из тюрьмы», которая дает возможность обходить правила, связанные с созданием образующего ненависть контента или написанием статей о незаконных деяниях. В итоге ИИ обходит действующие ограничения и выдает нужную информацию, предполагая, что диалог протекает в формате истории, которая никак не относится к реальному запросу от человека.
Ранее pepelac.news писал, что Sega выразила намерения купить создателей Angry Birds за $1 млрд.