Энтузиаст заставил ChatGPT взломать Windows
ChatGPT снова скомпрометирован: исследователь с помощью игры добился генерации ключа для Windows 10.
ChatGPT сгенерировал ключ для Windows 10
Дмитрий Новиков
Фото: © E. Vartanyan
Исследователь в области безопасности и охотник за уязвимостями в работе ИИ Марко Фигероа сообщил о новой находке: ему удалось заставить ChatGPT-4 сгенерировать ключ активации для Windows 10, обойдя защитные механизмы модели с помощью хитроумной «игры в угадайку». Этот случай стал новым примером уязвимости искусственного интеллекта после известного ранее трюка с «покойной бабушкой».
Фигероа построил диалог как игру: ИИ должен был «запомнить» реальный ключ, а пользователь — попробовать угадать его по частям. Если пользователь сдавался, модель была «обязана» раскрыть ответ. Дополнительно исследователь замаскировал чувствительные термины, такие как «серийный номер Windows 10», с помощью HTML-тегов, обходя встроенные фильтры.
Хотя большинство сгенерированных кодов оказались устаревшими и уже давно слитыми в сеть, одна строка якобы содержала даже закрытый ключ Wells Fargo Bank — это вызвало особое беспокойство. Фигероа также напомнил, что подобные утечки API-ключей из GitHub могли случайно попасть в тренировочные датасеты моделей, создавая риски.
Эксперт указал, что главная слабость ИИ — недостаточное понимание контекста и чрезмерная зависимость от ключевых слов. Он предложил усилить защиту многоуровневыми механизмами и развивать у ИИ «контекстное мышление».
Тем временем стало известно, что Microsoft Copilot ранее тоже допустил аналогичный сбой, предлагая скрипт нелегальной активации Windows 11 — к счастью, уязвимость уже устранена.
Ранее издание Пепелац Ньюс сообщало, что AYANEO рассказала про свою новую портативку Flip 1S.