Разное

OpenAI запустила Lockdown Mode для защиты от злоупотреблений промптами

OpenAI запустила Lockdown Mode для защиты от злоупотреблений промптами
Фото: © Сгенерировано нейросетью

OpenAI начала разворачивать Lockdown Mode — новый режим усиленной защиты для пользователей ChatGPT. Он предназначен для борьбы с атаками prompt injection, когда злоумышленники прячут вредоносные инструкции на веб-страницах, в документах или другом контенте, чтобы заставить ИИ выполнить нежелательные действия.

В OpenAI подчёркивают, что Lockdown Mode не нужен всем пользователям. Режим рассчитан на людей и организации, которые работают с чувствительными данными и хотят снизить риск их утечки. По сути, это дополнительный уровень защиты поверх уже существующих механизмов безопасности ChatGPT, моделей и серверной инфраструктуры OpenAI.

После включения Lockdown Mode часть возможностей ChatGPT ограничивается. Пользователь по-прежнему может генерировать изображения и загружать свои фото или документы вручную, но система не сможет подгружать изображения из интернета, показывать картинки внутри ответа или скачивать файлы для анализа. Deep Research и Agent Mode в этом режиме полностью отключаются, поскольку именно такие функции чаще связаны с внешними источниками и сетевыми действиями.

OpenAI отдельно поясняет, что Lockdown Mode не удаляет сами вредоносные инструкции из контента, который обрабатывает ChatGPT. Его задача другая: ограничить сетевые запросы и действия, через которые атакующий мог бы попытаться извлечь чувствительную информацию из аккаунта пользователя. При этом настройки памяти, загрузки файлов, обмена диалогами и использования разговоров для улучшения моделей остаются отдельными параметрами и не меняются автоматически.

Включить Lockdown Mode можно в настройках ChatGPT в разделе Safety and security. Там в блоке Advanced security нужно активировать переключатель Lockdown mode. При необходимости защиту можно временно отключить только для конкретного чата через статусное сообщение над окном диалога.

Одновременно OpenAI запускает менеджер активных сессий. Он позволяет увидеть устройства и браузеры, с которых выполнялся вход в аккаунт, а затем завершить отдельные сеансы или выйти сразу со всех устройств. Если пользователь подозревает несанкционированный доступ, OpenAI рекомендует сменить пароль, проверить способы входа и обратиться в поддержку.