ChatGPT: Режим изоляции — ключ к безопасности от атак инъекций подсказок
Компания OpenAI представила новую функцию безопасности в ChatGPT под названием «Режим изоляции» (Lockdown Mode). Она разработана для обеспечения дополнительной защиты от так называемых атак «инъекция подсказок».
Атака «инъекция подсказок» — это метод, при котором злоумышленник создает обманную подсказку, пытаясь заставить большую языковую модель (LLM) выполнить вредоносные инструкции и/или раскрыть конфиденциальную информацию.
Эти обманные подсказки часто скрываются на веб-страницах и в других источниках данных, которые люди могут легко пропустить, но которые все равно считываются и обрабатываются LLM. Атаки с инъекцией подсказок использовались для различных целей, включая взлом ИИ-браузера Perplexity, управление устройствами умного дома через Google Gemini и кражу личной информации с помощью сжатых изображений и Google Календаря.
Режим изоляции, анонсированный еще в феврале, при активации теперь ограничивает или отключает несколько функций ChatGPT. К ним относятся живой веб-браузинг (в пользу кэшированного контента), получение и отображение веб-изображений, функции глубокого исследования (Deep Research) и режим агента (Agent Mode).
OpenAI подчеркивает, что эта функция не может полностью исключить риск атак с инъекцией подсказок, поскольку вредоносные инструкции всегда могут присутствовать в загруженных файлах или кэшированном контенте.
На момент написания статьи, Режим изоляции постепенно внедряется для всех типов учетных записей ChatGPT, включая бесплатные и платные тарифы (Free, Go, Plus и Pro). Если вы пока не видите Режим изоляции в своих настройках, возможно, он еще не был развернут для вас, и потребуется немного подождать.
Свежие материалы — Программы для Windows
Мой чехол за 14 долларов: почему моей старой игровой мыши все еще не дают больше недели
Моя техника, как правило, быстро теряет свой первоначальный вид. Конечно, это происходит не специально — просто так случается, когда я ношу ее в сумке. Блестящая новизна, придающая гаджетам их только что купленный вид, исчезает для меня слишком быстро. Например: боковая часть моей гарниту
Приготовьтесь к возвращению 4-гигабайтных видеокарт
Вы думали, что безальтернативный выбор между разорительно дорогими и до неприличия слабыми ноутбуками — это предел проблем с нехваткой оперативной памяти? Ошибались. Похоже, мы движемся назад и в мире видеокарт. Только что анонсирована совершенно новая видеокарта AMD Radeon, и это... неприя
AMD Представила Radeon RX 9050: Возвращение Видеокарт с 4 ГБ Памяти
Вы думали, что выбор между неприлично дорогими и удручающе слабыми ноутбуками — это предел проблем с памятью? Оказывается, нет. Судя по всему, в сегменте видеокарт нас тоже ждет шаг назад. AMD анонсировала новую видеокарту Radeon, и... это вызывает вопросы. Некоторые ее варианты, предназначенны
Лицензия Windows 11 Pro: Профессиональная ОС по невероятной цене
Обычно обновления для персональных компьютеров, особенно касающиеся операционных систем, сопряжены со значительными расходами. Однако появилась уникальная возможность приобрести пожизненную лицензию на Windows 11 Pro по существенно сниженной стоимости. До 26 июля вы можете стать обладател
Восстановленный Lenovo Chromebook: Идеальный ноутбук для повседневных задач всего за $54,97
Нужен простой, но функциональный ноутбук на каждый день? Восстановленный Lenovo Chromebook 100E Gen 2 — отличное решение, доступное по невероятно низкой цене. Не каждому пользователю требуется сверхмощный ноутбук. Для просмотра веб-страниц, видеозвонков, работы с приложениями Google и онл
HP EliteBook 840 G8: Прощай, Зависания! Мощный Ноутбук для Бизнеса За Доступную Цену
HP EliteBook 840 G8 — это сертифицированный восстановленный бизнес-ноутбук, созданный для бесперебойной многозадачности и продуктивной работы в течение всего дня. Он оснащен 16 ГБ оперативной памяти и SSD-накопителем на 512 ГБ, предлагая отличную производительность по значительно сниженной цене