безопасность ИИ

безопасность ИИ - AI safety

copilot reprompt injection

Reprompt‑атака: как за один клик выкачать данные из Copilot

Исследователи в области кибербезопасности обнародовали детали принципиально новой методики атакиReprompt. Она позволяет злоумышленникам извлекать конфиденциальные данные из ИИ‑чат‑ботов частности, из Microsoft Copilot) буквально в один клик, полностью обходя корпоративные системы защиты.

Режим блокировки в ChatGPT: защита данных от утечек

OpenAI внедряет новый режим безопасности — «Режим блокировки» (Lockdown Mode) — для пользователей ChatGPT. Функция предназначена для снижения риска утечки конфиденциальной информации из‑за атак с внедрением вредоносных запросов (prompt injection). Разберёмся, кому и как пригодится эта опция.

1
Подписаться на рассылку
На этом сайте используются файлы cookie. Продолжая просмотр сайта, вы разрешаете их использование. Подробнее. Закрыть