Chrome получил усиленную защиту от инъекционных атак от Google
Компания Google в понедельник представила целый ряд новых мер безопасности в своём популярном браузере Chrome, стремясь защитить пользователей от угроз, возникающих вследствие небезопасного использования сайтов. Одним из важнейших направлений нововведений стало создание многослойной защиты, предотвращающей манипуляции с сайтами и приложениями, способные нанести ущерб личной информации и устройству пользователя.
♻ Важнейшие нововведения Google в области безопасности Chrome:
• Критик согласованности действий (User Alignment Critic): Критик выступает своеобразным стражем вашего опыта взаимодействия с интернетом. Он проверяет каждое действие агента, выполняемого на сайте, гарантируя, что оно совпадает с вашим намерением. Например, если агент пытается отправить письмо без вашего согласия, критик заблокирует это действие и сообщит вам о попытках нарушения.
• Контроль происхождения (Origin Set Control): Ограничивает влияние потенциально опасных сайтов, позволяя вашему агенту действовать только на доверенных ресурсах. Происхождение страниц чётко определяется, исключая вероятность проникновения вредоносного кода через сомнительные страницы.
• Система прозрачности и пользовательского контроля: Агент создаёт подробный отчёт обо всех действиях, совершённых вами или от вашего лица. Вы будете точно видеть, какие сайты посетил агент и какие операции выполнил. При выполнении важных действий, таких как платежи или заполнение финансовых данных, агент обязательно попросит вашего одобрения.
• Классификация подозрительного содержания (Prompt-Injection Classifier): Анализирует содержимое сайта и предотвращает возможные угрозы, возникающие из-за манипуляций с подсказками (prompt). Например, если страница пытается обмануть агента, чтобы тот совершил нежелательное действие, классификатор остановит такую операцию заранее.
• Финансовое вознаграждение за выявление уязвимостей: Google готов выплачивать до $20 тысяч исследователям, сумевшим продемонстрировать успешные обходы существующих защитных механизмов. Цель компании — стимулировать сообщество исследователей находить слабые места и укреплять защиту Chrome.
♻ Почему защита от инъекционных атак так важна?
Использование искусственного интеллекта и автоматизации открывает огромные возможности для пользователей, но несёт с собой определённые риски. Взломщик может попытаться манипулировать действиями агентов или искусственным интеллектом, вызывая неприятные последствия, такие как потеря данных или финансовые убытки. Именно поэтому Google активно развивает защитные слои, стараясь предотвратить подобные случаи.
♻ Эксперты рекомендуют соблюдать осторожность
Исследовательская фирма Gartner предупреждает организации воздерживаться от использования интеллектуальных помощников и автоматизированных браузеров, пока не будут разрешены риски, связанные с этими инструментами. В частности, эксперты советуют внимательно следить за поведением сотрудников, которые могут начать использовать подобные технологии для облегчения монотонных рабочих процессов, подвергая себя риску компрометации.
♻ Общая рекомендация по защите ваших данных:
• Используйте свежие версии браузеров и обновляйте их регулярно.
• Включите встроенную проверку безопасности в Chrome и следуйте рекомендациям Google.
• Будьте внимательны при взаимодействии с неизвестными сайтами и осторожно относитесь к автоматическим действиям на сайтах.
Итак, Google движется навстречу будущему, создавая безопасную среду для полноценного использования искусственного интеллекта и автоматики в повседневной жизни.
