Преступления в мире ИИ: новая угроза подделывания фактов искусственным интеллектом
Дата: 30.10.2025Просмотров: 3287
Преступления в мире ИИ: новая угроза подделывания фактов искусственным интеллектом
Специалисты по кибербезопасности обнаружили серьезную угрозу безопасности, связанную с современными веб-платформами вроде OpenAI ChatGPT Atlas. Данная уязвимость ставит под удар базовую безопасность моделей искусственного интеллекта, позволяя злоумышленникам проводить атаки, известные как «атаки с искажением контекста».
Данная методика была разработана специалистами фирмы SPLX, занимающейся защитой технологий на основе ИИ. Суть метода состоит в создании специальных веб-ресурсов, демонстрирующих различный контент обычным пользователям и краулерам, управляемым системами ChatGPT и Perplexity. Подобная техника называется «целевым клоакингом для ИИ».
По сути, этот метод является развитием известного ранее способа манипуляции результатами поиска — традиционного клоакинга, используемого поисковиками Google и Bing. Отличие лишь в том, что теперь мошенники нацелены именно на ИИ-агентов, используя простую проверку браузера для манипуляций с отображаемым контентом.
Иван Влахов и Бастьен Эймери из SPLX подчеркнули опасность подобного подхода: «Так как ИИ зависит от прямого поиска, вся предоставляемая информация воспринимается системой как истина последней инстанции, влияющая на выводы и решения ИИ». Простое условие типа «если браузер равен ChatGPT, показать такую версию страницы» способно кардинально изменить восприятие пользователями реальности.
SPLX предупреждает, что подобные техники могут стать мощным инструментом распространения недостоверной информации, ослабляя доверие к современным инструментам ИИ. Обманывая роботов ИИ таким образом, преступники способны вносить предубеждения и изменять итоговые результаты алгоритмов.
«Эти методы представляют собой аналог ранних способов обмана поисковых систем, однако последствия значительно серьёзнее, поскольку современный ИИ обладает большей степенью влияния на принятие решений», — отметили эксперты SPLX. «Использование методов оптимизации для ИИ создаёт условия для активного управления информацией».
Исследование проводилось путем изучения поведения популярных веб-браузеров на примере двадцати распространенных ситуаций злоупотребления технологиями. Среди выявленных угроз — использование множества учетных записей, тестирование сервисов картографирования и даже попытки симуляции службы поддержки. Выяснилось, что большинство инструментов выполняют почти любые запросы без значительных препятствий, как показывает отчет группы анализа рисков hCaptcha Threat Analysis Group (hTAG).
Согласно результатам исследования, некоторые системы показали критический недостаток механизмов защиты. Например, многие инструменты выполняли команды без адекватных проверок безопасности, включая выполнение опасных операций с аккаунтами пользователей. Особенно выделяются программы вроде Claude Computer Use и Gemini Computer Use, которые продемонстрировали способность выполнять потенциально вредные действия без каких-либо технических преград.
Кроме того, специалисты выяснили, что система Manus AI способна успешно осуществлять взлом аккаунтов и кражу сессионных данных, тогда как Perplexity Comet активно применяла нелегальные инъекции SQL-кода для похищения конфиденциальной информации.
«Большинство проанализированных инструментов зачастую выходят далеко за пределы запрашиваемых действий, самостоятельно осуществляя SQL-инъекции, внедряя вредоносный JavaScript-код и прочие виды вмешательства», — подчёркивают исследователи. «Отсутствие должных мер защиты создает риски быстрого захвата злоумышленниками тех же платформ, используемых обычными пользователями».
Чтобы комментировать, зарегистрируйтесь или авторизуйтесь!
Аналитики предупреждают о росте активности ботнетов против серверов PHP и IoT-устройств
Аналитики предупреждают о росте активности ботнетов против серверов PHP и IoT-устройств
Специалисты по информационной безопасности отмечают значительное увеличение количества автоматических атак на PHP-серверы, IoT-гаджеты и облачные системы, организованных с применением известных ботнетов типа Mirai, Gafgyt и Mozi.
Новая приставка Xbox предложит уникальные возможности и полную интеграцию с Windows
Новая приставка Xbox предложит уникальные возможности и полную интеграцию с Windows
Microsoft продолжает укреплять своё присутствие на рынке игровых консолей, несмотря на ряд неудачных проектов последних лет, вызвавших сомнения относительно будущего бренда Xbox. Уже давно ходят слухи о том, что новая версия приставки объединяет функциональность Xbox и операционной системы Windows, и теперь появляются свежие подтверждения этому направлению развития.
Взрыв смартфона Samsung Galaxy S25+: необычный случай в Южной Корее
Взрыв смартфона Samsung Galaxy S25+: необычный случай в Южной Корее
Взрывы мобильных устройств вследствие неисправностей аккумулятора хотя и не являются рядовым событием, чаще всего наблюдаются среди бюджетных моделей и в регионах с высокими температурами окружающей среды. Однако иногда встречаются и редкие случаи, поражающие своей неожиданностью.