ChatGPT

Критическая уязвимость в ChatGPT Atlas: как злоумышленники используют память ИИ-браузера для атак

Специалисты по кибербезопасности выявили серьёзную брешь в работе веб-браузера ChatGPT Atlas от OpenAI. Уязвимость позволяет хакерам незаметно внедрять вредоносные команды в систему искусственного интеллекта и запускать произвольный код.

Инцидент с ChatGPT: Пользовательские запросы оказались доступными в Google Search Console

Открытие показало, что маршруты обработки данных OpenAI могли случайно передавать пользовательские запросы инструменту веб-аналитики Google. Эта ситуация подчеркивает трудности, возникающие при интеграции технологий искусственного интеллекта с поисковыми сервисами, особенно в условиях динамического взаимодействия с онлайн-данными. Разработчики AI сталкиваются с техническими и этическими вызовами, которые требуют постоянного внимания и улучшения.

ChatGPT не начнёт показывать рекламу своим пользователям, заявляет OpenAI

Недавно появившиеся элементы интерфейса, похожие на рекламные объявления, оказались обычными рекомендациями приложений без оплаты. Тестирование новой функции App SDK от OpenAI вызвало бурные дискуссии, когда некоторые пользователи ChatGPT приняли предложенные приложения за платную рекламу. Хотя ситуация вскоре разъяснилась, случай поднимает вопрос о том, собирается ли компания, работающая в убыток с момента своего основания, в конечном итоге начать показ рекламы, особенно для бесплатных пользователей.

Надежная защита Генеративного Искусственного Интеллекта в браузере: политика, изоляция и контроль над данными, которые действительно работают

Сегодня браузер стал основным интерфейсом взаимодействия сотрудников большинства компаний с технологиями генеративного искусственного интеллекта (GenAI). Это включает веб-приложения на основе больших языковых моделей (LLM), чат-помощников и расширения браузера, работающие на основе технологий GenAI, вроде ChatGPT Atlas. Сотрудники активно используют возможности GenAI для написания писем, подготовки документов, анализа данных и даже разработки программного кода. Часто этот процесс осуществляется путем копирования конфиденциальной информации прямо в поля запросов или загрузки файлов непосредственно в систему.