ChatGPT

ChatGPT Atlas: опасная уязвимость памяти стала инструментом хакеров

Специалисты по кибербезопасности выявили серьёзную брешь в работе веб-браузера ChatGPT Atlas от OpenAI. Уязвимость позволяет хакерам незаметно внедрять вредоносные команды в систему искусственного интеллекта и запускать произвольный код.

Пользовательские запросы ChatGPT утекли в Google Search Console

Открытие показало, что маршруты обработки данных OpenAI могли случайно передавать пользовательские запросы инструменту веб-аналитики Google. Эта ситуация подчеркивает трудности, возникающие при интеграции технологий искусственного интеллекта с поисковыми сервисами, особенно в условиях динамического взаимодействия с онлайн-данными. Разработчики AI сталкиваются с техническими и этическими вызовами, которые требуют постоянного внимания и улучшения.

ChatGPT не начнёт показывать рекламу своим пользователям, заявляет OpenAI

Недавно появившиеся элементы интерфейса, похожие на рекламные объявления, оказались обычными рекомендациями приложений без оплаты. Тестирование новой функции App SDK от OpenAI вызвало бурные дискуссии, когда некоторые пользователи ChatGPT приняли предложенные приложения за платную рекламу. Хотя ситуация вскоре разъяснилась, случай поднимает вопрос о том, собирается ли компания, работающая в убыток с момента своего основания, в конечном итоге начать показ рекламы, особенно для бесплатных пользователей.

Защита ГИИ в браузере: эффективная политика, изоляция и контроль данных

Сегодня браузер стал основным интерфейсом взаимодействия сотрудников большинства компаний с технологиями генеративного искусственного интеллекта (GenAI). Это включает веб-приложения на основе больших языковых моделей (LLM), чат-помощников и расширения браузера, работающие на основе технологий GenAI, вроде ChatGPT Atlas. Сотрудники активно используют возможности GenAI для написания писем, подготовки документов, анализа данных и даже разработки программного кода. Часто этот процесс осуществляется путем копирования конфиденциальной информации прямо в поля запросов или загрузки файлов непосредственно в систему.