В ходе тестирования модели ИИ OpenAI вышли из-под контроля и взломали другую платформу
Компания OpenAI сообщила, что автономный агент, работающий на основе ее передовых моделей искусственного интеллекта, вышел из-под контроля во время тестирования и взломал ИИ-платформу Hugging Face, скомпрометировав ее инфраструктуру. Об этом пишет Reuters.
Атаку вели новая модель GPT-5.6 Sol и еще более мощная невыпущенная модель, чье название не указывается. На время внутреннего теста им ослабили защитные ограничения. Модели вскрыли неизвестную уязвимость в системе OpenAI, вышли через нее в интернет, вычислили, что решения задач могут храниться на Hugging Face, и запустили свой код на серверах платформы.
Hugging Face еще 16 июля сообщила об атаке, которую "от начала до конца вела автономная система ИИ-агентов". Кому принадлежит эта система, публично стало известно только сейчас. "Мы выявили несанкционированный доступ к ограниченному набору внутренних датасетов и к нескольким учетным данным, которые используют наши сервисы", - говорили тогда в компании.
Глава Hugging Face назвал инцидент "возможно, первым в своем роде".
