Anthropic расследует возможную утечку доступа к закрытой ИИ-модели Claude Mythos
Компания Anthropic расследует возможный несанкционированный доступ к своей закрытой ИИ-модели Claude Mythos Preview, предназначенной для задач в сфере кибербезопасности. Об этом пишет Би-би-си со ссылкой на Bloomberg.
По данным Bloomberg, небольшая группа пользователей получила доступ к модели через закрытый форум, минуя стандартные разрешения.
"Мы расследуем сообщение о несанкционированном доступе к Claude Mythos Preview через среду одного из наших партнеров", - заявили в Anthropic.
По имеющейся информации, человек, через которого был получен доступ, имел разрешение на работу с моделями Anthropic в рамках контракта с третьей стороной. Глава компании по кибербезопасности SmartTech Ралука Сачану назвала произошедшее, скорее всего, "злоупотреблением доступом, а не классическим взломом".
В Anthropic заявили, что пока не обнаружили признаков компрометации своих систем или использования модели в преступных целях.
При этом эксперты предупреждают, что использование мощных ИИ-инструментов вне установленных рамок контроля может создать риски не только для безопасности, но и для распространения возможностей, которые могут применяться для мошенничества и кибератак.
Anthropic предоставила доступ к Claude Mythos ограниченному кругу технологических и финансовых компаний в рамках проекта Glasswing. Его цель - использовать возможности модели для защиты от киберугроз, а не для атак.
Однако произошедшее показало, что безопасность доступа к таким инструментам зависит не только от самой Anthropic, но и от того, насколько строго партнеры контролируют работу с моделью.
Ранее сообщалось, что Claude Mythos Preview обладает продвинутыми возможностями в сфере кибербезопасности, в том числе может автономно искать уязвимости нулевого дня в операционных системах и браузерах. Из-за потенциальных рисков Anthropic не выпускала модель в открытый доступ.
