Команда из Кыргызстана победила в соревновании по выявлению уязвимостей ИИ
Команда из Кыргызстана одержала победу в престижном соревновании по выявлению уязвимостей в передовых системах искусственного интеллекта, организованном компанией Anthropic. Эта компания является главным конкурентом OpenAI (ChatGPT) со своим продуктом Claude, а также известна своей приверженностью безопасности ИИ. Anthropic привлекла более 3 миллиардов долларов инвестиций от таких технологических гигантов, как Google и Amazon.
В соревновании приняли участие около 14 тысяч экспертов по всему миру, которые в общей сложности потратили более 10 000 часов на тестирование системы. Целью конкурса было выявление слабых мест в механизмах безопасности ИИ - так называемых джейлбрейков, позволяющих обходить защитные протоколы и получать от модели нежелательные или запрещенные ответы.
Алтынбек Исмаилов и Салия Асанова, стипендиат президентской программы "Эл умуту", возглавили команду, первой преодолевшей все восемь уровней испытаний. Они применили уникальный метод, который Anthropic назвала "универсальным джейлбрейком". Их успех не только продемонстрировал высокий уровень мастерства участников, но и предоставил ценные данные для дальнейшего совершенствования систем безопасности ИИ.
Этот результат имеет важное значение для индустрии. Подобные соревнования помогают выявлять уязвимости, способствуя созданию более надежных и безопасных технологий как в общественном, так и в коммерческом секторах.
Подробнее о соревновании можно узнать тут:
