Доклад ООН о регулировании искусственного интеллекта. На что он повлияет
Консультативный орган высокого уровня по искусственному интеллекту (КОИИ) ООН 19 сентября опубликовал доклад с рекомендациями по регулированию этой технологии (на английском и французском языках, русскоязычная версия ожидается). Издание РБК рассказало подробности этого доклада.
Отчет включает семь положений:
- создать независимую Международную научную группу по ИИ, которая объединит экспертов из разных стран и дисциплин и будет работать при поддержке учреждений ООН, например Международного союза электросвязи (ITU) и ЮНЕСКО. Такая группа может выпускать исследования и отчеты о возможностях ИИ и связанных с технологией проблемах. Авторы доклада отмечают, что ранее подобные группы были созданы по темам изменения климата и атомной радиации;
- начать в рамках ООН межправительственный диалог по вопросам управления ИИ: обмениваться опытом; способствовать внедрению в разных странах мер регулирования, которые будут совместимыми, а не противоречащими друг другу; делиться значительными инцидентами в области ИИ;
- организовать обмен стандартами в области ИИ с участием представителей национальных и международных организаций по разработке стандартов, технологических компаний, гражданского общества;
- создать сеть для развития потенциала в области ИИ. Среди прочего она должна предоставлять тренеров, вычислительные мощности и данные для обучения ИИ исследователям и предпринимателям, которые стремятся применять эту технологию в общественных интересах; запустить программу стипендий для перспективных специалистов;
- создать глобальный фонд для развития ИИ, который будет управляться независимой структурой. Он должен в том числе обеспечить предоставление вычислительных ресурсов для специалистов в странах, где их нет, и создание репозитория для ИИ-моделей и наборов данных, которые могут использоваться для целей устойчивого развития;
- создать глобальную структуру по управлению данными для ИИ по аналогии, например, со Всемирной организацией интеллектуальной собственности (WIPO, ведет базу патентов на изобретения, товарных знаков и т. п.);
- создать офис ИИ, который будет подчиняться генсекретарю ООН.
Как отмечается в докладе, ИИ может принести позитивные изменения в различных сферах, но без контроля возможности этой технологии могут не проявиться или будут распределены несправедливо. "Из-за увеличения цифрового разрыва преимущества ИИ могут быть доступны лишь небольшому числу стран, компаний и отдельных лиц", - указано в документе. Кроме того, ИИ несет различные риски, в том числе для мира и безопасности, а также связанные с энергопотреблением поддерживающих ИИ систем во время климатического кризиса. Поэтому разработку, внедрение и использование такой технологии "нельзя оставить только на усмотрение рынка". Поскольку речь идет о трансграничной по структуре и применению технологии, это требует глобального подхода.
Как создавался документ
КОИИ был создан в октябре 2023 года по инициативе генсекретаря ООН Антониу Гутерриша. Он включает 39 экспертов из 33 стран. Доклад опубликован в преддверии Саммита будущего ООН, который пройдет 22-23 сентября в Нью-Йорке. Ожидается, что на саммите будет подписан Глобальный цифровой договор - документ "мягкого права", который, по замыслу Гутерриша, будет содержать базовые принципы развития цифровых технологий в мире. В драфте договора говорится в том числе о стремлении стран придерживаться этики при применении искусственного интеллекта. Но, как заявила "Коммерсанту" официальный представитель МИД Мария Захарова, переговоры по Глобальному цифровому договору продвигаются непросто.
"Западники пытаются застолбить за собой монополию в вопросах интернет-регулирования, поставить на одну доску государства и неправительственные структуры в принятии решений по международной технологической повестке. В противовес мы с единомышленниками подчеркиваем насущность конкретных мер по скорейшему преодолению цифрового разрыва для достижения целей устойчивого развития. Только так у государств глобального Юга появится возможность создавать необходимые продукты и услуги, а не получать готовые решения от западных корпораций, известных применением хищнических практик", - говорила Захарова.
Директор Центра ИИ МГИМО Анна Абрамова, которая входит в КОИИ и участвовала в подготовке доклада, в разговоре с РБК назвала его "очень значимым для последующих международных дискуссий". По ее словам, доклад - это взгляд экспертов на то, чем чревато бесконтрольное развитие ИИ и что может быть сделано на международном уровне, чтобы риски не воплотились в жизнь. "Ни для кого не секрет, что блага от внедрения передовых технологий, в том числе искусственного интеллекта, распределяются неравномерно как между странами, так и внутри них. Уже на новом технологическом витке усугубляется цифровое неравенство. Это ведет к тому, что сужаются возможности для стабильного гармоничного развития мировой экономики с равными возможностями для всех", - говорит Абрамова.
Доклад не носит юридически обязывающего характера для стран - членов ООН, но, по словам Абрамовой, "содержит идеи, которые неизбежно в той или иной мере найдут отражение и в международных документах, и в национальном законодательстве". Она отмечает, что перед каждой страной сейчас стоит задача сформулировать национальные приоритеты и подходы к регулированию ИИ, и большинство стран, по мнению эксперта, "будут руководствоваться заложенными в документ принципами, так как они отвечают интересам их долгосрочного социально-экономического развития". "Страны заинтересованы в стабильном получении и трансфере новых технологий, что позволит на качественно новом уровне решать вопросы неравенства. В развитых странах должно сформироваться понимание, что без выравнивания уровней технологического и экономического развития глобальное гармоничное общество не построить", - поделилась Абрамова.
Прислушаются ли к рекомендациям
В начале июня Леопольд Ашенбреннер, бывший сотрудник OpenAI (создатель ChatGPT, на данный момент наиболее известной в мире языковой модели), спрогнозировал, что AGI (Artificial General Intelligence, общий искусственный интеллект, который, как ожидается, по своим интеллектуальным способностям будет соответствовать или в каких-то областях превосходить человеческий разум) может быть создан уже к 2027 году. Он также указал, что началась "гонка за ИИ". Речь шла как о гонке в развитии самой технологии ("к концу десятилетия [машины] будут умнее нас с вами; у нас будет суперинтеллект в истинном смысле слова"), так и о возможной гонке в области ИИ между США и Китаем, которая в худшем случае может привести к полномасштабной войне.
Гендиректор MTS AI Андрей Калинин назвал рекомендации ООН адекватными с точки зрения упомянутых в самом докладе вызовов (цифровое неравенство, кардинальное изменение рынка труда из-за быстрого развития ИИ, отсутствие глобального регулирования), но сам по себе отчет, по его мнению, не подвигнет страны к конкретным действиям. Калинин отметил, что даже если ООН достигнет своей цели, то "это вряд ли окажет какое-либо влияние на стратегические планы крупных корпораций и правительств". Например, в отчете упоминаются семь межстрановых инициатив по управлению ИИ: во всех семи участвуют США, Великобритания, Германия, Франция, Италия, Канада и Япония, в то время как еще 118 стран не участвуют ни в одной из них. "Страны глобального Юга, которые вызывают беспокойство у ООН, по-прежнему останутся в стороне, поскольку им недостает влияния, финансовых ресурсов, инфраструктуры и экспертизы в сфере ИИ. Более того, маловероятно, что населению той же Африки в данный момент действительно нужен искусственный интеллект, так как у них остаются нерешенными базовые проблемы", - рассуждает Калинин.
Гендиректор AIRI, профессор Сколтеха Иван Оселедец отметил, что, принимая во внимание международные политические процессы, представленный документ носит скорее теоретический характер. Он сомневается, что предложенных в докладе единых стандартов для всего мира можно будет достичь "с учетом вариативности этапов развития ИИ в разных странах". "Это связано не только с такими аспектами, как расхождение на уровне внешней политики, экономический и технологический разрыв между разными странами, но и с различиями в законодательстве. Например, рассмотрим такой популярный и пугающий публику пример, как применение автоматизации в вопросах судебной практики: в США право прецедентное, и теоретически там возможно попробовать применить рекомендательную систему для принятия решений в судебных делах, в России же внедрение таких систем намного сложнее из-за иной правовой системы", - пояснил Оселедец. Он считает более реалистичным вариантом создание глобального консультативного органа, который мог бы давать рекомендации для конкретных предметных областей или определенных регионов.
Еще один собеседник РБК в компании, развивающей искусственный интеллект, назвал нереалистичным выполнение рекомендаций из доклада. "Рекомендации показывают, что ИИ сейчас одна из ключевых тем в повестке, поэтому ООН необходимо присмотреться к этой технологии, она должна развиваться с учетом рисков для безопасности и т. д., но особой экспертизы в технологиях у организации нет", - рассуждает этот собеседник.
Он указал, что сейчас конкуренция в ИИ идет между конкретными компаниями, а не странами, и не факт, что ООН будет иметь на них влияние.
"Хотя инициатива ООН как будто про то, чтобы снизить влияние корпораций", - оговорился источник.
