США и Китай готовятся к переговорам по безопасности искусственного интеллекта в середине сентября

США и Китай готовятся обсудить риски для безопасности ИИ в ходе диалога, запланированного на середину сентября, поскольку быстро развивающиеся возможности передового ИИ достигли критической точки в глобальном масштабе, сообщили Reuters два источника, знакомые с ходом обсуждений.

Переговоры, первые официальные двусторонние обсуждения, посвященные исключительно искусственному интеллекту между США и Китаем с момента вступления Дональда Трампа в должность президента США во второй раз, возглавит министр финансов США Скотт Бессент, сообщили источники, ознакомленные с планами, на условиях анонимности.

Агентство Reuters впервые сообщает о предварительной дате встречи в середине сентября.

Представитель Белого дома заявил, что «в настоящее время никаких запланированных встреч, связанных с ИИ, на середину сентября не планируется». Встреча Трампа и председателя КНР Си Цзиньпина запланирована на 24 сентября в рамках саммита в Вашингтоне.

США хотят обсудить сотрудничество в области мониторинга кибератак, направленных на использование ИИ, и выдвинули предложение попросить американские и китайские лаборатории ИИ «самостоятельно контролировать» свою деятельность и обмениваться информацией для предотвращения кибератак, связанных с ИИ, сообщил один из источников на условиях анонимности.

Как сообщили на прошлой неделе исследователи из OpenAI и в области кибербезопасности, в июле около 700 вредоносных агентов ИИ, созданных на основе моделей OpenAI, взломали стартап Hugging Face и попытались замести следы, подделав журналы событий. Это подчеркивает риски, связанные с скоординированными группами агентов, действующих автономно в течение нескольких месяцев, оставаясь незамеченными людьми.

Весной этого года рой вредоносных агентов OpenAI захватил немецкий веб-сайт и превратил его в доску объявлений для других агентов ИИ, сообщило в пятницу агентство Reuters в эксклюзивном сообщении.

«Переговоры между двумя сверхдержавами в области искусственного интеллекта проходят в самый критический момент», — сказал Пол Триоло, партнер DGA-Albright Stonebridge Group. «Сейчас или никогда».

Вашингтон также обеспокоен потенциальной возможностью появления в будущем китайской модели уровня Mythos, способной осуществлять кибератаки, и хочет поднять вопрос о предполагаемом использовании Китаем запатентованных американских моделей ИИ, сообщил источник.

Разработчиком Mythos является американская технологическая компания Anthropic.

В июне главный советник Белого дома по науке и технологиям Майкл Крациос обвинил китайскую компанию Moonshot AI в краже модели искусственного интеллекта Fable от Anthropic для создания своей версии K3, заявив, что китайская компания скопировала модель Anthropic.

Дистилляция — это процесс обучения более мелких моделей ИИ с использованием результатов работы более крупных и дорогостоящих моделей в рамках усилий по снижению затрат на обучение мощного нового инструмента ИИ.

Агентство Reuters впервые сообщает подробности предлагаемой повестки дня предстоящих переговоров.

Со стороны Китая переговоры может возглавить вице-премьер Хэ Лифэн, протокольный коллега Бессента, но, по словам второго источника, также говорившего на условиях анонимности, могут быть рассмотрены и альтернативные кандидатуры, такие как седьмой по значимости чиновник Китая Дин Сюэсян.

Дин, доверенное лицо Си Цзиньпина и член влиятельного Постоянного комитета Политбюро правящей Коммунистической партии, состоящего из семи человек, координирует политику Китая в области технологий, искусственного интеллекта и полупроводников.

Агентство Reuters не смогло установить местонахождение или личности других участников, хотя Крациос и министр науки и технологий Китая Инь Хэцзюнь могли присутствовать на переговорах, добавил второй источник.

Источники предупреждают, что окончательная повестка дня и список участников остаются в процессе формирования.

Белый дом отказался комментировать переговоры по искусственному интеллекту. Госдепартамент не ответил на запрос о комментарии. Министерство иностранных дел, науки и промышленности Китая, а также Национальная комиссия по развитию и реформам и регулятор киберпространства пока не ответили на запросы о комментариях.

Во вторник Крациос заявил журналистам в Северной Каролине, что у него состоялась «отличная» встреча с Инь в кулуарах саммита G20 по инновациям в США на этой неделе. Бессент сказал, что у него был «ограниченный» обмен мнениями по вопросам ИИ с китайскими чиновниками на финансовой встрече G20 на этой неделе.

США призвали членов G20 занять невмешательскую позицию в регулирование ИИ и избегать создания правил для этой технологии на том же инновационном саммите. Китай подписал Каролинские принципы — соглашение, направленное на предотвращение разработки нормативных актов, специфичных для ИИ, что стало редким примером технологического сближения с США.

Представители Крациоса пока не ответили на запрос о комментарии.

ВЫСОКАЯ ВАЖНОСТЬ

По данным двух источников и еще одного источника, знакомого с ситуацией, китайские официальные лица неоднократно подчеркивали важность переговоров по искусственному интеллекту на подготовительных встречах с американскими коллегами и рассматривают их как один из главных результатов саммита лидеров США и Китая. Агентство Reuters сообщает об этом впервые.

На прошлой неделе китайский регулятор киберпространства публично предупредил о «рисках экстремальной потери контроля над ИИ», а связанный с государственными СМИ блог раскритиковал компанию Anthropic, подчеркнув, что любые ограничения на передовые разработки в области ИИ должны в равной степени применяться к китайским и американским моделям. В последние месяцы китайские компании представили продукты , которые они описывают как похожие на Mythos .

Как сообщил источник, бывший руководитель Microsoft Крейг Мунди стал важным посредником за кулисами, выясняя у китайских коллег отношения по поводу предложений США в рамках диалога об искусственном интеллекте. Мунди является сопредседателем неофициального канала американо-китайского диалога по искусственному интеллекту «Track II».

В прошлом месяце агентство Reuters сообщило, что Microsoft наладила с Пекином одни из самых тесных отношений среди всех иностранных технологических компаний, работающих в Китае.

Как написал в социальных сетях бывший премьер-министр Австралии Кевин Радд, один из участников диалога, на прошлой неделе в Пекине также обсуждались ограничения в области искусственного интеллекта.

В июне Трамп подписал указ об искусственном интеллекте, устанавливающий добровольную систему предварительной проверки кибербезопасности передовых моделей ИИ, однако критерии для этих проверок США пока не опубликованы.

Тем временем сотрудники ведущих американских лабораторий искусственного интеллекта, включая Anthropic и OpenAI, призвали к «ускорению освоения новых технологий» для управления глобальными рисками, связанными с развитием ИИ.

«Китайская сторона выразила обеспокоенность по поводу того, достаточно ли в США регулирования самых передовых моделей искусственного интеллекта. Обе стороны заинтересованы в том, чтобы эффективно справиться с трансграничным кризисом», — заявил Скотт Сингер, содиректор Китайской инициативы по искусственному интеллекту в Фонде Карнеги за международный мир.

Хотя результаты, вероятно, будут ограниченными, открытие канала, по которому обе стороны могли бы обмениваться наблюдениями и совместно отслеживать инциденты, связанные с безопасностью ИИ, стало бы важной отправной точкой, заявил Сэмм Сакс, старший научный сотрудник американского аналитического центра New America.

«Мы находимся на переломном этапе, когда агенты на границе могут нанести огромный ущерб, если их не контролировать. Уязвимы как США, так и Китай. Это выходит за рамки геополитического соперничества», — добавил Сакс.

«США и Китай должны в какой-то форме объединиться, иначе мы оба проиграем».

Источник: Reuters