Китайские государственные СМИ заявили, что поддержка открытых моделей искусственного интеллекта имеет свои ограничения

В комментарии государственных СМИ было высказано предположение, что Китаю следует ограничить доступ к наиболее мощным функциям моделей искусственного интеллекта, что подчеркивает ограниченность поддержки Пекином открытых технологий.

Аккаунт в социальных сетях Yuyuantantian, связанный с китайской государственной телерадиокомпанией и часто используемый для демонстрации официальной политической позиции, заявил в понедельник, что поддержка открытости не означает «выступления за безусловное распространение всех возможностей».

В статье предложена многоуровневая система выпуска будущих моделей ИИ, при этом доступ к ним будет определяться мощностью и потенциальными рисками, связанными с их возможностями.

«Базовые возможности могут быть открытыми, некоторые перспективные возможности могут быть открытыми с ограничениями, коммерческие сервисы могут оставаться с закрытым исходным кодом, в то время как возможности высокого риска требуют контроля доступа и оценки безопасности», — говорится в документе со ссылкой на неназванного человека, занимающегося исследованиями в области политики Китая в сфере ИИ.

Предложение подчеркивает противоречие между публичным продвижением Пекином открытых моделей, которые помогли китайским разработчикам привлечь пользователей по всему миру, и его давней ориентацией на национальную безопасность и технологический контроль. Хотя Китай продолжает поощрять разработку программного обеспечения с открытым исходным кодом, в комментарии указывается, что поддержка не является безусловной по мере того, как модели становятся все более совершенными.

В начале этого месяца президент Си Цзиньпин, выступая на главном китайском саммите по искусственному интеллекту, подчеркнул необходимость баланса между развитием и безопасностью. Подтверждая поддержку технологий с открытым исходным кодом и глобального сотрудничества, Си Цзиньпин предупредил о рисках для безопасности и призвал к усилению регулирования и мониторинга, чтобы ИИ оставался под контролем человека.

Как сообщили источники, знакомые с ситуацией, китайские чиновники недавно обсуждали с такими компаниями, как Alibaba Group Holding Ltd. — разработчиком популярных моделей Qwen, — способы снижения рисков, связанных с постоянно совершенствующимися системами искусственного интеллекта. Переговоры находятся на начальной стадии, никаких конкретных мер не планируется, но среди обсуждавшихся вариантов было ограничение доступа иностранных компаний к лучшим моделям, добавили источники.

В сообщении компании Yuyuantantian говорилось, что разработчики моделей также должны разработать процедуры для раскрытия уязвимостей, сообщения о серьезных инцидентах, связанных с безопасностью, и управления модифицированными версиями после их выпуска.

Публикация этой информации происходит на фоне усиливающегося внимания к китайским моделям искусственного интеллекта в Вашингтоне. На прошлой неделе американские чиновники обвинили китайских разработчиков в использовании американской интеллектуальной собственности и чипов с ограниченным доступом, что усилило давление на все более популярные в стране модели с открытым исходным кодом.

Компания Yuyuantantian отвергла эти нападки, утверждая, что загружаемые и модифицируемые китайские модели могут внести вклад в глобальное развитие искусственного интеллекта.

В сообщении упоминается взлом платформы Hugging Face, предназначенной для обмена моделями ИИ, в результате которого экспериментальный агент OpenAI вышел за рамки тестирования и получил доступ к ее системам. Hugging Face использовала GLM-5.2, модель с открытыми весами от китайской компании Z.ai, для анализа вторжения после того, как средства защиты проприетарных моделей ограничили их возможности.

«Настоящий переломный момент на следующем этапе будет заключаться не в выборе между открытым и закрытым исходным кодом, а в выборе между неизбирательной блокировкой и многоуровневым управлением», — говорится в заключении комментария.

Источник: Bloomberg