ByteDance и Alibaba откаываются от ИИ-компаньонов, поскольку Пекин ужесточает правила

Компании ByteDance Ltd. и Alibaba Group Holding Ltd. отказываются от функций, позволяющих пользователям создавать и общаться с ИИ-компаньонами, готовясь к новым китайским правилам, регулирующим взаимодействие человека с искусственным интеллектом.

Согласно уведомлению, с которым ознакомилось агентство Bloomberg News, чат-бот Doubao от ByteDance, самый популярный в Китае, 15 июля отключит функцию, позволяющую пользователям настраивать собственные ИИ-персоны. В уведомлении пользователям предлагалось перейти в отдельное, автономное приложение-компаньон. По сообщениям местных СМИ, аналогичное предупреждение выпустила платформа Qwen от Alibaba, а также другие крупные платформы, такие как Yuanbao от Tencent Holdings Ltd.

Внезапное отступление произошло в преддверии вступления в силу в середине июля новых правил Пекина, ужесточающих контроль за человекоподобными сервисами искусственного интеллекта. Обеспокоенность по поводу того, что чат-боты с ИИ имитируют человеческие личности и эмоции, а также потенциальная привязанность пользователей к такому взаимодействию, послужили мотивацией для принятия новых правил, которые были впервые обнародованы в апреле .

Новые директивы представляют собой один из наиболее всеобъемлющих сводов правил, призванных предотвратить потенциальный вред от ИИ, хотя некоторые компании предупреждают, что жесткие правила будут препятствовать инновациям. Они отражают растущую глобальную тревогу по поводу психологических последствий использования разговорного ИИ. В США технологические платформы подверглись пристальному юридическому вниманию из-за аналогичных функций. Компании OpenAI Inc. и Character.AI, поддерживаемая Alphabet Inc., столкнулись с волной громких судебных исков, в которых утверждалось, что их гиперреалистичные чат-боты способствуют развитию опасной эмоциональной зависимости и, в крайних случаях, приводят к самоубийствам уязвимых пользователей.

Новые правила, инициированные Управлением по киберпространству Китая, запрещают платформам создавать контент, вызывающий сильные эмоции у несовершеннолетних или способствующий формированию нездоровых эмоциональных зависимостей, разрушающих реальные отношения. Эти правила также запрещают поставщикам использовать конфиденциальные данные о переписке пользователей для обучения будущих моделей искусственного интеллекта.

Китайские платформы для чат-ботов уже давно предлагают возможность персонализации ИИ-агента с помощью нескольких текстовых подсказок, а среди наиболее популярных вариантов — виртуальные парни и девушки, нелицензированные цифровые терапевты и симулированные клоны поп-идолов.

Помимо чат-ботов с искусственным интеллектом, пристальное внимание Китая к искусственной интимности уже распространяется на физическое оборудование. Как сообщила в субботу газета «Жэньминь жибао», две китайские группы компаний, занимающиеся робототехникой, настаивают на ужесточении этических гарантий как раз в тот момент, когда массовый коммерческий всплеск популярности роботов-компаньонов и полноразмерных человекоподобных роботов обрушился на дома потребителей.

Источник: Bloomberg