Спустя 20 лет очевидно: с цензурой интернета у Китая получилось. На очереди искусственный интеллект
В 2000 году Билл Клинтон, который тогда занимал пост президента США, сравнил намерение Китая контролировать интернет с «попыткой прибить желе к стене». Но с тех пор китайским властям все же удалось взять интернет под контроль. В стране недоступны западные сервисы, от Facebook и Google до Netflix, а контент на местных платформах жестко цензурируется. Все это не помешало Китаю сформировать цифровую экономику с гигантскими оборотами. «Медуза» рассказывает, как китайские власти (у которых перенимают опыт российские) планируют контролировать инструменты искусственного интеллекта — примерно по той же модели, которая позволила им взять под контроль интернет внутри страны.
ИИ для потребителей: социалистические ценности и тюрьма за фейки
ChatGPT и его аналоги от западных компаний запрещены в Китае, а местные чат-боты с генеративным ИИ (он отвечает за создание оригинального контента по запросу пользователя) должны следовать жестким правилам. С марта 2023 года компании должны получать регистрацию на алгоритмы, «которые могут влиять на решения людей» — под это определение подпадает практически любое программное обеспечение, ориентированное на потребителей.
В июле 2023 года китайское правительство потребовало, чтобы любой контент, созданный ИИ, «поддерживал социалистические ценности», то есть не содержал антипартийных лозунгов или карикатур на Си Цзиньпина (точные правила регулирования контента узнали только разработчики). Под эти критерии подпадали 110 зарегистрированных в Китае сервисов, например, SenseChat от компании SenseTime, SparkDesk от iFLYTEK и Hunyuan от Tencent.
Через несколько месяцев, осенью 2023 года, китайские власти опубликовали список правил, которым должны следовать разработчики при обучении генеративных моделей ИИ — и санкции за их несоблюдение. Если в наборе данных для обучения ИИ государственные цензоры обнаружат более 5% «незаконной и вредной информации», чат-бот будет внесен в черный список и заблокирован в Китае. Под незаконной или вредной информацией подразумевается «прославление терроризма и насилия», «призывы к свержению социалистической системы», «подрыв репутации страны», «подрыв национального единства и социальной стабильности».
Использование нейросетей в «преступных целях» наказывалось в Китае и до этого. В мае 2023 года в провинции Ганьсу арестовали мужчину, который, как утверждается, создал с помощью ChatGPT несколько фейковых новостей о том, что в железнодорожной катастрофе в Ганьсу погибли девять строителей, и опубликовал их в соцсети Baijiahao от корпорации Baidu. Его посты собрали около 15 тысяч кликов. Согласно китайскому закону о публикации заведомо ложной информации, обвиняемому может грозить до 10 лет лишения свободы.
Жесткая политика Пекина замедлила распространение генеративного ИИ в стране, считают авторы The Economist. Например, чат-бот Ernie Bot от компании Baidu был готов примерно в то же время, что и ChatGPT, в конце 2022 года, но корпорация смогла выпустить его только в августе 2023-го. Девять месяцев — это «целая вечность, учитывая, как быстро развивается технология», писал The Economist.
«Заявить, что корпорация Baidu выпустила Ernie Bot „для общего пользования“ можно с очень большой натяжкой, — считает эксперт и автор телеграм-канала о Китае Темур Умаров. — Чтобы получить аккаунт, необходимо предоставить все настоящие контактные данные». В чат-бот также встроена функция мониторинга — чувствительные запросы могут стать источником проблем для пользователя, подчеркивает исследователь.
ИИ для корпораций: неограниченное развитие и биржи данных
Для корпоративного ИИ (того, что используется компаниями для обработки данных и помощи в принятии управленческих решений) — отличие от потребительского — практически нет ограничений в Китае. Опрошенные The Economist эксперты по цифровым технологиям отмечали: отсутствие регуляции приведет к тому, что китайские компании будут в первую очередь развивать не чат-боты, а машинное обучение для бизнеса.
Его развитие интересно не только самому бизнесу, но и китайским чиновникам: в мае 2023 года власти города Шэньчжэнь запустиликрупнейший в мире инвестиционный фонд для развития ИИ, его объем составил 14 миллиардов долларов. Средства направляются в компании, которые предлагают корпорациям генеративный ИИ, управляющий рисками.
Для обучения потребительских чат-ботов разработчики используют данные открытого интернета, доступного для всех пользователей. Однако для развития корпоративного ИИ необходима информация о деятельности компаний, большая часть которой хранится на закрытых внутренних серверах. Чтобы облегчить разработку ИИ для бизнеса, китайские власти планируют сделать эти сведения публичными. Для этого они продвигают биржи данных — технологические платформы, на которых компании могут торговать и обмениваться информацией о клиентах, транзакциях, поведении пользователей, производительности заводов. С их помощью небольшие китайские фирмы получат доступ к сведениям о деятельности технологических гигантов, а у банков появится возможность следить за экономикой страны в реальном времени.
Китайские города начали запускать биржи данных в начале 2010-х годов, сейчас по всей стране их около 50. Доступ к ним есть у государственных органов, частных и государственных компаний Китая. Например, Шанхайская биржа предоставляет данные о врачах, медсестрах и больничных койках по всему Китаю в режиме реального времени. Эта информация может быть полезна, например, фармацевтическим компаниям. По мнению аналитиков мэрии Шанхая, к 2025 году местная биржа данных будет оцениваться в примерно 69 миллиардов долларов.
Аналитик Том Нанлист из пекинской консалтинговой фирмы Trivium, которого цитирует The Economist, считает, что «датафикация» бизнеса и госуправления в Китае может стать импульсом для экономического роста. Китаист Темур Умаров согласен: «У Китая в приоритете развивать собственные механизмы ИИ, которые будут помогать в повседневной деятельности — например, упрощать бюрократическую работу или продуктивнее строить математические и экономические модели. Китай зациклен на планировании, в стране до сих пор продолжают публиковаться пятилетки».
Зачем Китаю контролировать искусственный интеллект? Есть сразу несколько причин
У регулирования ИИ в Китае есть три цели, считают специалисты американского экспертно-аналитического центра Carnegie. Первая — подчинить технологию, чтобы она служила интересам Коммунистической партии, способствовала цензуре и ограничению доступа к информации в стране. Вторая — взять под контроль социальные и экономические последствия от развития ИИ. К ним могут относиться потенциальная потеря рабочих мест, генерация опасного или некорректного контента, неравный доступ к новым технологиям и необходимость защиты данных. Третья цель — сделать Китай мировым лидером в разработке и применении ИИ. Так, в 2017 году китайские власти представили «Программу развития искусственного интеллекта нового поколения», в которой уже заявляли о том, что Китай должен стать мировым инновационным центром ИИ. К 2030 году вложения в отрасль должны составить 150 миллиардов долларов, в смежные с ней сферы — 1,5 триллиона долларов.
Эксперты Carnegie перечислили три основных постановления в области алгоритмов и ИИ, которые Китай принял за последние три года.
- Постановление 2021 года о рекомендательных алгоритмах защищаетправа работников, чей труд определяется алгоритмами ИИ. В частности, ИИ должен учитывать право на отпуск и медицинскую помощь, а также предотвращать мошенничество с зарплатами.
- Правила 2022 года об использовании машинного обучения и других генеративных инструментов для создания контента, в том числе дипфейков, требуют помещать специальные метки на созданные ИИ изображения, сообщения, имитирующие речь человека, и аудио и видео с использованием реальных людей.
- Правила 2023 года о генеративном ИИ заставляют разработчиков использовать только одобренный цензурой контент. Он должен соответствовать «социалистическим ценностям», а также не допускать дискриминации по расовым, национальным, религиозным и другим признакам.
Все постановления требуют от разработчиков подавать заявки в китайский реестр алгоритмов — так называется государственное хранилище, в котором собирается информация об обучении ИИ. Реестр запустили в 2023 году специалисты Государственной канцелярии интернет-информации КНР — главного органа регулирования интернета в стране. Основная информация из реестра доступна только чиновникам ведомства.
Единый закон, регулирующий ИИ в Китае, может появиться уже в этом году
На данный момент Китай не ставит перед собой цель достичь глобального лидерства в области ИИ — эти планы отложены как минимум на конец 2020-х годов. Если бы Китай хотел заявить о своем желании доминировать на мировой арене в вопросах ИИ, в постановлениях властей декларировались бы другие аспекты технологии, подчеркивают эксперты Carnegie.
Китайские чиновники говорили, что регулировать ИИ трудно из-за того, что нормативные акты в КНР были приняты раньше, чем в ЕС и США, и у китайских регуляторов не было возможности сопоставить свои законы с нормами других стран.
По словам Темура Умарова, Китай начал принимать превентивные меры по контролю ИИ, поскольку правительство страны крайне чувствительно относится к медиапотреблению граждан: «Чиновникам важно, чтобы в чат-ботах появлялись темы, которые выбрали государственные органы, а не алгоритм».
Китайские чиновники потратили несколько лет на обсуждение и принятие нормативных актов, связанных с отдельными областями применения искусственного интеллекта — глубоким синтезом и рекомендательными алгоритмами. Теперь они приступают к разработке единого национального закона об ИИ.
Этот процесс повторяет эволюцию китайского законодательства, регулирующего интернет. В 2000-х и в начале 2010-х интернет в Китае подпадал под действие нормативных актов, которые издавали сразу несколько министерств. По мере накопления этих нормативных актов государство разработало единый документ — закон о кибербезопасности КНР, вступивший в силу в июне 2017 года. Он вводил обязательное хранение данных и личной информации пользователей, требовал от компаний сотрудничать с государством в расследовании киберпреступлений, а также предусматривал проверки на кибербезопасность для корпораций в сфере коммуникаций, финансов и энергетики.
Как предполагают эксперты Carnegie, аналогичный акт в сфере ИИ можно ждать уже в 2024 году. Пока достоверной информации о нем нет. Но намекать на его содержание может «экспертное предложение» от Академии общественных наук КНР, которое вышлов августе 2023 года. В нем рекомендуется создать «национальное управление ИИ» для контроля за развитием технологии в стране, ежегодно публиковать отчеты о «социальной ответственности» ИИ-моделей, а также составить «негативный список» областей ИИ с повышенным риском, в которых компании не смогут проводить исследования без разрешения правительства.
Источник meduza.io
