Пекин использует искусственный интеллект (ИИ) для выявления потенциальных диссидентов еще до того, как они успеют предпринять какие-либо действия. Согласно исследованию, проанализировавшему утекшие документы компании Geedge, вовлеченной в проекты по контролю над интернетом, система анализирует цифровое и социальное поведение граждан, становясь, по сути, реальной версией технологий из фильма «Особое мнение» (Minority Report). Эти усилия поддерживаются Китайской академией наук, а сама технология используется как правительственными ведомствами, так и продается иностранным государствам. Развитие таких инструментов, однако, ограничено дефицитом высокотехнологичного оборудования — графических процессоров (GPU), производимых американскими компаниями, экспорт которых был ограничен администрацией Байдена. Цель Коммунистической партии Китая — предотвратить действия, нарушающие общественный порядок, особенно несанкционированные протесты, с помощью все более совершенных методов контроля и манипуляции общественным мнением.
Утечка огромного массива данных двух компаний, созданных при содействии государственного научного аппарата и работающих в составе системы управления интернетом «Золотой щит» (Great Firewall), дала беспрецедентное представление о принципах ее работы. Анализ, проведенный Институтом национальной безопасности при Университете Вандербильта (США), показал, что одна из фирм использует ИИ для обработки колоссальных объемов данных, охватывающих повседневные привычки, поездки, социальные связи и историю просмотров граждан. Компания, известная под английским названием Geedge Networks, по всей видимости, пытается разработать систему прогнозирования будущего поведения.
«Цель заключалась в создании поведенческих профилей людей, считающихся «опасными», — не просто для того, чтобы понять, что человек уже сделал, а для того, чтобы предсказать, что он может сделать дальше и с кем», — говорится в исследовании. Технология представляет собой еще более антиутопическую версию «прогресса», предсказанного в фильме 2002 года «Особое мнение» (Minority Report), где полиция арестовывает преступников до того, как они совершат злодеяние. «Основанием для действий государства больше не является то, что гражданин сделал, — отмечается в исследовании. — Это то, что, по мнению государства, гражданин сделает».
Интернет и социальные сети генерируют огромный объем данных, которые уже широко используются в различных политических системах для воздействия на потребителей и избирателей. Однако, как отмечают исследователи, анализировать прошлое поведение людей намного проще, чем предсказывать будущее. Для этого требуются либо колоссальные человеческие ресурсы, либо ИИ, обладающий «сверхспособностью» находить закономерности в огромных массивах данных. Это открывает новые горизонты для китайской системы, обладающей самым мощным в мире контролем над интернетом и почти полным доступом правительства к данным, которые власти готовы использовать для обеспечения порядка в понимании Компартии. «Прогнозный надзор меняет саму суть авторитарного контроля, — утверждается в исследовании. — Эти системы позволяют правительству вмешиваться на более ранних стадиях. Они выявляют людей и группы, которые могут представлять угрозу, делают выводы об их намерениях и пресекают диссидентскую активность до того, как она успеет организоваться и стать видимой».
Geedge является частной компанией, но считается одной из множества фирм, возникших на базе исследований под эгидой Китайской академии наук . Такие фирмы могут продавать услуги государственным ведомствам, в частности Министерству государственной безопасности , частным клиентам и , с одобрения Пекина , зарубежным правительствам. Среди клиентов Geedge упоминаются Мьянма, Пакистан, Эфиопия и Казахстан. В прошлом году исследователи из Университета Вандербильта обнаружили серию файлов, принадлежащих как Geedge, так и аналогичной фирме Golaxy. Golaxy специализируется на использовании данных для создания «ИИ-личностей», которые можно применять для таргетинга и манипулирования конкретными людьми. Geedge же специализируется на контроле интернета, включая разработку частной версии «Золотого щита». Использование ИИ является логичным развитием этой деятельности. Анализ документов Geedge выявил наличие архитектуры комплексного мониторинга, которая агрегирует цифровой трафик, данные о местоположении и социальные связи в единый профиль каждого гражданина.
Это исследование поднимает более широкие вопросы не только о контроле интернета и личных свободах, но и о глобальных цепочках поставок, которые делают подобную деятельность возможной. Развитие инструментов ИИ в Geedge сдерживается нехваткой передовых графических процессоров (GPU), которые производятся исключительно американскими компаниями, такими как Nvidia и AMD. Хотя администрация Байдена ввела ограничения на их продажу в Китай, а при президенте Трампе они были частично ослаблены в контексте торговых войн, экспорт ключевых моделей так и не был возобновлен. Это рассматривается как попытка Пекина добиться технологической независимости. По оценкам анонимных американских чиновников, цитируемых The New York Times, у Geedge достаточно GPU для текущих продуктов, но не для полноценной реализации прогнозной модели ИИ. Тем временем в другой статье The New York Times были задокументированы шестилетние усилия китайских военных по получению передовых чипов Nvidia, несмотря на действующие ограничения.
Одной из главных целей Компартии на протяжении последних десятилетий является разработка изощренных методов «направления» общественного мнения, отчасти для предотвращения внезапных протестных движений, подобных демонстрациям на площади Тяньаньмэнь в 1989 году. С тех пор, как 37 лет назад они были жестоко подавлены, власти регулярно приговаривают активистов к коротким тюремным срокам даже за темы, не представляющие прямой угрозы режиму, такие как права рабочих или борьба с сексуальными домогательствами. Такие меры устанавливают принцип: любая социальная и политическая активность должна осуществляться исключительно по официальным каналам. Аналогично, обширная сеть центров содержания под стражей в Синьцзяне, которые власти называют «центрами образования и подготовки», представляет собой попытку превентивно обеспечить, чтобы религиозные чувства уйгурского населения не стали поводом для оппозиции государству.