В России стартовал новый эксперимент по использованию искусственного интеллекта (ИИ), который Кремль надеется использовать в своих политических интересах.
Крупнейший банк России Сбербанк планирует создать новую платформу, которую он будет использовать для проведения экспериментов в области искусственного интеллекта и больших данных в партнерстве с мэрией Москвы в рамках специальной правовой базы, сообщает 13 августа газета “Коммерсантъ”.
Данные-платежи, парковочные талоны, медицинские осмотры, штрафы и записи федеральной и региональной информационной системы — будут анонимизированы и доступны для решения проблем в федеральном и муниципальном управлении. Для наблюдения за экспериментами будет создан совет, в который войдут глава Сбербанка Герман Греф, мэр Москвы Сергей Собянин, два представителя Кремля — первый заместитель главы администрации и бывший премьер — министр Сергей Кириенко и помощник президента Андрей Белоусов-и эксперты в этой области. Единственным членом кабинета министров в Совете является вице-премьер Максим Акимов, в портфеле которого числится Цифровая экономика.
По сути, Кремль теперь планирует контролировать развитие ИИ в России: развитие, которое не удивительно в контексте нынешних московских протестов. Это не первое сближение интересов Сбербанка, института с сильно неолиберальной повесткой дня, и Кириенко, ключевого политического деятеля в Кремле. Столкнувшись со стагнацией экономики, Сбербанк хочет выжать из своих клиентов как можно больше, и для этого нужны креативные и неожиданные решения. Кремль хочет извлечь как можно больше информации об избирателях.
Через спонсируемую государством новую платформу глава Сбербанка Герман Греф прочно утвердится в качестве национального коммерческого директора AI. Кириенко получит шанс завершить начатую им в 2016 году работу: модернизировать политическую машину Кремля, заменив телевидение целенаправленным интернет-контентом, который может быть использован к моменту президентской избирательной кампании 2024 года.
Использование ИИ и больших данных позволит Кремлю сделать гораздо больше, чем Волшебники из Cambridge Analytica, которые закрылись на фоне скандала вокруг роли, которую он сыграл на президентских выборах 2016 года в США и других голосах. Речь идет не просто о приватизации конкретного сектора экономики, а о создании целой цифровой платформы, осуществляющей надзор за экономическим и социальным развитием страны.
Другие страны, такие как Китай и Соединенные Штаты, которые являются конкурентами России, особенно в том, что касается военного применения ИИ, создали разнообразные структуры управления, гарантирующие, что ни один из основных заинтересованных сторон — военные, бизнес, Белый дом, Политбюро — не может монополизировать этот рынок.
Россия, видимо, выбрала другую схему развития ИИ. Очевидно, что Сбербанк будет отвечать за так называемую “подталкивающую экономику”, стимулирующую определенный вид потребительского поведения. Кремль, со своей стороны, будет работать над использованием ресурсов ИИ для создания непобедимой политической машины двадцать первого века, пытаясь повторить то, что Cambridge Analytica сделала для Дональда Трампа на президентских выборах 2016 года в США. Московская площадка-это полигон для испытаний новых технологий.
Экономика подталкивания предполагает, что ИИ и большие данные позволяют почти постоянно влиять на поведение человека через созданные алгоритмом напоминания, информационные кампании, уведомления толчка, вибрирующие устройства и другие стимулы. Понятно, зачем это нужно Сбербанку: если личным поведением можно управлять, то и рисками, и издержками тоже. Мы знаем, как долго будет жить конкретный заемщик, потому что мы будем управлять его жизнью, пока его ипотека не будет погашена.
Что касается Кириенко, то у него есть определенный личный интерес к ИИ. С тех пор как он начал работать в Кремле, он официально дистанцировался от старых политических методов. Правительство по-прежнему снимает кандидатов с избирательных бюллетеней, избивает активистов оппозиции и платит блогерам и лицам, формирующим общественное мнение, за их сообщения в Facebook. Кириенко имеет в виду нечто более сложное.
Во время президентской кампании 2018 года Кириенко впервые опробовал технологию таргетирования интернет-сообщений на российских избирателях. Однако, по мнению кремлевских чиновников, результаты были слишком грубыми. Лица, ответственные за внедрение этой технологии, жаловались на нехватку данных по сравнению со сложным интеллектуальным анализом данных, осуществляемым компанией Cambridge Analytica.
Эксперименты ИИ с использованием московской платформы помогут Кириенко более точно настроить сбор более сложных данных. Это, скорее всего, будут данные о потребительском поведении, образе жизни, здоровье, неформальных экономических связях и т.д. Он обещает создать государство-оф-искусство супер-адаптивная политической машины.
Однако если российский политический истеблишмент примет этот план, то это может иметь некоторые опасные и непреднамеренные последствия. Все будет сводиться к краткосрочным политическим результатам, и сама возможность стратегического мышления может исчезнуть. Мы окажемся прикованными к цифровой инфраструктуре государства, которое всегда мыслит и действует в рамках коротких (один – два года), громких тактических кампаний.
Методы подталкивания могут создать впечатление, что общество реагирует позитивно и что власти одерживают политические победы в цифровой сфере. Но в итоге все снова закончится политической стагнацией.
Существует также опасность насилия. В Кремле почему-то считают, что принятие ИИ может избавить от необходимости использовать в будущем подразделения полиции и Национальной гвардии. Это опасное заблуждение. Двадцатый век показал нам, что места, где государство видит преступление, но не может его предотвратить, быстро превращаются в гетто. Надежды на систему мониторинга социальных сетей или какой-то цифровой Робокоп, который навсегда сохранит мир на улицах, никогда не воплотятся в жизнь, если нынешняя реальная автономная инфраструктура полицейского контроля будет демонтирована.
Более того, если правительство поставило перед собой цель вывести страну на уровень “информационной цивилизации”, то оно не смогло обсудить с общественностью, кто будет участвовать в этом процессе, как и на каких условиях.
Например, должно ли быть активным владение данными: может ли человек управлять своими медицинскими записями и получать скидки на их передачу? Может ли коммерческий оператор добывать данные из публичных платформ, порталов государственных услуг и других источников? Если да, то на каком юридическом основании? Должен ли коммерческий оператор делиться собранной им информацией или разработанной им технологией в форме научной публикации?
Данные цивилизации, а скачок вперед. Скачок не произойдет, если мы не поймем новые возможности интеллекта данных. Этого не произойдет, если люди спокойно откажутся от своих цифровых прав. Ни Сбербанку, ни Кремлю не следует предоставлять доступ к экспериментам с ИИ без широкого и беспристрастного общественного обсуждения.
