Санкт-Петербург, г. Санкт-Петербург и Ленинградская область, Россия
Целью настоящей работы является изучение состояния текущих исследований в области политических аспектов развития технологий искусственного интеллекта, а также возможности использования искусственного интеллекта для выработки политических суждений. Основная проблема исследований политических аспектов искусственного интеллекта заключается в ценностной ангажированности суждений о настоящем и будущем этих технологий. В статье использовался метод метаанализа, который в последние годы получил достаточно широкое распространение в специальной литературе. В статье представлен обзор самых цитируемых публикаций в базе данных Scopus по ключевым словам «искусственный интеллект» (Artificial Intelligence) и «политика» (Politics). Всего в выборку публикаций вошло семьдесят шесть статей и докладов, которые были проиндексированы базой данных за последние двадцать лет. Делается вывод о том, что в последние годы наметился тренд повышения количества публикаций по проблемам искусственного интеллекта и политики. Однако, большинство из них имеют лишь косвенное отношение к центральным проблемам политической науки. Исследование темы искусственного интеллекта наиболее плотно примыкает к изучению проблем больших данных и политической коммуникации в социальных сетях.
искусственный интеллект, политические суждения, политика, политическая коммуникация, коммуникационные платформы, большие данные
Исследование выполнено при финансовой поддержке РФФИ и АНО ЭИСИ в
рамках научного проекта № 20-011-31361 «Аутсорсинг политических суждений: критический анализ информационной парадигмы сетевой публичной коммуникации»
Введение
Несколько лет назад Илон Маск во время своего интервью Джо Рогану, приобретшего скандальную известность благодаря провокационному курению марихуаны в прямом эфире, посвятил обсуждению развитию технологий искусственного интеллекта и их влиянию на общественную жизнь довольно большую часть передачи. В частности, он утверждал, что развитие искусственного интеллекта в самом ближайшем будущем может полностью выйти из-под контроля государственных структур, а затем и всего человечества. Илон Маск также говорил, что неоднократно беседовал по этому вопросу с государственными чиновниками самого высокого ранга, включая Президента США, но не встретил конструктивной поддержки. Интересно, а что будет, если технологии искусственного интеллекта будут развиваться без всяких ограничений со стороны государственных органов власти?
Конечно, такой сценарий маловероятен. Так, совсем недавно в своем ежегодном послании Федеральному собранию от 15 января 2020 г. Президент В.В. Путин подчеркнул необходимость развития в России современных технологий, включая искусственный интеллект и большие данные. Об этом же он говорил и ранее во время нескольких своих пресс-конференций в 2019 г., указывая, что в России есть большой задел в этой области, а также наработан практический задел в таких коммерческих кампаниях, как Сбербанк или Яндекс, а также в государственных услугах. Более того, В.В. Путин указал на то, что развитие технологий искусственного интеллекта, как самообучающихся и саморазвивающихся информационных систем, напрямую затрагивают безопасность страны, поскольку отставание в этой области угрожает суверенитету. Очевидно, что искусственный интеллект − это актуальная тема в политической повестке дня. При этом, технологии искусственного интеллекта приводят к появлению новых форм политических суждений.
Цель данной статьи заключается в предварительной оценке состояния исследования политических аспектов развития технологий искусственного интеллекта, а также возможности использования искусственного интеллекта для выработки политических суждений. Основная проблема исследований политических аспектов искусственного интеллекта заключается в ценностной ангажированности суждений о настоящем и будущем этих технологий. Возникают вполне закономерные вопросы о том, насколько нынешние технологии машинного обучения, основанные на больших данных, получаемых преимущественно из больших цифровых платформ, являются ценностно-нейтральными? И насколько граждане, бюрократия, элиты и политики могут доверять политическим суждениям, генерируемым с помощью технологий искусственного интеллекта?
Обзор литературы
В поле нашего внимания находятся проблемы влияния цифровых технологий и технологий искусственного интеллекта на публичную политику. В последние годы значительно усилилась дискуссия вокруг роли и значения крупнейших IT-компаний в современной политике [16]. Плантин и Пунатанбекар указывают на то, что цифровые коммуникационные платформы приобрели инфраструктурный статус [21] и располагают всеми возможностями для цензурирования политической информации [14]. Некоторые исследователи прямо утверждают, что цифровые платформы не являются в политическом смысле нейтральными, а их архитектура напрямую воздействует на результаты политических кампаний [9]. Крейс и Макгрегор приводят доказательства того, что во время президентских выборов в США в 2016 г. IT-гиганты оказались вовлеченными в избирательные кампании не на коммерческих, а на политических основаниях [19]. В частности, Facebook, Twitter и Google пошли дальше коммерческих предложений по размещению политической рекламы или оказанию консультационных услуг по работе с целевыми аудиториями, разработав и внедрив систему технической помощи политическим партиям. Подобные случаи отмечалось и ранее: так, в 2010 г. во время выборов в Конгресс США Facebook показывал 61 миллиону своих пользователей объявления мобилизационного содержания для повышения явки на выборы, что, несомненно, способствовало победе кандидатов от Демократической партии [7].
По мнению ведущего исследователя Института интернет-исследований Оксфордского Университета Ф. Ховарда, цифровые технологии не только существенно изменили современные политические коммуникации, но и повлияли на конфигурацию основных áкторов в современной политике, которая превращается в глобальный торг между IT-гигантами и государствами [17]. Современная политическая коммуникация больше не сводится к традиционному обмену политической информацией между людьми, она модерируется весьма изощренными методами в цифровых платформах, что открывает практически безграничные возможности для скрытой манипуляции общественным мнением не только в авторитарных, но и демократических странах [13]. Современный сетевой капитализм обеспечивает беспрецедентные масштабы сбора маркетинговых данных о пользователях (так называемые, «большие данные»), а также новые формы маркетинга, которые делают влияние на выбор покупателей почти незаметным [6]. Разумеется, не все исследователи соглашаются с этими пессимистичными выводами без боя. Так, ведущий теоретик информационного общества − М. Кастельс − указывает на распространение новых сетевых форм политических движений, самоорганизацию общества с помощью социальных сетей, а также на различные протесты, которые протекают по одинаковым сценариям в разных уголках планеты [10]. По мнению М. Кастельса, современное сетевое общество способно к децентрализованной самоорганизации и выработке автономных политических суждений.
Процесс внедрения современных цифровых технологий в публичное управление также вызвал значительные изменения в концептуальных подходах к публичному управлению и внёс заметные коррективы в понимание подходов к электронному правительству [5]. Если ранние подходы к внедрению информационно-коммуникационных технологий в государственное управление базировались преимущественно на концепции нового государственного управления в духе Осборна и Гэблера с опорой на аутсорсинг цифровых технологий, хорошо зарекомендовавших себя в бизнесе [20], то в последние годы наметился разворот в сторону когнитивных методов управления. Дело в том, что в последнее десятилетие более отчетливо проявились такие тенденции общественного развития, как глобализация, сетевые структуры, коммуникационная революция, общество знания и т.п. [2]. Переход к обществу, основанному на знаниях и коммуникативных процессах, проблематизирует теорию управления и изменяет роль и место этих компонентов в управленческих системах. Сегодня знания превратились в решающий фактор развития экономики, социальной сферы, политики и культуры. Эффективное управление знаниями является необходимым условием конкурентоспособности современной организации в частном или публичном секторе. Как указывает Г.А. Сатаров, менеджмент знаний в первую очередь способствует формированию важнейшего условия эффективного политического управления – доверия, что, в свою очередь, создает предпосылки для легитимации политического режима [3]. Во вторую очередь менеджмент знаний обеспечивает приток публичных знаний в виде постоянно порождаемых суждений как фактора политических инноваций для устойчивого развития [4]. Одна из основных проблем в этом вопросе заключается в том, что современная медиатизированная политика способствует скорее аутсорсингу политических суждений из средств массовой коммуникации, а не из научных источников, основанных на статистически значимых знаниях [1]. При этом, остается неясным, какую роль в процессе менеджмента знаний могут играть технологии искусственного интеллекта.
Метод
Краткий обзор литературы по теме показывает, что исследования технологий искусственного интеллекта в политике находятся в русле исследований влияния информационных и коммуникационных технологий в политике. Особенно близким проблемным полем выступают коммуникационные платформы и социальные сети, которые являются источником больших данных. Большие данные в свою очередь создают необходимый статистический фундамент для машинного обучения и применения нейронных сетей, которые на данный момент уже достаточно эффективно работают для выполнения довольно широкого круга задач: от распознавания лиц до вынесения автоматизированных судебных решений.
Однако, если мы обратимся к специальной литературе в политических исследованиях, то возникает вопрос: как часто политологи пытаются рассмотреть проблему влияния технологий искусственного интеллекта на политику? Мы знаем, что социальные сети и другие информационные технологии сформировали большую и заметную область в политологических исследованиях. Но что происходит с темой «искусственного интеллекта и политика»? И каковы предварительные результаты этой работы?
Для того чтобы проверить и описать состояние дел в этой проблемной области удобнее всего воспользоваться методом метаанализа, который в последние годы достаточно широко используется в специальной литературе. Данный подход сочетает автоматизированный сбор данных из специальной литературы по определенной тематике с последующей качественной оценкой результатов. В данной работе мы взяли за основу данные из базы данных Scopus. Scopus является одной из двух крупнейших баз данных научной литературы в мире, но содержит примерно в два раза больший объем данных за счет изданий не на английском языке. Нами был проведен поиск источников за последние 20 лет по ключевым словам «искусственный интеллект» (Artificial Intelligence) и «политика» (Politics). Полученные данные легко обрабатываются и визуализируются в программе R. Далее мы взяли пять наиболее цитируемых публикаций и провели качественный анализ документов с целью выяснения наиболее важных тем и суждений по поводу использования технологий искусственного интеллекта в политике.
Результаты
В результате поиска в базе данных Scopus было найдено 76 публикаций за 20 лет, начиная с 2000 г., в которых в качестве ключевых слов было указаны «искусственный интеллект» (Artificial Intelligence) и «политика» (Politics). Частотное распределение по годам представлено на рис. 1. Совершенно чётко видно, что в «нулевые» годы количество публикаций колебалось от 0 до 2, а в последние годы произошел резкий рост до двухзначных цифр − даже в 2020 г., в котором еще не прошло полгода, опубликовано 7 работ. Думаем, не будет преувеличением полагать, что интерес к этой проблематике нарастает и будет нарастать. Конечно, будущее покажет, насколько стремительным будет этот рост.
Рис. 1. Количество публикаций в базе данных Scopus по ключевым словам «искусственный интеллект» (Artificial Intelligence) и «политика» (Politics)
На втором этапе исследования нами был составлен ранжированный список публикаций, в котором публикации были упорядочены по количеству цитирований (см. рис. 2.). Самая цитируемая публикации получила внимание со стороны 933 работ. При этом, более половины публикаций имеет крайне незначительное количество цитирований: от нуля до 1-2. Очевидно, что либо они посвящены крайне узкоспециальным темам, либо опубликованы в журналах с низким индексом цитируемости. Тут существует очень важная проблема, связанная с тем, что публикации по теме искусственного интеллекта и политике осуществляются в первую очередь не в политологических журналах, а в журналах по техническим наукам, философии науки и техники, ну или в журналах по коммуникативистике. В частности, в представленном списке нет ни одной публикации из журнала по политической науке.
Рис. 2. Наиболее цитируемые публикации в базе данных Scopus по ключевым словам «искусственный интеллект» (Artificial Intelligence) и «политика» (Politics)
Остановимся на основных сюжетах, связанных с технологиями искусственного интеллекта в пяти наиболее цитируемых статьях. В первой самой цитируемой статье проверяется гипотеза о том, что поведение пользователей в социальных сетях может быть использовано для определения их социальных и мировоззренческих позиций [18]. В частности, с помощью «лайков», которые делают пользователи, можно установить их пол, этическую принадлежность, религиозные взгляды, политические предпочтения и т.п. Исследование проводилось на основе 58 тысяч волонтеров и их профилей в Facebook. Разумеется, подобные вычисления проводились с помощью технологий машинного обучения и больших данных, которые на данном этапе стали весьма эффективной технологией автоматизации исследований. Было также выяснено, что чем больше данных о поведении конкретного пользователя берется для изучения, тем более высокая точность предсказания. На рис. 3 представлены данные о росте точности предсказаний о возрасте, поле и «открытости» в зависимости от количества проанализированных «лайков».
Рис. 3. Зависимость точности предсказаний от количества проанализированных «лайков» [18, p. 5804]
Вторая статья посвящена технологии беспилотных автомобилей и этическим проблемам, которые возникают в связи с внедрением этой технологии [8]. В качестве основной проблемы авторы ставят дилемму о безопасности: искусственный интеллект должен заботиться о безопасности пассажиров любой ценой или о безопасности всех участников дорожного движения, даже если пассажиром будет причинён ущерб? Несомненно, это этическая проблема, которая нуждается в государственном регулировании, которое на данный момент серьезно запаздывает за развитием технологий в этой области.
Третья статья посвящена использованию больших данных для выявления «эхо-камер» в социальной сети Twitter [12]. Авторы пришли к достаточно противоречивым данным, которые можно интерпретировать и в пользу цифровой «публичной сферы», и в пользу закрытых групп единомышленников. В данном случае важнее то, что авторы смогли выгрузить 40 миллионов аккаунтов и 1.47 миллиарда связей для создания общего графа социальной сети Twitter. Речь идёт о 2009 г. Тем не менее очевидно, что вычисления такого рода относятся к большим данным и требуют весьма серьезных вычислительных мощностей.
В четвертой статье автор анализирует развитие когнитивной теории позиций критической философии, предполагая, что цифровые гаджеты уже сегодня формируют расширенное индивидуальное сознание, а в будущем такими формами расширенного сознания станет искусственный интеллект [15].
Пятая статья непосредственно сосредотачивается на современных политических вопросах развития технологий искусственного интеллекта [11]. Название работы можно перевести как «Искусственный интеллект и хорошее общество: подходы США, Великобритании и ЕС». Авторы начинают свою работу с утверждения, что технологии искусственного интеллекта уже принимают участие в нашей повседневной жизни: от банковского сектора и информационных технологий до беспилотных автомобилей и медицины. Поэтому не удивительно, что осенью 2016 г. в США, Великобритании и ЕС высшими органами власти были приняты специальные доклады о развитии технологий искусственного интеллекта. Доклады носят рамочный или директивный характер, не имея прямого законодательного действия, но отражают некое мнение о проблеме. В США доклад был принят Офисом по науке и технологической политике (OSTP - White House Office of Science and Technology Policy), в Великобритании − Комитетом по науке и технологиям Паралмента (House of Commons’ Science and Technology Committee), а в Европейском союзе − Комитетом по законодательным отношениям Парламента Европы (European Parliament’s Committee on Legal Affairs). В документах присутствуют значительные различия. Так, в США предполагается ведущая роль IT-кампаний и рыночных драйверов, тогда как в Европе предполагается серьезная работа по защите персональных данных и человеческого достоинства. Необходимо уточнить, что в Европейском союзе в том же 2016 г. был принят знаменитый закон GDPR (General Data Protection Regulation), который был предназначен для защиты персональных данных и частной жизни граждан. Доклад в Великобритании предполагал создание независимой общественной комиссии по развитию технологий искусственного интеллекта. Авторы статьи указывают, что при всех достоинствах и различиях сравниваемых докладов им не хватает долгосрочных целей, а именно понимания того, каким будет это будущее хорошее общество с технологиями искусственного интеллекта, когда искусственный интеллект будет помогать людям, а не наоборот. В этом плане исследователи указывают на огромную и малоизученную проблему скрытого развития технологий искусственного интеллекта. Технология развивается, но практически незаметно для абсолютного большинства граждан. Поэтому авторы предлагают создание международной организации, которая бы занималась регулированием технологий искусственного интеллекта по схеме, которая была уже апробирована в ходе регулирования стандартов и доменных имен в глобальной сети Интернет.
Выводы
Подведем некоторые итоги. Во-первых, следует отметить, что в последние годы наметился тренд повышения количества публикаций по проблемам искусственного интеллекта и политики. Однако, большинство из них имеют лишь косвенное отношение к центральным проблемам политической науки. Публикации по этой теме чаще всего происходят в журналах по техническим наукам, философии науки и техники, в журналах по цифровым коммуникациям и т.п. Есть все основания полагать, что в ближайшее время нас ждёт значительный рост интереса со стороны политологов к технологиям искусственного интеллекта.
Во-вторых, наблюдается сильнейшая преемственность в изучении искусственного интеллекта в политике. В первую очередь это касается изучения влияния информационных технологий на сферу политики. Наиболее близко тема искусственного интеллекта примыкает к теме больших данных, поскольку именно большие данные становятся тем топливом, на котором работают современные интеллектуальные информационные системы. Чем больше больших данных, тем умнее становятся технологии искусственного интеллекта. Именно поэтому неудивительно, что первые публикации по искусственному интеллекту и машинному обучению черпали данные из социальных сетей. В последнее время наметилась тенденция сбора данных с помощью технологий «умного города», видеонаблюдения, телемедицины и т.п.
В-третьих, несмотря на заявления Илона Маска, интерес государственных структур к технологиям искусственного интеллекта есть и даже оформлен в официальных государственных документах. Речь идет не только о словесных интервенциях и предвыборных обещаниях. Вероятно, в ближайшее время мы станем свидетелями новых законотворческих инициатив в различных странах и регионах, а также организационно-технологических решений с государственной поддержкой. Формы и способы государственного регулирования и государственной поддержки технологий искусственного интеллекта, скорее всего, будут сильно различаться. Тем интереснее будет следить за развитием событий.
1. Быков И.А. Медиатизация политики в эпоху социальных медиа // Журнал политических исследований. − 2017. − Т. 1. − №4. – С. 15-38. URL: https://naukaru.ru/ru/nauka/article/19592/view (дата обращения: 10.05.2018).
2. Курочкин А.В., Шерстобитов А.С. Политика и государственное управление в условиях сетевого общества. – Санкт-Петербург: Изд. С.-Петерб. ун-та, 2012. – 152 с.
3. Сатаров Г.А. Доверие как объект политической социологии. Часть 1 // Полис: Политические исследования. – 2016. – № 1. – С. 121–138. DOI: 10.17976/jpps/2016.01.09.
4. Сморгунов Л.В. Государство, сотрудничество и инклюзивный экономический рост // Власть. – 2017. – № 11. – С. 22-21.
5. Сморгунов Л.В. Знание и публичное управление: от утверждения нормы к суждению // Политическая наука. – 2016. – № 2. – С. 181−197.
6. Федорченко С.Н. Big Data и методологические возможности ресурса Google Trends для политологического исследования // Журнал политических исследований. – 2018. Т. 2. – №4. – С. 48-55. URL: https://naukaru.ru/ru/nauka/article/24654/view (дата обращения: 12.05.2020).
7. Bond R. et al. A 61-million-person experiment in social influence and political mobilization // Nature. – 2012. – Vol. 489. September 13. – P. 295-298. DOI: 10.1038/489212a.
8. Bonnefon J.-F., Shariff A., Rahwan I. The social dilemma of autonomous vehicles // Science. 2016. Vol. 352(6293). P. 1573-1576. DOI: 10.1126/science.aaf2654.
9. Bossetta M. The Digital Architectures of Social Media: Comparing Political Campaigning on Facebook, Twitter, Instagram, and Snapchat in the 2016 U.S. Election // Journalism & Mass Communication Quarterly. – 2018. – Vol. 95 (2). – P. 471-496. DOI: https://doi.org/10.1177/1077699018763307.
10. Castells M. Networks of Outrage and Hope: Social Movements in the Internet Age. 2nd ed. – Malden: Polity Press, 2015. 346 p.
11. Cath C., Wachter S., Mittelstadt B., Taddeo M., Floridi L. Artificial Intelligence and the ‘Good Society’: the US, EU, and UK approach // Science and Engineering Ethics. – 2018. – Vol. 24. – P. 505–528. DOI: https://doi.org/10.1007/s11948-017-9901-7.
12. Colleoni E., Rozza A. Arvidsson A. Echo Chamber or Public Sphere? Predicting Political Orientation and Measuring Political Homophily in Twitter Using Big Data // Journal of Communication. – 2014. – Vol. 64(2). – P. 317-332. DOI: doi:10.1111/jcom.12084.
13. Computational Propaganda: Political Parties, Politicians, and Political Manipulation on Social Media / Ed. by S. Woolley and P. Howard. – Oxford: Oxford University Press, 2019. 272 p.
14. Edwards D.W. Circulation Gatekeepers: Unbundling the Platform Politics of YouTube’s Content ID // Computers and Composition. – 2018. – Vol. 47. – P. 61-74. DOI: http://dx.doi.org/10.1016/j.compcom.2017.12.001.
15. Gallagher S. The socially extended mind // Cognitive Systems Research. – 2013. – Vol. 25–26. – P. 4–12. DOI: http://dx.doi.org/10.1016/j.cogsys.2013.03.008.
16. Gillespie T. The Politics of «Platforms» // A Companion to New Media Dynamics. – Malden: Wiley, 2013. P. 407-416.
17. Howard P. Pax Technica: How the Internet of Things May Set Us Free or Lock Us Up. – New Haven: Yale University Press, 2015. 352 p.
18. Kosinski M., Stillwell D., Graepel T. Private traits and attributes are predictable from digital records of human behavior // Proceedings of the National Academy of Sciences of the United States of America. – 2013. – Vol. 110 (15). – P. 5902-5805. DOI: www.pnas.org/cgi/doi/10.1073/pnas.1218772110.
19. Kreiss D., McGregor S. Technology Firms Shape Political Communication: The Work of Microsoft, Facebook, Twitter, and Google With Campaigns During the 2016 U.S. Presidential Cycle // Political Communication. – 2018. – Vol. 35. – P. 155-177. DOI: https://doi.org/10.1080/10584609.2017.1364814.
20. Osborne D., Gaebler T. Reinventing Government: How the Entrepreneurial Spirit is Transforming the Public Sector. – N.Y.: Plume, 1993. 405 p.
21. Plantin, J.-C., Punathambekar A. Digital media infrastructures: pipes, platforms, and politics // Media, Culture & Society. – 2019. – Vol. 41. – № 2. – P. 163-174. DOI: https://doi.org/10.1177/0163443718818376.
