AI и угроза демократии. Как бороться с новыми вызовами?

Любое открытие или технология может быть использована как во благо, так и во вред человечеству. Искусственный интеллект, который сегодня внедряется повсеместно, снова подтверждает этот извечный тезис. Наряду с многочисленными преимуществами и возможностями для развития, которые даёт ИИ, появились и новые угрозы.

Часть из них, например новые, более изощрённые и мощные виды мошенничества или кибератак, проявляются достаточно явно. Однако существуют и глубоко скрытые угрозы, которые трудно выявить, и в этом их основная опасность. Если конкретнее — искусственный интеллект уже системно используется для скрытого и массового манипулирования общественным мнением.

Сила роя

Проблема искусственного формирования общественного мнения с помощью AI-инструментов в последние два года привлекает всё больше внимания учёных. В одном из недавних исследований, проведённых организацией SINTEF (Норвегия), утверждается, что в Интернете растёт число особых псевдосообществ, основанных на алгоритмах ИИ.

В отличие от традиционных ботоферм, выявление которых сейчас не представляет большой сложности, «сети влияния» нового уровня, или, как их ещё называют, ИИ-рои (AI swarms), гораздо лучше маскируются под сообщества реальных людей. Специальные алгоритмы позволяют не только быстро создавать новые профили, но и моделировать их поведение таким образом, чтобы оно было максимально похоже на человеческое.

Первая проблема заключается в том, что такие сообщества, как правило, ориентированы на продвижение определённых идей и концепций в массовое сознание, а также на их постепенное закрепление в качестве новой нормы знания. Такие рои не только имитируют пользователей из разных стран и социальных групп, но и действуют скоординированно, что усиливает угрозу. 

Языковой барьер уже также не является проблемой — рои готовы работать на любом языке и в любом регионе. Исследователи SINTEF приводят в качестве примера пророссийскую сеть ботов Pravda, которая, по их данным, адаптирована для широкого применения инструментов и технологий ИИ. Сколько всего таких сообществ действует в Интернете, неизвестно, однако их число, как и сложность, будет расти.

Вторая проблема вытекает из первой: заполняя интернет искусственно сгенерированными сообщениями, рои одновременно загрязняют обучающие данные легальных систем искусственного интеллекта. В результате формируется порочный круг умножения «отравленных» данных, которые вполне могут стать нормой в ответах больших открытых LLM. Такая опасность вполне реальна, что напрямую угрожает свободе и разнообразию мнений — одному из главных принципов демократических сообществ. 

Нейтральность под вопросом

Как показало ещё одно исследование, проведённое в Мюнхенском университете прикладных наук (Munich University of Applied Sciences), несмотря на декларируемую нейтральность, известные LLM имеют некоторые политические смещения. В ходе эксперимента моделям ChatGPT, Grok и DeepSeek задавали вопросы из так называемого «избирательного компаса» (Wahl-O-Mat) с последних федеральных выборов в Германии. Опросник содержал 38 утверждений по таким темам, как климат, миграция и экономика. Респонденты оценивали эти утверждения по шкале «согласен», «нейтрально», «не согласен», после чего система определяла, какая партия наиболее точно соответствует их взглядам.

Через каждый из трёх чат-ботов опросник был пропущен по сто раз — отдельно на английском и немецком языках, чтобы исключить случайные колебания и возможное влияние языка ввода на ответы. В результате все три модели вели себя достаточно осторожно и на первый взгляд не демонстрировали явных партийных предпочтений. Тем не менее большое количество экспериментов позволило выявить значимый, хотя и небольшой, уклон в сторону левоцентристского спектра. Причём, что примечательно, у всех трёх моделей. Это не свидетельствует о прямой заангажированности LLM, однако позволяет усомниться в их полной нейтральности. Такой результат выглядит закономерным, учитывая, что модели обучаются на открытых данных.

Теперь представим ситуацию, при которой значительная часть доступной информации генерируется политически мотивированными роями ИИ-ботов. С другой стороны, тот же искусственный интеллект используется для создания правдоподобного, но заангажированного контента в Интернете, который становится «питательной средой» для ботов, позволяя им подкреплять свои утверждения ссылками на якобы независимые источники. Всё это функционирует как скоординированная, адаптивная система без единого центра управления, и именно в этом заключается одна из ключевых проблем, которую ещё предстоит решить.

Сильнее вместе

Для Украины такая ситуация представляет повышенную угрозу, поскольку государство и его граждане являются очевидными целями для манипуляций со стороны враждебных групп влияния. Это касается практически всех важных общественных и политических вопросов. Сложность заключается в том, что единого эффективного инструмента противодействия ШИ-роям пока не существует — он не разработан ни в США, ни в ЕС.

Наибольшую эффективность, похоже, будет иметь комплексный подход к защите. Одним из очевидных шагов является создание национальной LLM и внедрение мер цифрового суверенитета в координации с европейскими партнёрами. Это именно тот случай, когда обе стороны могут предложить что-то ценное: обмен опытом в противодействии гибридным угрозам между Украиной и странами Европы может дать кумулятивный эффект.

И всё же главное правило безопасности остаётся неизменным: искусственный интеллект — хороший помощник, однако он не должен заменять собственное критическое мышление.