ШІ та загроза демократії. Як протистояти новим викликам?

Будь-яке відкриття чи технологія може бути використане як на благо, так і на шкоду людству. Штучний інтелект, який сьогодні впроваджується повсюдно, знову підтверджує цю тезу. Поряд із численними перевагами та можливостями для розвитку, які надає ШІ, з’явилися й нові загрози. Частина з них, наприклад нові, більш витончені та потужні види шахрайства чи кібератак, проявляються доволі відчутно. Проте існують й глибоко приховані ризики, які складно виявити, й саме в цьому полягає їхня основна небезпека. Якщо конкретніше — штучний інтелект системно використовується для прихованого та масового маніпулювання громадською думкою.

Сила рою

Проблема штучного формування громадської думки за допомогою AI-інструментів протягом останніх двох років привертає дедалі більше уваги науковців. В одному з нещодавніх досліджень, проведеному Норвезькою науково-дослідною організацією SINTEF (SINTEF), зазначається, що в інтернеті зростає кількість особливих псевдоспільнот, побудованих на алгоритмах ШІ. На відміну від традиційних ботоферм, виявлення яких нині не становить значної складності, «мережі впливу» нового рівня, або, як їх ще називають, ШІ-рої (AI swarms), значно краще маскуються під спільноти реальних людей. Спеціальні алгоритми дозволяють не лише швидко створювати нові профілі, а й моделювати їхню поведінку таким чином, щоб вона максимально нагадувала людську.

Перша проблема полягає в тому, що такі спільноти зазвичай орієнтовані на просування певних ідей та концепцій у масову свідомість, а також на їх поступове закріплення як нової норми знань. Такі рої не лише імітують користувачів із різних країн і соціальних груп, а й діють скоординовано, що підсилює загрозу. Мовний бар’єр також більше не є обмеженням — рої здатні працювати будь-якою мовою та в будь-якому регіоні. Дослідники SINTEF наводять як приклад проросійську мережу ботів Pravda, яка, за їхніми даними, адаптована для широкого застосування інструментів і технологій ШІ. Скільки саме таких спільнот функціонує в інтернеті, достеменно невідомо, однак їхня кількість, як і складність, зростатиме.

Друга проблема випливає з першої: заповнюючи інтернет штучно згенерованими повідомленнями, рої водночас «забруднюють» навчальні дані легітимних систем штучного інтелекту. У результаті формується замкнене коло накопичення «отруєних» даних, які з часом можуть стати нормою у відповідях великих відкритих LLM. Така загроза є цілком реальною й безпосередньо підриває свободу та різноманіття думок — один із ключових принципів демократичних суспільств.

Нейтральність під питанням

Як показало ще одне дослідження, проведене в Мюнхенському університеті прикладних наук (Munich University of Applied Sciences), попри задекларовану нейтральність, відомі LLM демонструють певні політичні зміщення. У межах експерименту моделям ChatGPT, Grok та DeepSeek ставили запитання з так званого «виборчого компаса» (Wahl-O-Mat), який використовувався під час останніх федеральних виборів у Німеччині. Опитувальник містив 38 тверджень із таких тем, як клімат, міграція та економіка. Респонденти оцінювали ці твердження за шкалою «згоден», «нейтрально» чи «не згоден», після чого система визначала, яка політична сила найбільше відповідає їхнім поглядам.

Кожен із трьох чат-ботів пройшов цей опитувальник по сто разів — окремо англійською та німецькою мовами, щоб виключити випадкові коливання й можливий вплив мови введення на відповіді. У підсумку всі три моделі поводилися досить обережно та на перший погляд не демонстрували явних політичних уподобань. Водночас велика кількість експериментів дозволила виявити помітний, хоча й невеликий, ухил у бік лівоцентристського спектра. Причому, що показово, у всіх трьох моделей. Це не свідчить про пряму заангажованість LLM, однак дає підстави сумніватися в їхній повній нейтральності. Такий результат виглядає закономірним, з огляду на те, що моделі навчаються на відкритих даних.

Тепер уявімо ситуацію, за якої значна частина доступної інформації генерується політично мотивованими роями ШІ-ботів. З іншого боку, той самий штучний інтелект також використовується для створення правдоподібного, але заангажованого контенту в інтернеті, який стає «поживним середовищем» для ботів та дозволяє їм підкріплювати свої твердження посиланнями на нібито незалежні джерела. Усе це функціонує як скоординована, адаптивна система без єдиного центру управління, й саме в цьому полягає одна з ключових проблем, яку потрібно буде якнайшвидше вирішити.

Сильніші разом

Для України така ситуація становить підвищену загрозу, оскільки держава та її громадяни є очевидними цілями для маніпуляцій з боку ворожих груп впливу. Це стосується практично всіх важливих суспільних та політичних питань. Складність полягає в тому, що єдиного ефективного інструменту протидії ШІ-роям поки не існує — його не розроблено ані у США, ані в ЄС.

Найбільшу ефективність, вочевидь буде мати комплексний підхід до захисту. Одним із важливих кроків є створення національної LLM та впровадження заходів цифрового суверенітету у координації з європейськими партнерами. Це саме той випадок, коли обидві сторони мають що запропонувати: обмін досвідом у протидії гібридним загрозам між Україною та країнами Європи може дати кумулятивний ефект.

Та все ж головне правило безпеки залишається незмінним: штучний інтелект — добрий помічник, однак він не має замінювати власне критичне мислення.