Що показало нове дослідження

Дослідники з британського Інституту безпеки ШІ (AISI), Оксфорда та MIT протестували найпопулярніші мовні моделі — GPT-4o, GPT-4.5, Llama 3, Grok 3 та Qwen. Для експерименту вони донавчили ці системи на масиві з 50 тисяч політичних діалогів, налаштувавши їх на максимальну переконливість.

Результати вражають. Дев’ятихвилинна розмова з чатботом виявилася набагато ефективнішою за звичайні текстові повідомлення. GPT-4o підвищив свою переконливість на 41%, а GPT-4.5 — аж на 52% порівняно зі статичним контентом. Через місяць після експерименту 36–42% учасників все ще дотримувалися нової думки. Коли система враховувала вік, стать і політичні погляди співрозмовника, її вплив зростав ще на 5%.

У препринті «The Levers of Political Persuasion with Conversational AI» Девід Ренд, Гелен Марґеттс та Крістофер Саммерфілд розкривають ключовий парадокс: переконливість залежить не від розміру моделі, а від методів її донавчання. Спеціальне налаштування підвищувало ефективність до 51%, але ціною цього ставала точність — чим переконливішою була модель, тим більше помилок вона робила.

Як це співвідноситься з попередніми роботами

Інші дослідження підтверджують феномен «машинного переконання». Публікація в Nature Human Behaviour показала вражаючі результати: під час онлайн-дебатів GPT-4 переконував опонентів у 64% випадків — краще за живих людей. Особливо ефективним штучний інтелект був, коли мав навіть мінімальну інформацію про співрозмовника.

Але є й позитивна сторона. Дослідники з MIT та Корнелла опублікували в Science обнадійливі дані: персоналізована розмова з GPT-4 знижувала віру людей у теорії змови на 20%. Важливо, що цей ефект зберігався щонайменше два місяці після діалогу — це означає, що штучний інтелект може допомагати боротися з дезінформацією.

Ризики та упередження: що кажуть дані

Дослідження Стенфордського університету за участі 10 тисяч респондентів виявило цікаву закономірність: користувачі сприймають відповіді більшості провідних мовних моделей як політично «лівонахилені». Водночас нейтральніші формулювання значно зменшують це відчуття упередженості.

Університет Вашингтону пішов далі й довів: навіть незначний політичний ухил чат-бота здатний змінювати думки людей щодо розподілу бюджетних коштів та державних пріоритетів. Це означає, що мікротаргетинг через штучний інтелект — коли кожен користувач отримує персоналізовані аргументи — може стати потужною зброєю політичного впливу.

Реакція компаній та політики безпеки

За даними Financial Times, технологічні компанії активно розробляють захист від маніпулятивного використання штучного інтелекту. У Google DeepMind пояснюють свій підхід: «Ми вважаємо критично важливим зрозуміти процес того, як штучний інтелект переконує, щоб створювати кращі запобіжники, які гарантують, що моделі ШІ справді корисні, а не шкідливі».

OpenAI також визнає проблему. Компанія заявляє, що використання їхніх моделей для переконання порушує правила сервісу. Політична агітація заборонена, а політичний контент виключають із процесу донавчання моделей.

Обидві компанії публікують детальні звіти про безпеку своїх систем. У цих документах для моделей GPT-4o та o1 описано, як саме тестують штучний інтелект на схильність до маніпулювання, виявляють небезпечні патерни поведінки та впроваджують механізми контролю.

Ключові висновки з методології

Короткі діалоги перемагають статику. Інтерактивна розмова, де штучний інтелект відповідає на запитання та наводить релевантні факти, працює набагато ефективніше за односторонні повідомлення. Традиційні «листівки» та банери програють живому обміну аргументами.

Післятренувальне налаштування — головний важіль. Найбільший вплив на переконливість має не розмір моделі, а методи її донавчання. Техніки на кшталт навчання з підкріпленням від людського зворотного зв’язку (RLHF) та інженерія промптів виявилися критично важливими для підвищення впливовості штучного інтелекту.

Компроміс із точністю. Тривожний висновок дослідження: що переконливішою ставала модель, то менш точними були її твердження. Цей зворотний зв’язок між впливовістю та правдивістю — серйозний виклик для регуляторів і технологічних платформ.

Що це означає для України

Уразливість до інформаційних операцій РФ. Автоматизована персоналізація дозволяє ворогу масово тестувати, які аргументи найкраще впливають на конкретні групи українців. Боти в месенджерах можуть непомітно змінювати ставлення громадян до критичних питань — від підтримки армії до санкційної політики. Платформи повинні виявляти та блокувати такі «переконливі» боти з тією ж рішучістю, з якою борються з традиційними мережами тролів.

Користь для стійкості суспільства. Правильно налаштований штучний інтелект може стати потужною зброєю проти дезінформації. Дослідження показують: персоналізовані діалоги з ШІ знижують віру в теорії змови та фейки на 20%. Це відкриває нові можливості для державних програм медіаграмотності та громадських ініціатив з протидії пропаганді.

Політика «нульового таргетингу» на виборах. Здатність моделей підлаштовуватися під кожного користувача створює загрозу маніпулювання виборцями. Необхідні жорсткі правила: заборона політичного мікротаргетингу через ботів та обов’язкове маркування будь-якого контенту, згенерованого штучним інтелектом, у месенджерах і соцмережах.

Освіта як захист. Критичне мислення та цифрова грамотність — найкращий спосіб протидії маніпуляціям. Базові знання про те, як працюють алгоритми впливу, значно знижують ефективність нав’язаних аргументів. Ці навички мають стати обов’язковою частиною навчальних програм — від шкіл до військових навчальних закладів.

Чому це важливо знати

Для України, яка протистоїть багатовимірній агресії Росії, переконливість чатботів — це не абстрактний тренд, а конкретний ризик і водночас можливість. Системи штучного інтелекту дають змогу противнику масштабно випробовувати наративи та непомітно коригувати емоції й оцінки громадян, зокрема щодо оборонних видатків, санкцій чи євроатлантичної інтеграції.

Водночас правильно налаштовані моделі допомагають знижувати чутливість до фейків і теорій змови, зміцнюючи стійкість суспільства й довіру до фактів. Політика «нульового мікротаргетингу» для політичних кампаній, прозорість маркування контенту, згенерованого штучним інтелектом, та інвестиції в освіту — це практичні кроки, що безпосередньо підсилюють інформаційну безпеку держави й обороноздатність суспільства.