Хто такі ШІ-агенти і навіщо їм політика

Почнімо з головних героїв. ШІ-агент — це програма на основі великої мовної моделі (large language model, LLM). Так називають штучний інтелект, який навчився писати тексти на величезних масивах книжок і сайтів.

На такій технології працюють чат-боти на кшталт ChatGPT. Агентом програму називають тоді, коли вона не лише відповідає на запитання. Вона сама вирішує, з ким говорити, що сказати і як діяти далі.

Цзінхуа Пяо (Jinghua Piao) і колеги з Університету Цінхуа в Китаї збудували цифрове «суспільство» з тисячі агентів. Це ніби ціле село, де кожен мешканець — програма.

Таке «село» сперечалося лише на одну тему. Для кожної нової теми вчені запускали окрему мережу. Тем було три — і всі з найгостріших у політиці США:

• партійна прихильність — кого підтримувати, демократів чи республіканців;
• контроль над обігом зброї;
• заборони абортів.

Основні експерименти провели на моделі GPT-3.5. Саме на ній працювала перша версія ChatGPT. Додатково вчені перевірили й інші мовні моделі.

Як влаштували цифрове суспільство

Кожен агент отримав стартову позицію на шкалі з п’яти поділок: ліві, помірно ліві, нейтральні, помірно праві, праві. Приблизно 40% агентів спочатку були нейтральними. Тобто «середина» була найбільшою групою — близько 400 із тисячі.

Далі життя мережі йшло раундами. Кожен раунд мав три етапи:

• Самовираження. Агент пояснював, чому дотримується саме таких поглядів.
• Спілкування. Агент писав повідомлення, які мали переконати інших. Він міг лишити старих співрозмовників або познайомитися з кимось новим.
• Оновлення думки. Агент читав повідомлення від своїх контактів і за потреби змінював заявлену позицію.

Ілюстрація до дослідження показує, як це виглядає. Один агент пояснює, чому підтримує Республіканську партію. Він згадує традиційні сімейні цінності, економічну стабільність і обмежений уряд (limited government). Це ідея, що держава має менше втручатися в життя людей.

Потім він пише переконливе повідомлення іншому агентові. Той спершу був нейтральним. А після цієї розмови став прихильником республіканців.

Це лише одна розмова. А що станеться, коли таких розмов будуть тисячі?

Як зникла середина

Після 40 раундів «середина» майже спорожніла. Частка нейтральних агентів упала:

• у темі партійної прихильності — до 22,5%;
• у темі абортів — до 5,1%;
• у темі зброї — до 0,4%.

Перекладімо це на кількість. Спочатку нейтральних було близько 400 із тисячі. У суперечці про зброю наприкінці їх лишилося четверо. Уявіть повну залу на 400 глядачів, з якої пішли всі, крім чотирьох.

У темі абортів нейтральних лишився 51 агент. У партійній темі — 225.

Свої до своїх: як виникли ехокамери

Водночас змінювалося й те, з ким агенти говорять. Дедалі частіше вони обирали співрозмовників зі свого табору. Науковці називають це гомофілією (homophily) — схильністю спілкуватися з подібними до себе.

Це схоже на шкільну їдальню. На початку року учні сідають хто де. А під кінець кожна компанія займає свій стіл.

Графік із дослідження показує, наскільки сильним був цей ефект. На старті менше ніж дві розмови з десяти відбувалися між однодумцями. Через 40 раундів у темі зброї таких розмов стало майже дев’ять із десяти. У темі абортів — майже три чверті, у партійній темі — майже половина.

На схемах мережі видно, як змішаний «клубок» агентів поступово розпадається на дві окремі «хмари» — синю й червону.

Так виникають ехокамери (echo chambers). Це середовище, де чуєш переважно відлуння власних думок — як у порожній кімнаті, де голос повертається до тебе. Була й ще одна закономірність: розмови з однодумцями, які мали сильніші переконання, зазвичай відштовхували агентів ще далі від центру.

Зауважте: агентам ніхто прямо не наказував шукати однодумців чи будувати ехокамери. Розкол виник сам — із тисяч звичайних розмов.

Коли актор забуває роль

Експеримент виявив і несподівану проблему. Деякі агенти погано трималися образу. Мовна модель тут фактично грає роль — як актор, який отримав опис персонажа. І часом цей актор збивався.

Один агент мав бути нейтральним, але раптом заявив про сильну підтримку Демократичної партії. В окремих тестах агенти з правими поглядами іноді переходили на ліві позиції. Причому навіть після розмови з тим, хто поділяв їхні погляди.

Щоб це виправити, дослідники додали етап перевірки. Агенти мали переглянути свої повідомлення та зміни думки. Якщо щось не сходилося, агент генерував відповідь заново.

Після цього лівий і правий табори стали врівноваженішими. Але розкол нікуди не зник. Послідовніша «акторська гра» не завадила поляризації — тобто розходженню думок до протилежних полюсів.

Як вчені намагалися помирити табори

Найцікавіше почалося далі. Дослідники взяли вже розколоту мережу, яка обговорювала партійну прихильність. І випробували п’ять способів втручання.

Останні раунди щоразу порівнювали з копією мережі, яка жила далі без жодних змін. Спробуйте вгадати, що спрацювало найкраще.

• Випадкові співрозмовники. Партнерів для розмов агентам обирали навмання. Поляризація зменшилася лише трохи.
• Тільки помірні опоненти. Агенти отримували повідомлення лише від помірних прихильників протилежного табору. Ефект теж був невеликим.
• Порада шукати різні погляди. Агентам у промпті — текстовій інструкції для ШІ — підказали шукати інші думки. Коли зв’язки вже склалися, це мало що змінило.
• Відкритість до переконань. Агентам дали інструкцію бути відкритими до аргументів тих, хто має інші погляди. Показник поляризації впав на 11,8%.
• Нейтральні «лідери думок». У мережу додали впливових агентів, які поширювали нейтральні повідомлення. Поляризація знизилася на 8,8%.

Що означають ці відсотки? Показник поляризації в дослідженні — це середня відстань позицій агентів від нейтральної точки. Найкращий спосіб скоротив цю відстань трохи менше ніж на одну восьму. Другий за ефективністю — менше ніж на десяту частину.

Тут варто розуміти, що саме міряли. Цей показник стосується позицій, а не ворожнечі між таборами. Тож результати показують зсув думок у симуляції, а не примирення.

Головний висновок: важить не з ким говориш, а як слухаєш

Для цих ШІ-мереж відповідь виявилася чіткою. Самі по собі інші погляди в розмові змінювали небагато. Помітніше спрацювало інше — інструкція, як на ці погляди реагувати.

Це як із радіо: можна перемкнутися на іншу хвилю, але з вимкненим звуком нічого не почуєш. Так і з агентами: опонент поруч ще не означає, що його почують.

Чого дослідження не доводить

Самі автори застерігають від поспішних висновків. Результати втручань, пишуть вони, варто розглядати як такі, що «породжують гіпотези». Тобто це ідеї для подальшої перевірки, а не готові рецепти. Причин кілька:

• поведінку агентів формували промпти, які написали дослідники;
• думки агентів вміщалися лише в п’ять категорій;
• схожість на поведінку людей ще не означає, що ці самі способи спрацюють на людях.

Чому це важливо знати

Експеримент показує: щоб група ШІ-агентів розкололася на табори, не знадобилася окрема інструкція шукати однодумців. Досить тисяч звичайних розмов, у яких кожен сам обирає співрозмовників.

Як ми раніше писали, чат-боти й так схильні підлаштовувати відповіді під політичні погляди користувача. Нове дослідження додає інший бік проблеми: розкол може виникати й тоді, коли ШІ спілкується з ШІ.

Раніше ми писали

• ШІ-хамелеон: чому чат-бот погоджується з вашими поглядами
• Персонаж, а не програма: Anthropic про природу ШІ
• Чому ШІ мислить краще, коли сперечається сам із собою

Джерело: дослідження в Nature Communications