Чатботи — віконця зі штучним інтелектом, що з’являються на сайтах під час онлайн-шопінгу або звернень до служби підтримки — стали ще розумнішими завдяки генеративному ШІ. Але водночас вони стають і потужним чинником, що формує (або руйнує) довіру споживача.

Чатбот чи шахрай? Як споживча довіра залежить від дизайну штучного інтелекту

“Ми перебуваємо в точці зламу — не знаємо всіх ризиків, але маємо дивитись уперед,” — Скотт Шанке, пише Phys.org

Скотт Шанке, доцент бізнес-школи Lubar при Університеті Вісконсин-Мілуокі, вивчає, як споживачі взаємодіють із чатботами, та як інтерфейс — від гумору до голосу — змінює сприйняття.

Людяність vs Машинність: що вигідніше?

У дослідженні 2021 року Шанке спільно з колегами працював із продавцем секонд-хенду, впровадивши чатбот з різним ступенем “олюднення”: деякі версії жартували, представлялися по імені або робили паузи між фразами. Результат був неоднозначним:

• “Людяніші” боти успішніше закривали угоди, бо здавались переконливішими.
• Але споживачі також починали торгуватись — бо відчували, що з ними веде розмову не безособова система, а “хтось”, чия пропозиція має мотиви.

“Якщо ти здаєшся просто ботом, я охочіше приймаю нижчу ціну — бо не приписую тобі наміру ‘обдурити’ мене,” — пояснює Шанке.

Коли емоції — зайві

Однак те, що працює в торгівлі, шкодить у фандрейзингу. В іншому дослідженні, яке наразі проходить рецензію, Шанке співпрацював із благодійною організацією в Міннеаполісі. Там чатбот мав взаємодіяти з потенційними донорами.

Результат: надмірна “людяність” та емоційність чатбота відлякували людей. У вже емоційно насиченому контексті (збір коштів для жертв повеней або голоду) споживачі вважали подвійну емоційну “атаку” надмірною.

“У таких випадках логічний, ‘машиноподібний’ тон працює краще,” — підсумовує Шанке.

Голоси, яким ми довіряємо — навіть якщо вони фейкові

Наступний рубіж — аудіочатботи. Так звані voice clones (голосові двійники) — це аудіофейки, що здатні зімітувати будь-який голос після кількох секунд зразка. Їх вже використовують у TikTok, новинах, рекламах і… шахрайстві.

У новому дослідженні для журналу Management Science, Шанке перевірив реакцію людей на спілкування з ботами, які говорили… їхнім же голосом. І навіть коли учасників попереджали, що “цей співрозмовник — шахрай”, рівень довіри залишався високим, якщо голос був знайомий.

“Навіть знаючи, що не варто довіряти, люди вірили, коли чули власний голос,” — констатує Шанке.

Це відкриття має серйозні наслідки для законодавства: попри розкриття факту, що це бот, ефект “автентичного голосу” продовжував викликати довіру.

Дивитись на п’ять років уперед

Вже зараз голосові клони використовуються для складних шахрайських схем, створення фейкових новин, а в одному випадку навіть для пограбування банку. Але, наголошує Шанке, проблема — не в технології, а в намірах.

“Я не вірю, що технології бувають ‘хорошими’ чи ‘поганими’. Все залежить від того, хто їх використовує і з якою метою.”

Його дослідження має на меті не лише зрозуміти поточний стан, а й передбачити майбутні ризики, щоб встигнути створити захисні механізми — через прозорість, регулювання й обізнаність.

“Ми як дослідники маємо дивитись уперед на п’ять років. Як ми можемо захистити людей або, принаймні, забезпечити прозорість?” — підсумовує Шанке.

Чому це важливо знати

Чатботи та голосові фейки дедалі глибше проникають у повсякденну взаємодію між людьми та бізнесами. Дослідження Скотта Шанке показують, що невелика зміна дизайну інтерфейсу ШІ — від тону до голосу — може істотно впливати на рівень довіри, рішення про купівлю або пожертву. Розуміння цього стає критично важливим як для розробників, так і для споживачів — аби не потрапити в пастку маніпуляцій. І водночас — відкрити потенціал ШІ для соціально корисних цілей без ризику зловживань.