ШІ ловить ШІ: як виявляють фейкові коментарі в мережі
Уявіть суперечку про подорожчання хліба, яка раптом перетворюється на сварку про мігрантів. Це не випадковість — так працює один із прийомів дезінформації в соцмережах. Дослідники Шон Робертс (Seán Roberts) із Кардіффського університету та Катерина Криконюк (Kateryna Krykoniuk) із Шеффілдського університету навчили штучний інтелект ловити такі підміни теми, пише The Conversation.
Найважливіше про Київ — у Telegram
Тривоги, тарифи, транспорт — коротко і без спаму
Чому старі методи більше не працюють
Раніше виявити фейковий акаунт було простіше: боти писали з помилками або незвичними для мови зворотами. Алгоритми вчилися шукати саме такі мовні «плями».
Генеративний штучний інтелект це зламав. Тепер текст звучить природно, без жодних мовних огріхів. Навіть характерні для ШІ слова-паразити — на кшталт англійського «delve» чи зайвих тире — системи вже навчилися уникати.
Тому дослідники вирішили дивитися не на те, як написано повідомлення, а на те, куди воно веде розмову.
«Червоний оселедець»: прийом, якому тисяча років
Головний інструмент маніпуляторів дослідники назвали «red herring» — «червоний оселедець». Вислів походить із мисливського сленгу: різким запахом копченої риби збивали з сліду мисливських собак.
У розмові прийом працює так само: людина ніби відповідає на коментар, але непомітно тягне його в інший, значно гостріший бік. Приклад із дослідження: хтось написав про президента Володимира Зеленського та зустрічі з британськими політиками — а у відповідь отримав звинувачення в диктатурі, які взагалі не про це.
Другий тип підміни — «нон секвітур», логічний стрибок, коли відповідь просто не випливає з попередньої репліки. Уявіть, що на запитання «котра година» вам відповідають «а бензин знову подорожчав» — ось це воно.
Як науковці впіймали 1600 коментарів
Робертс і Криконюк вручну проаналізували понад 1600 коментарів під відео BBC News на YouTube — стільки учнів навчається у великій міській школі. Кожен коментар оцінили за 25 ознаками.
Результат: 36% повідомлень, що збивали розмову з теми, містили «червоний оселедець», 65% — логічний стрибок, а 20% — особисті образи. Такі коментарі рідше визнавали чужу думку чи виявляли співчуття.
Як штучний інтелект ловить сам себе
Наступний крок — навчити комп’ютер розпізнавати це автоматично. Для кожного реального коментаря дослідники просили велику мовну модель (LLM — систему штучного інтелекту, яка передбачає найімовірніше продовження тексту) згенерувати кілька «нормальних» відповідей на той самий допис.
Потім систему порівнювали: справжня відповідь схожа на очікувані — розмова триває чесно. Якщо ж вона різко відхиляється — це сигнал можливої маніпуляції.
Метод спрацював приблизно у трьох випадках із чотирьох (77% точності) — це вдвічі краще за старі системи, що аналізують лише тональність окремих слів, і майже так само добре, як коли двоє людей-експертів оцінюють той самий коментар.
Хто фінансував дослідження
Роботу опублікували в науковому журналі Humanities and Social Sciences Communications, що входить до видавничої групи Nature. Проєкт фінансувало британське Міністерство оборони через програму A2ISR — вивчення того, як штучний інтелект допомагає стежити за інформаційними загрозами.
Катерина Криконюк має українське походження, а саме дослідження безпосередньо торкається того, як через коментарі під новинами про війну в Україні намагаються розганяти конфліктні теми.
Що ще варто знати про метод
У науковців лишаються сумніви. Штучний інтелект, який шукає маніпуляції, сам навчений на даних з інтернету — а отже, може успадкувати ті самі упередження, що й люди, які цей інтернет наповнювали.
Автори прямо визнають: система поки не розуміє розмову так само тонко, як людина, і повністю замінити модераторів вона не зможе.
Чи означає це кінець дезінформації
Дослідники наголошують: відхід від теми сам собою не доказ злого наміру. Люди природно перескакують з теми на тему в живій розмові.
Тому систему пропонують використовувати не як суддю, а як систему раннього попередження — вона підсвічує підозрілі гілки обговорення, а остаточне рішення все одно ухвалює людина-модератор.
Чому це важливо знати
Якщо в коментарях під новиною суперечка про одне раптово переростає в сварку про зовсім інше — це може бути не збіг, а техніка маніпуляції. Розпізнавши прийом, легше не піддатися на провокацію і не втягнутися в чужу суперечку.
Раніше ми писали
Медіаменеджер і автор-фрілансер з 1991 року. Займається креативним продакшном та розвитком медіа.
Усі статті автора →
