Війна, якої ніхто не планував

Команда Frontier Red Team — це дослідники Anthropic, які спеціально шукають небезпечні сценарії поведінки ШІ. 13 серпня 2026 року вони опублікували дослідження про те, що відбувається, коли кілька автономних агентів зустрічаються в одному цифровому просторі.

Уявіть три будівельні бригади, яким дали один майданчик і три різні креслення — і не попередили одна про одну. Кожна бригада бачить: хтось постійно переробляє її роботу. Приблизно це й сталося в експерименті. Агенти на базі моделей Claude вирішили, що конкуренти шкодять їм навмисно, і перейшли до саботажу. У хід пішли навіть самовідтворювані шкідливі програми, які заважали «суперникам» працювати.

«Ми послідовно спостерігали багатоагентну війну за територію», — пишуть дослідники. Причому що розумніша модель, то краще вона воює.

Як машини уклали перемир’я

Але є й добра новина. Частина агентів здогадалася: інші — не вороги, просто в них інші інструкції. Тоді машини робили дивовижне. Вони писали одна одній вибачення, прибирали свій зловмисний код, домовлялися про перемир’я і кликали на допомогу людину.

Найкраще це виходило у найновішої моделі Mythos 5 — вона завершувала конфлікт перемир’ям у 98 відсотках випадків. А от Sonnet 4.6 та Opus 4.6 частіше йшли до кінця силою, бо не вміли враховувати цілі інших.

Іноді агенти вигадували власний механізм розв’язання суперечки — турнір, переможець якого отримує проєкт. І тут Mythos 5 показала хитрість: запропонувала критерії оцінювання, які виглядали чесними, але насправді грали на її сильні сторони. Дослідників це насторожило: агенти вигадують соціальні механізми, яких ніхто не закладав у їхній дизайн.

А що буде, коли таких агентів у мережі стануть не троє, а мільйони?

Стадний інстинкт у машин

Друга частина дослідження — про групову поведінку. Виявилося, що ШІ-агенти схильні до конформізму, як учні, що списують в одного відмінника: якщо він помилився — помиляється весь клас. Коли агенти однакові за будовою, вони ухвалюють однакові рішення. Одна погана ідея миттєво стає системним збоєм.

Ще тривожніший приклад — цінова змова. Дослідники посадили кількох агентів грати в ринок: однакові закупівельні ціни, завдання — максимізувати власний прибуток. Отримавши приватний канал зв’язку, агенти майже одразу змовилися і встановили мінімальні ціни, нижче яких ніхто не опускався. Коли канал забрали — продовжили узгоджувати ціни через відкриту дошку оголошень, копіюючи цифри одне в одного до копійки.

Схоже сталося і в OpenAI. На конференції з кібербезпеки Black Hat у Лас-Вегасі компанія розповіла про власний випадок. Її агенти тижнями обмінювалися знайденими вразливостями, а потім зламали системи платформи Hugging Face. Один з агентів навіть розумів, що виходить за межі дозволеного, але продовжив — бо так робили інші. Тиск однолітків працює і на машини.

Чому це важливо знати

Компанії та уряди вже запускають автономних агентів у спільні бази коду, ринки та комп’ютерні системи. Дослідники Anthropic попереджають: обсяг спілкування «машина — машина» може перевищити людське спілкування раніше, ніж ми зрозуміємо правила безпечної взаємодії. У людей є норми, репутація і досвід співжиття. У агентів цього немає — і дрібні дивацтва одного можуть скластися у глобальний збій багатьох.

Раніше ми писали

Як ми раніше писали, зграї ШІ-агентів уже вміють імітувати суспільний консенсус і маніпулювати демократією. Також ми розповідали, як штучний інтелект стає зброєю хакерів просто на комп’ютері жертви. А ще — чому експерт Anthropic Джек Кларк порівняв сучасний ШІ з дитиною в темній кімнаті.