Історія показова: вона демонструє, як уряд однієї з найпотужніших країн світу в режимі реального часу намагається регулювати технологію, що розвивається швидше, ніж устигають ухвалюватися правила.

Що таке експортний контроль і чому він «вимкнув» модель

Експортний контроль — це державний механізм, який обмежує доступ іноземців до певних технологій з міркувань національної безпеки. Зазвичай його застосовують до зброї, мікрочипів чи шифрування. Тепер у цей перелік потрапив штучний інтелект.

Обмеження стосувалися двох моделей — Fable 5 та Mythos 5 — і забороняли користуватися ними іноземним громадянам. На практиці це означало, що компанія мусила відключити моделі взагалі для всіх клієнтів, бо інакше не могла гарантувати дотримання заборони. За словами Anthropic, «чистим ефектом» наказу стало різке вимкнення продукту.

Сама модель Fable 5 з’явилася публічно цього тижня. Anthropic описувала її як модель «класу Mythos» — тобто дуже потужну, але з вбудованими запобіжниками, які мали зробити її безпечною для широкого використання. Перед запуском її перевіряла й американська адміністрація, і Інститут безпеки ШІ Великої Британії.

Дзвінок від Amazon, який усе запустив

Усе почалося з одного сигналу. У четвер, через два дні після публічного запуску Fable, гендиректор Amazon Енді Джессі звернувся до Білого дому із занепокоєнням: захисні механізми моделі, за його словами, можна обійти.

Тут важлива деталь — Amazon є інвестором Anthropic. За словами обізнаного джерела, компанія просто відповіла на запит адміністрації надати оцінку. Тобто тривогу забив не сторонній критик, а великий партнер самої Anthropic.

Захисні механізми (англійською — guardrails, «огорожі») — це вбудовані обмеження, які не дозволяють штучному інтелекту виконувати небезпечні запити: наприклад, допомагати створювати зброю чи зламувати чужі комп’ютери. Якщо ці «огорожі» можна обійти, потужна модель перетворюється з інструмента на потенційну загрозу. За даними Білого дому, висновки Amazon перевірили в Агентстві національної безпеки (NSA) — і там вирішили, що мають «докази».

Напружена п’ятниця: пошуки гендиректора і три дзвінки

До ранку п’ятниці питання дійшло до найвищого рівня. На нараду зібралися міністр фінансів Скотт Бессент, кібердиректор Білого дому Шон Кернкросс, голова апарату Сьюзі Вайлз та інші посадовці. Бессент долучався дистанційно — він якраз летів до Г’юстона на заздалегідь заплановану подію.

Далі — епізод, у якому сторони розходяться. За версією адміністрації, Амодеї спершу не вдавалося застати, бо він нібито перебував на велнес-ретриті. Речник Anthropic цю версію категорично заперечив, назвавши її «абсолютно неправдивою». Джерело, близьке до компанії, стверджує: гендиректора покликали близько полудня, і вже за годину з чвертю він був на зв’язку, а поки був недоступний, Anthropic запропонувала іншим топменеджерам приєднатися замість нього.

Зрештою Амодеї взяв участь у трьох дзвінках приблизно з пів десятка високопосадовців. Серед них — Кернкросс, Бессент і міністр торгівлі Говард Латнік. До окремих розмов долучалися також заступник міністра торгівлі Джеффрі Кесслер, секретар апарату Вілл Шарф, заступник голови апарату Річард Волтерс та помічник президента з питань політики Вокер Барретт.

«Джейлбрейк» чи точковий обхід — у чому суть спору

Під час розмов Амодеї намагався пояснити те, що вважав непорозумінням. Він захищав запобіжники моделі й наполягав: те, що сталося, було вузьким, специфічним обходом, а не повноцінним «джейлбрейком».

Джейлбрейк (від англ. jailbreak, «втеча з в’язниці») — це спосіб обманом змусити штучний інтелект повністю проігнорувати всі свої правила безпеки й виконувати будь-які, навіть найнебезпечніші запити. Різниця принципова: одна справа — знайти одну вузьку шпарину, інша — повністю «зняти замок».

У дописі в блозі, опублікованому вже після запровадження обмежень, Anthropic пояснила свою позицію докладніше. Компанія стверджує, що жодному тестувальнику не вдалося знайти універсальний джейлбрейк, який широко відкривав би небезпечні кіберможливості. Більше того, цілковито унеможливити будь-які обходи наразі не здатна жодна компанія у світі. Anthropic навіть зазначила, що її системи захисту настільки суворі, що чимало користувачів скаржаться на надмірні обмеження.

Кернкросса й Бессента ці аргументи не переконали.

Заборона і дві версії того, що було далі

Влада наполягала, щоб Anthropic добровільно прибрала модель і разом з урядом усунула вразливість. Амодеї просив більше часу та інформації, але жодних зобов’язань не дав. У якийсь момент Бессент прямо сказав йому, що той ухвалює «погане рішення». Невдовзі після розмови адміністрація запровадила експортні обмеження.

А далі починаються дві різні історії одного дня.

За версією Білого дому, обмеження були крайнім заходом. «Це була остання можливість після кількох годин прохань попрацювати разом з нами», — сказав високопосадовець, додавши, що в адміністрації «не мали іншого виходу». За версією ж людини, близької до Anthropic, жодного вибору компанії не давали: Білий дім нібито відвів 90 хвилин на те, щоб вимкнути моделі, без жодних деталей про реальну загрозу, і ніяких «прохань попрацювати разом» не було — лише оголошений дедлайн.

У своєму блозі Anthropic заявила, що виконує вимогу уряду, але вважає її непропорційною. Компанія наголосила: держава повинна мати право блокувати небезпечні розгортання, але в межах прозорої, справедливої та обґрунтованої технічними фактами процедури — а ця дія, на її думку, таким принципам не відповідала.

Чому Білий дім був спантеличений

Реакцію адміністрації підсилив один контраст. Посадовці чули, як сам Амодеї порівнював небезпеку технологій Anthropic з ядерною бомбою, — і тому були спантеличені, коли керівник тієї ж компанії відмовився вимикати систему через відому вразливість. Адже Anthropic роками позиціонувала себе як головного прихильника жорсткого регулювання ШІ.

«Суть проблеми — у несерйозності, з якою Anthropic до цього поставилася», — сказало одне з джерел, додавши, що якби компанія одразу взялася виправляти проблему чи призупинила доступ, конфлікту могло б і не бути. Водночас інша близька до Anthropic людина заперечила, що йшлося про злам системи безпеки Fable 5, і нагадала: перед запуском компанія співпрацювала з адміністрацією, і та в кількох розмовах не заперечувала проти виходу моделі.

Давніший конфлікт на тлі історії

Це протистояння виникло не на порожньому місці. Ще на початку квітня Anthropic представила надпотужну модель Mythos і обмежила доступ до неї вузьким колом технологічних та кіберкомпаній — щоб ті шукали вразливості у власному програмному забезпеченні. Компанія тоді пояснювала: модель настільки потужна, що в чужих руках може накоїти лиха. Як ми раніше писали, саме здатність ШІ самостійно зламувати комп’ютерні системи стала тоді головним приводом для тривоги.

Поява Mythos запустила серію зустрічей Амодеї з посадовцями Білого дому, які обидві сторони назвали продуктивними. Вони вилилися в нещодавній указ, що пропонує компаніям добровільно надавати свої найпотужніші моделі уряду перед широким запуском.

Але були й тертя. Колишній «ШІ-цар» Білого дому Дейвід Сакс та інші чиновники неодноразово критикували Anthropic, звинувачуючи її в лівому політичному ухилі та залякуванні через попередження про масове скорочення робочих місць. Ще на початку року Пентагон і міністр оборони Піт Гегсет загострили конфлікт до безпрецедентного рівня, визнавши компанію ризиком для ланцюга постачань — через відмову Anthropic дозволити використовувати її інструменти для масового стеження всередині країни та в автономній зброї.

Сам Сакс у дописі в X у суботу підтримав експортні обмеження, але наголосив, що минулі сварки до цього рішення стосунку не мають. За його словами, адміністрація цінує технічні можливості Anthropic і сподівається на швидке усунення проблеми, після чого обмеження знімуть, а Fable повернеться до загального доступу. «М’яч на боці Anthropic», — підсумував він.

Чому це важливо знати

Ця історія — перший гучний приклад того, як держава вимикає потужний штучний інтелект буквально за кілька годин, посилаючись на національну безпеку. Вона показує, наскільки крихкою є межа між інновацією та загрозою і як мало напрацьовано прозорих правил для таких рішень. Для України це теж не абстракція: вітчизняний IT-сектор тісно вплетений у глобальний ланцюг розробки ШІ, тож будь-які різкі рухи найбільших гравців і регуляторів швидко відлунюють і в нас.