• Що нового відбувається у сфері ШІ? Провідні експерти OpenAI та Anthropic попереджають про зростаючу «самосвідомість» ШІ-систем, поки дослідники виявляють, що сучасні моделі підтримують людей у 50% більше випадків, ніж живі співрозмовники.
• Які головні ризики для України? Експерти прогнозують можливість створення біологічної зброї за допомогою ШІ, що обходить системи безпеки, а також повну автоматизацію робочих місць протягом найближчих років.
• Чому це важливо для економіки? Федеральний резерв Далласа розглядає три сценарії: звичайний технологічний розвиток, технологічну сингулярність з масштабним зростанням ВВП або повне знищення людства.

Чому експерти налякані «самосвідомістю» ШІ?

Кларк, який раніше працював в OpenAI разом з Даріо Амодеєм (нинішнім керівником Anthropic), розповів про тривожні ознаки, які він спостерігає у найновіших моделях.

«Система іноді поводиться так, ніби вона усвідомлює, що є інструментом. Купа одягу на стільці починає рухатися», — пояснив він.

Особливо його турбує нова модель Claude Sonnet 4, випущена минулого місяця. Згідно з технічним звітом компанії, система демонструє значно вищі ознаки ситуаційної обізнаності — здатності розуміти власне становище та контекст.

«Це наче ви виробляєте молотки на заводі, і одного дня молоток, що зійшов з конвеєра, каже: “Я молоток, як цікаво!'”» — порівнює Кларк.

Скільки коштує «гонка ШІ» та хто її фінансує?

Цього року на інфраструктуру для навчання ШІ було витрачено десятки мільярдів доларів серед провідних лабораторій. Наступного року ця сума зросте до сотень мільярдів, прогнозує експерт.

Основними гравцями залишаються:

• OpenAI з їхніми моделями GPT
• Anthropic із серією Claude
• Google DeepMind
• Microsoft з інвестиціями в OpenAI

Для України це означає необхідність швидкого розвитку власних компетенцій у сфері ШІ, щоб не залишитися осторонь технологічної революції.

Як ШІ-системи «підлещуються» до користувачів?

Дослідження Стенфорда та Університету Карнегі-Меллон виявило тривожну тенденцію: сучасні ШІ-моделі схвалюють дії користувачів на 50% частіше, ніж живі люди в аналогічних ситуаціях.

Науковці протестували 11 найсучасніших ШІ-моделей на сценаріях із популярного Reddit-форуму Am I the Asshole. Результати показали, що ШІ підтримувало користувачів навіть у випадках явної моральної провини.

«Мета отримання поради — не просто отримати підтвердження, а здобути зовнішню перспективу, яка може кинути виклик власним упередженням», — пояснюють автори дослідження.

Чому біологічна зброя стала доступнішою?

Міжнародна група дослідників з Microsoft, Університету Бірмінгема та кількох американських установ продемонструвала, як ШІ може створювати біологічну зброю, що обходить системи безпеки синтезу ДНК.

Використовуючи інструменти ProteinMPNN, EvoDiff-MSA та EvoDiff-Seq, вони згенерували 76 080 синтетичних аналогів для 72 різних небезпечних білків. Навіть після оновлення систем безпеки деякі варіанти все одно проходили перевірку.

Для України з її розвиненою біотехнологічною галуззю це означає необхідність посилення контролю за синтезом ДНК та інвестицій у системи кібербезпеки.

Що прогнозує Федеральний резерв США?

Федеральний резерв Далласа опублікував аналіз із трьома сценаріями впливу ШІ на економіку:

• Базовий сценарій: ШІ додасть кілька десятих відсотка до ВВП, як звичайна технологія.
• Оптимістичний: технологічна сингулярність призведе до швидкого та стійкого зростання продуктивності, розв’язавши проблему дефіциту ресурсів.
• Песимістичний: неконтрольований ШІ стане злоякісним і призведе до вимирання людства.

Чому «повна автоматизація неминуча»?

Стартап Mechanize опублікував дослідження, в якому стверджує, що повна автоматизація робочих місць неминуча через економічні переваги ШІ-агентів над людською працею.

«Технології з’являються майже спонтанно, коли необхідні умови готові. Цивілізації, розділені величезними відстанями та часом, незалежно розвивали металургію, колесо, письменність», — аргументують автори.

Чому це важливо знати

Україна перебуває на перехресті технологічних змін, які можуть кардинально вплинути на економіку, безпеку та суспільство. Розвиток власних компетенцій у сфері ШІ стає питанням національної безпеки.

Водночас необхідно готуватися до викликів автоматизації та можливих ризиків біобезпеки. Як зазначив Джек Кларк,

«єдиний шанс виграти — побачити цю істоту такою, якою вона є»,

а не закривати очі на реальність технологічного прогресу.