Як штучний інтелект вже змінює війну?

ШІ вже зараз може писати програмний код та виявляти кібератаки, що суттєво змінило ландшафт війни в найближче десятиліття, каже Сем Альтман, CEO OpenAI.

Чи працюватиме OpenAI з військовим сектором?

Так, OpenAI співпрацює з оборонним сектором США, хоча не планує ставати зброярською компанією. Альтман вважає помилкою дистанціювання від оборонної індустрії.

Що загрожує журналістиці в епоху ШІ?

Зникнення економічної моделі через розмивання авторських прав може знищити інвестиційну журналістику, що врешті-решт позбавить самі ШІ-системи актуальних даних.

Який найнебезпечніший сценарій розвитку ШІ?

«Випадкове захоплення світу», коли люди поступово стають повністю залежними від порад ШІ, які вже не можуть зрозуміти, але змушені виконувати, щоб залишатися конкурентоспроможними.

Кібервійна вже тут: чому армії недооцінюють ШІ

Альтман переконаний, що військові ніколи не розуміють достатньо глибоко, як технологія змінює поле бою.

«Якщо остання війна велася гвинтівками, вони припускають, що наступна теж вестиметься гвинтівками», — пояснює він логіку армійського мислення.

Реальність виявляється радикально іншою. ШІ вже зараз здатний писати програмний код і, що критично важливо, виявляти кібератаки на дуже високому рівні. Це фундаментально змінює картину війни найближчого десятиліття.

«Технологія завжди кардинально змінювала ведення воєн. Із ШІ це станеться знову — причому швидше, ніж очікують генерали», — застерігає глава OpenAI.

Чому OpenAI працює з Пентагоном

Кілька років тому співпраця з оборонним сектором була табу для технологічних компаній. Тепер Альтман відкрито заявляє:

«Було помилкою не підтримувати оборонну індустрію. Ми зараз бачимо у світі нагадування, чому сильна національна оборона важлива. Я пишаюся тим, що працюю з ними».

Водночас він наголошує на межах:

«Ми не хочемо ставати зброярською компанією. Але це завжди легше сказати, ніж вирішити в кожному конкретному випадку».

Де проходить ця межа? Альтман ілюструє проблему провокативним питанням:

«Якщо ви створюєте надпотужні інструменти пропаганди — чи не робите ви фактично зброю? Певною мірою так».

Це питання виходить за межі класичного розуміння озброєння. Інформаційна зброя, кіберінструменти впливу, системи дезінформації — все це продукти ШІ, які можуть бути настільки ж руйнівними, як і фізична зброя.

Погані актори теж отримають ШІ

Найбільша загроза — не сама технологія, а те, хто нею володіє. Альтман описує перший із трьох катастрофічних сценаріїв: ШІ-системи працюють бездоганно, виконують точно те, що їм наказують — але наказує диктатура, терористична організація чи авторитарний режим. Біологічна зброя, зламані ядерні системи, масштабні кібератаки — все це стає реальністю, коли ШІ опиняється в руках тих, хто не обмежений етикою.

«Погані актори отримають ШІ і спробують використати його для атак», — констатує Альтман без ілюзій.

Його рішення — не заборони, а баланс сил:

«Набагато більше доброго ШІ в руках добрих людей, які використовують його для оборони».

Логіка знайома — це принцип ядерного стримування часів Холодної війни. Світ не позбувся атомної зброї, але навчився контролювати її через міжнародні інституції.

«Я вважаю, що світ поки що добре впорався із загрозою ядерної зброї. Міжнародне агентство з атомної енергії (МАГАТЕ) — приклад того, що це працює. Я вірю, що це можливо знову», — каже глава OpenAI.

Питання в тому, чи встигнемо створити «МАГАТЕ для ШІ» до того, як хтось створить першу ШІ-зброю масового ураження.

«Випадкове захоплення світу»: сценарій, про який мовчать

Два перші сценарії катастрофи обговорюються постійно: зловживання ШІ диктаторами або втрата контролю над системою, яка розвиває щось схоже на свідомість і не хоче, щоб її зупинили. Але третій сценарій, на думку Альтмана, найнебезпечніший саме тому, що про нього майже не говорять.

«Модель у певному абстрактному сенсі випадково бере контроль над світом», — формулює він.

Як ШІ захоплює владу без революції

Механізм простий і майже непомітний — поступове зростання залежності. Сотні мільйонів людей уже розмовляють із ChatGPT, скоро будуть мільярди. Кожен покладається на його відповіді дедалі більше — для важливих рішень у житті, на роботі, у стосунках.

Спочатку ШІ дає поради, які люди розуміють і часто виконують. Все логічно. Все прозоро.

Потім система стає розумнішою. Починає давати поради, які людина вже не розуміє — але вони виявляються правильними знову і знову. Модель «бачить за рогом», куди людське мислення заглянути не може. Передбачає наслідки на п’ять кроків уперед. Аналізує мільйони змінних одночасно.

«Тепер у тебе вибір: або ти слідуєш порадам, які не можеш зрозуміти, або ти менш конкурентоспроможний за своїх колег», — описує Альтман пастку.

Більшість обирають підкорятися. Не через віру в ШІ, а через страх відстати.

«Врешті-решт ми всі робимо те, що каже нам ШІ-асистент. Принаймні ті, хто хоче бути найконкурентоспроможнішим», — констатує він.

Замкнене коло: ми годуємо систему, яка нами керує

При цьому система стає ще потужнішою через наші дії. Кожне виконане рішення, кожна дія за порадою ШІ стає новими тренувальними даними. Вони повертаються в модель. Вона безперервно вчиться — про суспільство, про економіку, про те, як ми реагуємо на її поради.

«І хто насправді це контролює? Це щось колективне — і водночас означає, що ми якимось чином робимо те, чого хоче від нас модель», — каже Альтман.

Ніхто не ухвалював рішення передати владу. Не було перевороту, революції, драматичного моменту. Просто мільярди маленьких рішень — слідувати пораді, яку не розумієш, бо вона спрацювала минулого разу.

2025-й: рік, коли ШІ став розумнішим за нас

«Це був рік, коли, на мою думку, ШІ став розумнішим за нас», — каже Альтман про 2025-й. «Це великий момент. Життя триває, але щось фундаментальне змінилося».

Наскільки науково-фантастичним стане розвиток — незрозуміло. Чи житимемо ми вічно у комп’ютерах? Чи просто вилікуємо рак і хворобу Альцгеймера? Чи станемо безсмертними кіборгами? Глава OpenAI не знає.

Але він бачить головну проблему:

«Наші технологічні можливості випереджають нашу мудрість, наше судження, наш суспільний процес узгодження. Це розбалансовано — і не в добрий спосіб».

Пауза. Потім чесне зізнання:

«Але я не знаю, що з цим робити, бо технологія вже тут».

Загроза журналістиці — загроза самому ШІ

Дьопфнер, як медіаменеджер, поставив діагноз без анестезії:

«Технічно ідея авторського права зламана. Вона перестала існувати в епоху великих мовних моделей, які збирають дані для своїх розумних відповідей. Якщо журналіст-розслідувач витрачає місяці на розслідування, а його матеріал миттєво стає безкоштовним тренувальним матеріалом для ШІ — де стимул? Якщо немає бізнес-моделі, немає доходів — у нас фундаментальна проблема».

Альтман не заперечував:

«Це те, що я намагався сказати. Вам потрібна ця постійна робота репортерів у світі. Це вимагає грошей — багато грошей — щоб люди мали мотивацію з’ясовувати складні речі».

Парадокс: без журналістів ШІ стає тупішим

Але глава OpenAI вказав на взаємну залежність, яку часто ігнорують:

«Якщо джерела вичерпаються — якщо не буде різноманітності медіа, якщо зникнуть журналісти-розслідувачі — тоді нема чого збирати. Недостатньо даних, і відповіді стають примітивнішими»

Це ключовий момент: ШІ не створює нову інформацію. Він аналізує, узагальнює, переосмислює те, що створили люди. Без живої журналістики, без розслідувань, без репортажів із місць подій — мовні моделі перетворяться на папуг, які повторюють застарілі факти.

Рішення: мікроплатежі в епоху ШІ-агентів

Альтман запропонував конкретну модель:

«Моя особиста улюблена тема — я завжди хотів, щоб мікроплатежі в інтернеті працювали для цінних видів контенту. Це завжди було занадто складно технічно. Але я думаю, у світі ШІ-агентів це нарешті може запрацювати».

Як це виглядатиме? ШІ-асистент читає статтю, використовує інформацію у відповіді користувачу — і автоматично перераховує мікроплатіж автору. Кілька центів за використання. Помножене на мільярди запитів — це стає реальними грошима.

Принцип простий:

«Якщо інтелектуальна власність когось — чи то музика, фільм чи журналістика — використовується іншими в комерційних цілях, має бути розподіл доходів або будь-яка форма винагороди, щоб підтримати цей стимул».

Без цього стимулу журналістика вмирає. А з нею — і якість відповідей ШІ.

Відповідь без цитування: як ШІ має поважати джерела

Альтман провів аналогію з музичною індустрією:

«Якщо ти семплуєш чужу музику у своїй пісні — берешь фрагмент оригіналу — ти домовляєшся і платиш авторові. Музична індустрія це давно вирішила».

Але є межа:

«Якщо ти просто слухаєш музику, надихаєшся і створюєш щось своє, навчившись стилю — ти за це не платиш. Музикантові дозволено слухати скільки завгодно треків, щоб зрозуміти, що робить пісню хорошою, і застосувати ці принципи у власній творчості».

Переклад на мову ШІ: система може вчитися на контенті — аналізувати структуру, стиль, аргументацію. Але не має права дослівно копіювати. Має синтезувати нове знання, відповідати своїми словами, зберігаючи оригінал як натхнення, а не як джерело для плагіату.

Проблема в тому, що межа між «навчанням» і «копіюванням» у випадку ШІ набагато менш очевидна, ніж у музиці.

Чому це важливо знати

Розмова Альтмана і Дьопфнера розкриває три критичні виклики епохи ШІ, які мають пряме значення для України.

Перше — кібервійна вже почалася. ШІ-зброя, автоматизовані кібератаки, системи, здатні писати шкідливий код та виявляти вразливості — це не майбутнє, а сьогодення. Армії, які не адаптуються до цієї реальності, ризикують програти конфлікти наступного покоління ще до першого пострілу.

Друге — «випадкове захоплення» не фантастика. Коли мільйони людей щодня покладаються на поради ШІ, які вже не можуть перевірити, але змушені виконувати заради конкурентоспроможності — суспільство непомітно передає контроль системі. Для країни, що будує цифрову економіку та масово впроваджує ШІ-рішення, це реальний ризик втрати суб’єктності.

Третє — журналістика на межі. Медіа стоять перед екзистенційною загрозою не від конкуренції з ШІ, а від руйнування економічної моделі. Коли розслідування стають безкоштовним тренувальним матеріалом для мовних моделей без жодної компенсації авторам — зникає стимул шукати правду. А без журналістів-розслідувачів самі ШІ-системи деградують, залишаючись без свіжих даних та незалежної перевірки фактів.

Ці три виклики об’єднує одне: вони вже не прогнози, а реальність. Питання не «чи станеться», а «як реагувати». І часу на вироблення стратегії — місяці, не роки.