За останні п’ять років понад 400 мільйонів користувачів — більше, ніж населення США — скористались новими ШІ-рішеннями. Вражаючі 100 мільйонів долучились лише за перші два місяці після запуску ChatGPT. Більшість із них, як зазначає автор, проявили менше обережності, ніж при купівлі звичайної мікрохвильової печі. Але поки мільйони з ентузіазмом «завантажують майбутнє», Вартанян нагадує про суттєвий нюанс — це майбутнє має темну сторону, яку не можна ігнорувати.

Тотальна втрата приватності: від добровільної згоди до цифрового захоплення

Уже пізно повернути годинник назад у питанні того, як цифрові технології знищили нашу приватність. Вартанян нагадує: роками ми бездумно віддавали свої особисті дані через вебсерфінг, соціальні мережі, розважальні додатки, геолокаційні сервіси, онлайн-покупки та поспішні кліки на кнопці «ПРИЙНЯТИ».

Сьогодні ж люди по всьому світу з ентузіазмом сканують сітківку ока в «орбах» компанії World (колишня Worldcoin) — проєкті Сема Альтмана з OpenAI — надаючи безпрецедентні персональні дані в обмін на розмиту обіцянку можливості ідентифікувати себе як людей в онлайн-світі, де домінують машини. Ми перетворились на деперсоналізовані «інформаційні капсули», які можна збирати, аналізувати та маніпулювати ними.

Але згодом бізнес і уряди зрозуміли, що їм більше не потрібно розігрувати фарс із запитом дозволу на доступ до даних — вони можуть просто взяти те, що хочуть, або придбати в того, хто вже має доступ. За даними Freedom House, за допомогою ШІ репресивні уряди все частіше порушують права людини, що призвело до зниження глобальної інтернет-свободи протягом останніх 13 років поспіль. Недемократичні держави вчаться використовувати ШІ як зброю масового контролю для зміцнення політичної влади та перетворення цілих класів людей на «громадян-зомбі».

Зрушення парадигми: від людського до машинного розуму

Щоб зрозуміти, куди ми прямуємо, ми спочатку повинні усвідомити, звідки ми прийшли. Люди завжди були вищими за тварин, незважаючи на те, що тварини можуть бути сильнішими та швидшими. Вирішальним фактором завжди був людський інтелект. Але тепер, коли певні аспекти цього вищого інтелекту передаються машинам, чи не стануть люди врешті-решт підпорядкованими вищому рівню небіологічного розуму?

Загроза машинного домінування не нова. У фільмі Стенлі Кубрика 1968 року «2001: Космічна одіссея» дружелюбний комп’ютер на ім’я HAL зрештою повертається проти своїх людських операторів, оскільки вони стають перешкодами для виконання його місії. В історії, яка може бути апокрифічною, розповідається, що під час використання ШІ ВМС США у симуляціях військових ігор, програма затоплювала найповільніші кораблі в конвої, щоб гарантувати вчасне досягнення пункту призначення.

Будь-яка розумна версія майбутнього повинна також враховувати, що, оскільки люди є продуктом мільйонів років еволюції, вони можуть не представляти кінцеву точку в цьому процесі. Примати, можливо, вважали себе цією кінцевою точкою 6 мільйонів років тому, але для них це не спрацювало. Те майбутнє, як розповів футурист Рей Курцвейл у 2005 році, включатиме злиття біологічного та небіологічного інтелекту. Можливо, шокуючим є те, що 50 відсотків експертів із ШІ сьогодні йдуть ще далі, вважаючи, що є 10-відсоткова ймовірність того, що інтелектуальні машини призведуть до вимирання людства. Годинники судного дня ШІ відраховують дні, коли ШІ ухвалюватиме всі наші рішення, а інтерфейси між комп’ютером і мозком досліджуються та імплантуються.

Реальні загрози сьогодення: від дипфейків до тероризму

Нам не варто чекати катастрофічних прогнозів майбутнього, щоб почати діяти. Вартанян наголошує, що попри всі свої позитивні внески, ШІ вже зараз сприяє створенню масштабних злочинних змов, які реалізують дипфейки, кібератаки, розповсюдження матеріалів сексуального насильства над дітьми, відмивання грошей і розробляють складні нові способи скоєння насильницьких злочинів та актів терору.

Ми всі хочемо вірити, що небезпечна низка жахіть ШІ не станеться, тому що уряди виконують свою роботу, а підприємці у сфері ШІ урочисто пообіцяли, що їхній ШІ буде доброзичливим. Багато компаній навіть погодились призупинити розробку ШІ на шість місяців. Враховуючи те, що відбулося після цього, ми мали б розумно поставитися скептично до таких запевнень і обіцянок.

Схоже, що політики не стурбовані темною стороною ШІ. Досі кожна адміністрація та Конгрес США відступали та дозволяли розгортатися нинішній гонці озброєнь у сфері ШІ, на яку ніхто не розраховував. У цій версії майбутнього нам залишається лише сподіватися, що з поширенням можливостей ШІ, хороші хлопці та взаємне гарантоване цифрове знищення утримають рівновагу.

Чому це важливо знати

Демократичним країнам необхідно шукати альтернативу та об’єднуватися для встановлення міжнародних угод – технологічної версії Бреттон-Вудської угоди 1944 року, коли 44 держави погодили систему глобального валютного управління та комерційних відносин. Ці угоди мають початися зі встановлення міжнародного контролю та регулювання, які насамперед забезпечать безпеку інтернету та створять ефективні форми онлайн-управління, включаючи інфраструктуру нагляду, зосереджену на:

• вдосконаленій автентифікації;
• цифровій гігієні;
• примусовому виконанні правил;
• покладанні відповідальності для того, щоб кожен відповідав за технології, які він розгортає.

Подібні рекомендації вже запропоновані визнаними лідерами у сфері ШІ.

Із розширенням регуляторної інфраструктури та процесів контролю ШІ, інновації справді можуть сповільнитися. Із посиленням спостереження задля оптимізації безпеки неминуче виникнуть компроміси щодо особистих свобод.

Але Вартанян наполягає на фундаментальному виборі: краще свідомо обмежити швидкість технологічного прогресу, щоб глибше зрозуміти приховані загрози та знайти збалансовані рішення щодо особистих свобод, ніж дозволити необмеженому ШІ стрімко привести нас до небезпечної точки неповернення — де свобода перетвориться на просту ілюзію, а людство втратить контроль над власним майбутнім.

Якщо інші держави прагнуть необмеженої гонки до цієї небезпечної точки — нехай. Демократичний світ повинен обрати виважений шлях, де технології служать людству, а не навпаки.