«Протягом останніх кількох місяців ми почали бачити проблиски того, як наші системи ШІ вдосконалюють себе самостійно», – заявив генеральний директор Meta Марк Цукерберг у програмному документі, опублікованому 30 липня на сайті компанії. «Поліпшення поки що повільне, але незаперечне».

Цукерберг додав, що ШІ, який самовдосконалюється, є першим кроком до досягнення штучного суперінтелекту (ASI) – штучного інтелекту, здатного перевершити когнітивні здібності людини.

Три рівні розвитку штучного інтелекту

Загалом дослідники ШІ розглядають можливості штучного інтелекту на трьох рівнях. Хоча сучасні моделі ШІ можуть досягати надзвичайних надлюдських результатів, як-от прогнозування структури білків, ці можливості є надзвичайно вузькими. У таких випадках система може перевершувати людей лише в одній конкретній галузі, але не має загального інтелекту для застосування цієї здатності в різних дисциплінах.

Наступний рівень називається штучним загальним інтелектом (AGI) і стосується моделей, які можуть розуміти, навчатися та адаптуватися майже так само, як людський мозок.

ASI – це кінцевий стан, про який Цукерберг згадав у блозі, і стосується моделей, які розвинулися настільки, що значно перевершують людський потенціал – і можуть вдосконалювати себе з експоненціальною швидкістю, що призведе до «вибуху інтелекту».

Вчені називають гіпотетичний момент досягнення AGI технологічною сингулярністю.

Дослідження машини Геделя

Згадка Цукерберга про виявлення самовдосконалення ШІ не є першим випадком, коли це явище було помічене. У жовтні 2024 року дослідники з Каліфорнійського університету в Санта-Барбарі опублікували на препринт-сервері arXiv статтю, присвячену концепції самовдосконалення.

У ній вони визначили, створили та протестували структуру ШІ, засновану на ідеї машини Геделя – теоретичного пристрою, здатного вдосконалювати себе шляхом переписування власного коду та інструкцій. Важливо, що машина реалізовувала б зміни лише в тому випадку, якщо могла б створити формальний доказ того, що зміни будуть корисними.

Команда експериментувала зі структурою ШІ, заснованою на цій концепції, і довела, що їхній агент Геделя може покращувати свою продуктивність у різних завданнях, включаючи програмування, науку, математику та міркування.

Майже всі моделі зазвичай не мають повноважень переписувати власний код. Агент Геделя міг не лише отримати доступ до всієї своєї кодової бази, але й до коду, який використовується для розробки вдосконалень, демонструючи при цьому, що ці вдосконалення були корисними.

Згідно з дослідженням, ШІ постійно демонстрував кращу продуктивність у ключових сферах порівняно з агентами, розробленими людьми.

Трансформація людства та обережність Meta

Цукерберг заявив, що ASI може стати трансформаційним кроком у технологічному прогресі людства і може призвести до «відкриття нових речей, які сьогодні неможливо уявити».

«Я надзвичайно оптимістично налаштований щодо того, що суперінтелект допоможе людству прискорити темпи нашого прогресу. Але, можливо, ще важливіше те, що суперінтелект має потенціал розпочати нову еру особистих можливостей, коли люди матимуть більше можливостей для покращення світу в напрямках, які вони обирають», – написав Цукерберг.

«Наскільки глибоким може бути достаток, створений ШІ, ще більш значущий вплив на наше життя, ймовірно, буде те, що кожен матиме особистий суперінтелект, який допомагає вам досягати ваших цілей, створювати те, що ви хочете бачити у світі, переживати будь-яку пригоду, бути кращим другом для тих, хто вам дорогий, і рости, щоб стати тією людиною, якою ви прагнете бути».

При цьому він додав, що Meta буде набагато обережнішою щодо того, які моделі компанія вирішить випустити для громадськості в рамках відкритого коду – тобто будь-хто міг би мати до них доступ.

Чому це важливо знати

Розвиток самовдосконалюваного штучного інтелекту може мати фундаментальний вплив на глобальну безпеку та технологічний баланс сил, що безпосередньо стосується України в контексті війни з Росією.

По-перше, технологічна перевага в сфері ШІ стає критичним фактором військової переможності. Якщо західні компанії, такі як Meta, досягнуть прориву в створенні суперінтелекту раніше за авторитарні режими, це може забезпечити технологічну перевагу демократичному світу та його союзникам, включаючи Україну.

По-друге, рішення Meta обмежити доступ до найпотужніших систем ШІ через відкритий код має важливе значення для безпеки. Це запобігає потраплянню передових технологій до рук агресорів і терористичних організацій, які могли б використати їх проти України та інших демократичних країн.

По-третє, розвиток суперінтелекту може кардинально змінити характер ведення війни та оборонні стратегії. Україні важливо відстежувати ці тенденції та забезпечувати доступ до передових технологій через партнерство із західними технологічними компаніями для посилення власної обороноздатності.