Пастка для інстинкту: чому тут програють майже всі

Уявіть садівника навесні. Грошей обмаль, але він усе одно купує насіння й добрива. Тижні минають — на грядці порожньо, у гаманці теж. Та восени він збирає врожай, який окуповує все в кілька разів.

Науковці розставили для учасників експерименту точнісінько таку пастку. Завдання звучало просто: набрати якомога більше очків. Але виграшна стратегія вимагала спершу свідомо піти на невеликі втрати — і лише тоді відкривався шлях до набагато більшого виграшу. Такий хід суперечить одному з найстійкіших людських інстинктів: уникати втрат тут і зараз, навіть якщо завтра це коштуватиме дорожче.

Коли за партою сидить робот

У дослідженні взяли участь 1155 людей. Їх розділили на групи, які навчалися одне в одного протягом кількох «поколінь»: кожне наступне покоління бачило рішення попереднього і могло взяти їх на озброєння.

Частина груп складалася виключно з людей. В інші групи із самого початку підселили штучний інтелект — алгоритм, який заздалегідь пройшов те саме завдання методом проб і помилок і самостійно знайшов найвигіднішу стратегію. Далі науковці просто спостерігали: чи підхоплять люди хід, якому його ніхто не вчив, чи передадуть його далі, чи протримається він довго.

Учні копіюють переможця

Тут спрацював простий людський механізм, знайомий будь-кому, хто вчився в майстра: підмайстер на кухні дивиться не на всіх кухарів одразу, а на того, чия страва вийшла найкращою, — і повторює саме його рухи. Учасники експерименту чинили так само: обираючи, у кого вчитися, вони майже завжди копіювали того, хто на попередньому етапі набрав найбільше очків. Байдуже, людина це чи штучний інтелект.

Дев’ять груп із п’ятнадцяти запам’ятали урок машини

Результати вийшли доволі промовисті. Серед 600 учасників, які грали лише в компанії інших людей, найвигіднішу стратегію самостійно знайшла рівно одна людина. Тобто практично ніхто.

А от у групах, де на старті був штучний інтелект, картина інша: стратегія, яку відкрила машина, у дев’яти з п’ятнадцяти груп прижилася і передавалася від покоління до покоління — як естафетна паличка, яку жоден бігун не впустив.

Схожий випадок, коли рішення ШІ вражало навіть експертів, уже траплявся — хід 37 штучного інтелекту AlphaGo у грі проти чемпіона світу з го Лі Седоля багато хто називав ходом, якого людина ніколи б не вигадала.

Що це означає для людства

«Людська культурна еволюція тримається на тому, що знання передається через багатьох людей і поколінь», — пояснює провідний автор дослідження Левін Брінкманн (Levin Brinkmann) із Центру «Люди та машини» при Інституті Макса Планка з розвитку людини. Якщо машини відкривають нові стратегії, вчені хотіли з’ясувати, чи можуть ці відкриття теж стати частиною людських знань, які передаються далі.

Разом із командою над дослідженням працював співавтор Томас Айзенманн (Thomas Eisenmann), також дослідник Центру «Люди та машини». За його словами, відкриття ШІ, які людина здатна зрозуміти, можуть допомогти людям опановувати нові навички та розширювати культурний репертуар, а не лише робити нас залежними від технологій.

У співпраці також брали участь науковці з Тулузької школи економіки та Університету Гумбольдта в Берліні.

Автори дослідження пропонують називати це «машинною культурою» — станом, коли люди й машини стають частиною одного культурного процесу: кожна сторона час від часу відкриває щось нове, а інша — підхоплює й розвиває. Досі великі мовні моделі здебільшого вчилися на людських текстах. Тепер напрямок може бути і зворотним — про подібні ризики та можливості ми вже писали раніше.

Чому це важливо знати

Це не просто цікавий факт про лабораторний експеримент. Якщо ідеї, які винаходить ШІ, справді можуть прижитися в людській культурі й передаватися поколіннями, це стосується не лише ігор із очками. Так само можуть поширюватися нові підходи в медицині, інженерії чи навіть побутових звичках — від людини до людини, від класу до класу, від покоління до покоління. Схожий сценарій — коли машина сама знаходить рішення, до якого людина не додумалась би роками, — ми описували на прикладі кіберзахисту.

А що, як наступне важливе відкриття зробить не науковець у лабораторії, а шкільний гурток робототехніки за допомогою звичайного помічника на базі ШІ?