У розпал буму штучного інтелекту виникає парадокс: чим більше люди стикаються з помилками технологій, тим більше їм довіряють.

Про це у своїй новій книзі «Сізіф у машинному відсіку» (Sisyphos im Maschinenraum) розмірковує професорка історії техніки Мартіна Гесслер (Martina Heßler), номінована на Німецьку премію за науково-популярну літературу.

В інтерв’ю Welt am Sonntag вона пояснює, чому ідея безпомилкової машини — це ілюзія, чим загрожує технологічний фанатизм і як пов’язаний технічний прогрес із нарцисичним болем людства.

Критичні тези з інтерв’ю

1. Помилки стали нормою — машини не ідеальні

«Люди змогли долетіти до Місяця, але так і не створили безпомилкове програмне забезпечення», — іронізує Гесслер.

З 1970-х років кількість технічних збоїв зросла, і з ними — усвідомлення недосконалості технологій. Особливо це стосується складних програмних систем і штучного інтелекту.

2. Кожен технічний прорив — це приниження людства

Гесслер вважає, що історія техніки — це низка «нарцисичних травм»:

• Спочатку нас змістили з центру всесвіту (Копернік),
• Потім довели, що навіть фізичну реальність неможливо виміряти з абсолютною точністю (принцип невизначеності Гейзенберга),
• Тепер — машини мислять краще, ніж ми.

«Кожна спроба усунути помилку породжує нові. Людина стає Сізіфом, який вічно котить вгору камінь технологічного вдосконалення», — каже історикиня.

3. Віра в машини перевершує довіру до людей

Попри численні провали ШІ, більшість користувачів довіряє машинам більше, ніж іншим людям.

«Причина — в архаїчному образі машини як чогось стабільного, точного, механічного. Але ШІ зовсім інша [машина]: вона змінюється, еволюціонує і стає непрозорою», — пояснює Гесслер.

4. Технооптимізм — це не нове, але зараз воно агресивне

Поняття «технічного шовінізму», яке вона запозичила в інформатикині Мередіт Бруссар, описує культуру Силіконової долини, де машини сприймають як вищу форму розуму, а людину — як недолік.

5. Машина замінила Бога в уявленні про досконалість

«Раніше люди порівнювали себе з Богом, тепер — із машиною. Це зміна координат віри», — вказує Гесслер.

Вона не вбачає прямого зв’язку між секуляризацією та поклонінням техніці, але визнає, що образ надлюдського тепер втілений не в релігії, а в алгоритмах.

6. Навіть медичні імплантати несуть психологічну травму

У книзі йдеться про темний бік технічного вдосконалення тіла — імплантати, стимулятори, дефібрилятори, які можуть ламатися або викликати психічний дискомфорт.

«Життя з технікою всередині себе — це не завжди полегшення», — зазначає вона.

7. Ідея «досконалої машини» — вічна омана

«Навіть якщо ми зможемо виправляти помилки ШІ швидше, ми ніколи не отримаємо ідеальну систему. Технології будуть завжди недосконалими, як і люди», — наголошує Гесслер.

8. Техніка не вирішить наших проблем — лише змінить їхню форму

Замість абсолютної віри в технологічне майбутнє вона пропонує іншу стратегію:

«Треба не тікати від недосконалості, а працювати над світом, в якому живемо, — аналоговим, людським, складним».

Чому це важливо знати

Інтерв’ю Мартіни Гесслер — це інтелектуальне застереження від технологічної наївності.
Вона показує, що машини не звільняють нас від людської обмеженості, а лише її віддзеркалюють.

У час, коли політичні рішення, діагнози та новини формуються штучними системами, усвідомлення їхньої хибності — не слабкість, а ознака відповідальності. Не слід віддавати штучному інтелекту ту довіру, яку не заслуговує навіть людський розум.