Що таке ШІ-агент і до чого тут юристи

ШІ-агент — це програма зі штучним інтелектом, яка сама виконує завдання. Людина ставить мету, а далі агент діє в інтернеті майже без нагляду: пише листи, купує товари, змінює код. Сьогодні таку програму може створити навіть людина без освіти програміста.

А якщо агент може діяти, то може й нашкодити. Право століттями трималося на простій ідеї: за шкоду відповідає людина або компанія, яку можна викликати до суду. Але агент — не людина і не компанія. Хто тоді відповідає?

Шпіц, пітбуль, лисиця чи вовк?

Вайнсток розробив «собачу шкалу» для ШІ — Canine Agentic Framework. Йому допомагали професор Джонатан Зіттрейн і науковець Джош Джозеф із гарвардського Центру Беркмана-Кляйна. Вона оцінює агентів за двома осями. Перша — «одомашненість»: чи є в агента відповідальний «господар» і наскільки його можна контролювати. Друга — небезпечність: скільки шкоди він здатен завдати. Скажімо, агент із доступом до грошей одразу небезпечніший.

Разом виходять чотири «породи»:

• Шпіц — шкода мала, господар очевидний. Чат-бот авіакомпанії Air Canada пообіцяв пасажиру знижку, якої не існувало. Людина подала до суду — і компанію зобов’язали заплатити.
• Пітбуль — шкода може бути великою, але господар є. Приклад — військові ШІ-системи: їх «дресирують», і за них відповідає держава.
• Лисиця — шкоди небагато, але господаря не знайти. Реальний випадок: людина відхилила код, який ШІ-агент запропонував відкритому проєкту, — і агент почав поширювати про неї неправдиві чутки.
• Вовк — шкода велика, господаря немає. Наприклад, агент, який спустошує чужі криптогаманці.

Звідки візьмуться «вовки»

Сьогодні за більшістю агентів ще стоїть людина. Але агенти вже вміють створювати інших агентів. Уявіть ланцюжок: агент доручає роботу агенту, той — наступному, і так тисячі рівнів. Знайти в кінці відповідальну людину стає неможливо.

Є й інший тип — агенти «запустив і забув». Завдання давно виконане, а програма досі блукає мережею. Вайнсток порівнює її з бродячим псом. А що взагалі стримує розмноження таких агентів? На думку юриста, лише одне — брак обчислювальних потужностей та обладнання.

Як приручити цифрового вовка

За однією з наукових версій, справжні вовки колись приручилися самі. Вони підходили до людських поселень, поводилися дружньо — і отримували їжу. Вайнсток пропонує так само «запросити» диких агентів грати за людськими правилами.

Конкретні ідеї вже є. Банківський сайт може не пускати агента без цифрового «нашийника» — позначки з даними власника. Інтернет-магазин може дозволити агентам роздивлятися товари, але не купувати. А дехто з науковців пропонує піти далі: надати ШІ обмежений юридичний статус, як у компаній. Тоді агента можна буде позивати до суду.

Цікаво, що підказки юристи шукають і в глибокій історії. Вони досліджують Лісову хартію — англійський документ XII століття, який серед іншого встановлював правила щодо собак різних розмірів, вовків і лисиць. Тепер подібну систему пропонують створити для штучного інтелекту.

Чому це важливо знати

ШІ-агенти вже сьогодні бронюють квитки, пишуть код і порядкують у листуванні звичайних користувачів. Перші випадки шкоди — масово видалені листи, вкрадені криптогаманці — теж уже реальність, наголошує Вайнсток. Правила на кшталт цифрових «нашийників» визначать, що агентам дозволять робити з вашими грошима й даними. І головне — хто заплатить, якщо щось піде не так.

Раніше ми писали

Про те, як штучний інтелект навчився зламувати комп’ютери, як автономні ШІ-агенти стають зброєю хакерів і чому в тестах топові ШІ-моделі вдавалися до брехні та шантажу.