Чому для безпечного ШІ замало інженерів: погляд науковиці
Чому люди знають про небезпеку — і нічого не роблять? Над цією загадкою соціальні науки працюють десятиліттями: на прикладі наркотиків, клімату, охорони природи. Поведінкова дослідниця Лора Томас-Волтерс (Laura Thomas-Walters) переконана: безпека штучного інтелекту — теж значною мірою питання зміни поведінки. Проте фахівці з безпеки ШІ майже не спираються на десятиліття досліджень про те, як змінювати поведінку людей і цілих інституцій. Свою колонку вона опублікувала 13 листопада 2026 року на форумі LessWrong, де обговорюють ризики ШІ.

Хто авторка і чого, на її думку, бракує безпеці ШІ
Лора Томас-Волтерс — поведінкова науковиця. Вона досліджує, чому люди чинять так, а не інакше, і що може змусити їх змінити звички. Раніше вона була заступницею директора з експериментальних досліджень Єльської програми з комунікації щодо зміни клімату (Yale Program on Climate Change Communication). Тепер працює в міжнародній неурядовій організації, де відповідає за оцінку результатів. Під її наглядом — робота офісів у 15 країнах. Авторка наголошує: у колонці вона висловлює лише власні погляди.
Задуматися її змусили кілька розмов із людьми, які працюють над безпекою ШІ. Вона називає їх чудовими й талановитими. І саме тому помітила, як багато ця сфера втрачає без соціальних наук.
Дехто зі співрозмовників раз у раз пропонував те саме: нові проєкти, щоб просвітити суспільство. Логіка проста: якщо люди більше знатимуть про безпеку ШІ, вони почнуть діяти. А слідом за ними — й уряди.
Інші не поспішали перевіряти, чи дають результат їхні проєкти проти екзистенційних ризиків — загроз самому існуванню людства. На їхню думку, таку роботу просто неможливо виміряти.
Обидва припущення цілком зрозумілі, пише Лора Томас-Волтерс. Природоохоронці теж довго так думали. А соціальні науковці вже десятиліттями працюють над обома проблемами.
Три напрями роботи в безпеці ШІ — і жодного для соціальних наук
Хто сьогодні йде працювати в безпеку ШІ, обирає, за спостереженням авторки, один із трьох шляхів:
- технічний — подбати, щоб самі моделі ШІ були безпечними;
- урядування (governance) — правила, закони, регулювання;
- «універсальний» (generalist), який ще називають розбудовою спільноти (fieldbuilding). На ділі це здебільшого організаційна робота.
Але чи буде ШІ безпечним, значною мірою залежить від того, як діятимуть уряди, лабораторії та суспільство, переконана авторка. А як змінити поведінку людей і організацій — це вже вивчає окрема наукова галузь.
На доказ того, що сфера цінує соціальні науки, часто згадують статтю 2019 року «Безпеці ШІ потрібні соціальні науковці». Її написали Джеффрі Ірвінг (Geoffrey Irving) і Аманда Аскелл (Amanda Askell). Проте, як зауважує Ваель Гейтс (Vael Gates), насправді там описано лише кілька ролей для обчислювальних когнітивних науковців. Це дослідники, які моделюють людське мислення на комп’ютері.
Еміліо (Emilio) запропонував стипендіальну програму з наставництвом, яка мала б привести в безпеку ШІ більше соціальних науковців. Авторка дуже сподівається, що на неї знайдуться гроші. Сам Еміліо пише, що світу потрібні дослідники впливу ШІ на людей та інституції. Лора Томас-Волтерс додає: соціальні науки потрібні й самій сфері безпеки ШІ, щоб вона досягла власних цілей.
Змінювати треба не лише код, а й поведінку людей
Багато суспільних проблем, якщо копнути глибше, зводяться до одного: як змінити поведінку людей. Природоохоронці дійшли цього нелегкого висновку лише в останні роки. На думку авторки, почасти він стосується і безпеки ШІ.
Вона любить фразу зі статті, яку писала разом із колегами: «Збереження біорізноманіття — це передусім вправа з переконання людей». Щоправда, зізнається Лора Томас-Волтерс, саме це речення написала не вона.
Природоохоронцям вона вже радила подивитися, як змінюють поведінку людей фахівці з громадського здоров’я та міжнародного розвитку. Безпеці ШІ, вважає авторка, є чого повчитися в усіх трьох галузях.
Технічних проблем вона не применшує. Над технічною стороною безпеки ШІ ще працювати й працювати. Але щоб знайдені рішення запрацювали в житті, хтось має їх втілити. Треба чітко знати, хто саме і що має зробити:
- уряди — ухвалювати закони, давати гроші на їх виконання, домовлятися між собою;
- керівники лабораторій — запроваджувати внутрішні правила безпеки (safety frameworks) і не відступати від них навіть тоді, коли це дорого коштує;
- інженери — плекати культуру безпеки й не мовчати, коли щось викликає тривогу;
- постачальники обчислювальних потужностей та інвестори — ретельно перевіряти, кому дають ресурси, і ставити умови доступу;
- суспільство — підтримувати регулювання, зважати на нього на виборах і свідомо обирати, якими продуктами користуватися.
Кожному з цих учасників щось заважає діяти, а щось може підштовхнути. І те, і інше можна з’ясувати, придумати під це конкретні заходи і перевірити, чи вони дають результат.
Чому працівники лабораторій ШІ мовчать про небезпеки: модель COM-B
Як це виглядає на практиці? Авторка пояснює на прикладі організації AIWI, яка підтримує викривачів у лабораторіях ШІ. Викривачі — це працівники, які наважуються публічно розповісти про порушення чи небезпеку всередині своєї компанії.
Чому одні люди на це зважуються, а інші — ні? Відповісти допомагає модель COM-B. Її 2011 року розробили дослідники Сьюзен Мічі (Susan Michie), Маартьє ван Стрален (Maartje van Stralen) і Роберт Вест (Robert West). Назва складена з перших літер англійських слів. C, O і M — це три складники, а B — поведінка (behaviour). За цією моделлю поведінка змінюється лише тоді, коли є всі три складники:
- спроможність (capability) — людина фізично й психологічно здатна змінитися;
- можливість (opportunity) — оточення й обставини цьому сприяють;
- мотивація (motivation) — людина сама в це вірить і цього хоче.
Уявіть автомобіль. Щоб поїхати, потрібні водій, який уміє кермувати, дорога і бажання кудись їхати. Заберіть щось одне — і машина не рушить з місця.
Що ж може стримувати потенційного викривача?
- Спроможність. Людина не знає, яку тривогу вважати обґрунтованою, куди звертатися і чи захистять її.
- Можливість. Надійних місць, де можна порадитися саме щодо ШІ, дуже мало. А внутрішній канал для скарг у компанії може сам бути частиною проблеми.
- Мотивація. Є ризик зламати кар’єру й утратити частку в компанії. Людина віддана колегам і місії. А ще виникає дуже людська думка: «Напевно, хтось із керівництва вже знає».
Авторка чесно попереджає: ці перешкоди вона виводить із теорії, окремо їх не досліджувала. Але заходи, які спираються на поведінкові моделі, зазвичай спрацьовують краще. Якщо доповнити модель дослідженням, яке збирає дані безпосередньо від людей, можна знайти найкращі способи підтримати викривачів.
Пастка «вони просто не знають»
Дуже поширена помилка, каже Лора Томас-Волтерс, — покладатися на так звану модель дефіциту знань (knowledge deficit model). Логіка в неї проста: люди не діють, бо чогось не знають. Поясніть їм — і все зміниться.
Насправді ж, як показує безліч досліджень, самі лише знання рідко змінюють поведінку. Згадайте, скільки людей знає, що треба більше рухатися, — і продовжує сидіти.
Яскравий приклад — американська програма D.A.R.E. Поліцейські приходили до шкіл і розповідали дітям про небезпеку наркотиків. Серед шкільних програм профілактики наркотиків у США вона була найпоширенішою. Проте метааналізи показали, що на вживання наркотиків вона майже або зовсім не вплинула. Метааналіз — це дослідження, яке зводить докупи результати багатьох інших досліджень. «Знати було недостатньо», — підсумовує авторка.
Зате програма змінювала соціальні норми. Тобто уявлення учнів про те, наскільки поширені наркотики серед людей, на яких вони рівняються. Соціальні норми — одне з ключових понять поведінкової науки.
Таких прикладів у авторки чимало. В одному «дуже класному», за її словами, проєкті учасники справді більше дізналися, але поводитися інакше не стали.
То освіта марна? Ні, вона може допомогти. Але найкраще поведінку змінює поєднання кількох заходів: пояснень, нагадувань і зворотного зв’язку.
Що з цього випливає для безпеки ШІ? Якщо стратегія тримається переважно на пояснювальних матеріалах, у неї має бути теорія змін. Це чіткий опис того, як саме робота приведе до результату. І ця теорія не може закінчуватися на тому, що люди «дізналися». Відео про ризики ШІ варто оцінювати не лише за тим, що глядачі запам’ятали, а й за тим, що вони зробили після перегляду.
Які повідомлення справді спонукають до дії
Одна сфера, де підхід уже змінюється, — тестування меседжів. Різним групам людей показують різні повідомлення і порівнюють, як вони реагують.
Лора Томас-Волтерс сама проводила такі експерименти. Один із них охопив майже 58 тисяч людей у 23 країнах. Виявилося, що повідомлення про клімат посилювали підтримку кліматичних дій.
Подібні дослідження є і щодо ШІ:
- Фонд Seismic (Seismic Foundation) разом із колегами перевірив меседжі про ризики ШІ на понад тисячі людей. Найбільше людей мобілізували розповіді про загрози для робочих місць і для дітей. Екзистенційний ризик спрацював слабше.
- Інший експеримент охопив 1200 американців. Страх найсильніше посилював відчуття небезпеки. Але більше прихильників регулювання з’являлося після обнадійливого повідомлення — того, яке показувало, що регулювання може спрацювати.
У дослідженні Seismic є ще одне показове спостереження. Більшість людей підтримує суворе регулювання ШІ, проте серед інших проблем ставить його далеко не на перше місце. Тобто тривога вже є, але до дій вона не доходить.
Це добрий початок, вважає авторка. Але більшість таких тестів вимірює лише ставлення, знання та наміри. А наміри часто так і лишаються намірами — як обіцянка ходити в спортзал «з понеділка».
В одному з її експериментів людей заохочували поговорити з друзями про рослинне харчування. Намір це зробити справді зріс. Але до наступного кроку — підготуватися до такої розмови — люди так і не перейшли.
Тож там, де можливо, варто перевіряти й реальні дії: чи підписала людина петицію, чи написала своєму депутатові, чи поширила інформацію. Авторка визнає, що і це не ідеальне мірило справжньої поведінки. Але хоча б мінімальна планка.
Протести: що працює, а що відштовхує людей
Досі йшлося про поведінку окремих людей. Але соціальні науки багато знають і про те, як змінюються інституції та цілі системи. Для безпеки ШІ це означає дивитися ширше — на організації і стимули, які впливають на людей.
Здебільшого правила для ШІ напрацьовують в урядах і аналітичних центрах. Це цінна робота. Але є й великий масив досліджень про те, як соціальні рухи змінюють світ ззовні. У сфері безпеки ШІ вже діють групи, які влаштовують протести й публічні кампанії. І їм є на що спертися.
Ось що показують дослідження:
- Радикальні протестні акції зазвичай зменшують підтримку руху: сторонні спостерігачі сприймають їх як аморальні.
- Але ця неприязнь може швидко минути. Британська зоозахисна група Animal Rising зірвала Grand National — найвідоміші в країні кінні перегони з перешкодами. Через пів року негативне ставлення людей зникло. Натомість протест привернув увагу медіа й допоміг згуртувати прихильників.
- Радикальне крило може навіть додати підтримки поміркованим організаціям того самого руху: на його тлі вони здаються розсудливішими. Це називають позитивним ефектом радикального флангу (positive radical flank effect). Так само поруч із людиною, яка кричить, той, хто говорить спокійно, здається голосом розуму.
- Важить і те, як протест подають медіа. Те, як видання висвітлили акцію на Grand National, було пов’язане з тим, наскільки люди підтримували активістів.
Отже, картина складніша, ніж уявляють обидві сторони в суперечці, чи корисні протести, які зривають події.
Як виміряти те, що здається невимірним
Є й загальна проблема — «невідомі невідомі». Коли бракує фахових знань, легко вирішити, що якусь річ зробити просто неможливо. Особливо часто так думають про оцінювання результатів.
Авторка вже писала, що програми підготовки фахівців з безпеки ШІ варто оцінювати ретельніше. Тоді вона запропонувала метод регресійного розриву (regression discontinuity design). Порівнюють людей, які ледь пройшли відбір, з тими, хто ледь не пройшов. Ці дві групи майже однакові, тож різницю в їхніх подальших успіхах можна пояснити самою програмою.
Але методів значно більше. Їх можна ширше застосовувати і в цій сфері — зокрема для політичної та адвокаційної роботи, тобто публічного відстоювання змін:
- аналіз внеску (contribution analysis);
- відстеження процесу (process tracing), зокрема байєсівське — воно дає змогу оцінити в цифрах, наскільки кожен новий доказ має змінити вашу впевненість;
- збирання результатів (outcome harvesting);
- оцінювання на основі теорії (theory-based evaluation).
Такі методи авторка застосовувала й сама — наприклад, коли з’ясовувала, чому в Японії впав попит на слонову кістку. Тим, хто хоче розібратися в темі, вона радить почати з досліджень про оцінювання адвокаційної діяльності.
А як оцінити порятунок людства?
Багато роботи в безпеці ШІ спрямовано проти екзистенційних ризиків. Здається, оцінити її неможливо: або людство вимре, або ні!
Проте, наголошує авторка, кожен такий проєкт повинен мати ретельну й конкретну теорію змін. У ній має бути чітко прописано всі проміжні кроки і те, як кожен із них веде до наступного. Кожен крок можна перевірити. Так крок за кроком накопичуються докази того, наскільки добре ми загалом зменшуємо екзистенційний ризик. Інакше гроші підуть на проєкти, з яких ніхто нічого не дізнається, а прикрі помилки, яких можна було уникнути, повторюватимуться знову.
Це схоже на ряд доміно. Не бачите, чи впаде остання кісточка? Перевірте, чи падає кожна попередня.
Ось приклад — кампанія, яка домагається, щоб провідні лабораторії ШІ запровадили правила безпеки. Її теорія змін може виглядати так:
- тиск суспільства та інвесторів змушує лабораторію опублікувати свої правила безпеки;
- у цих правилах є конкретні пороги, які можна перевірити;
- коли модель перетинає такий поріг, лабораторія справді дотримується своїх правил.
Кожен етап залишає сліди. Чи з’являються такі правила після кампаній? Пороги в них конкретні чи розмиті? Чи відкладають або змінюють запуск моделей, коли перевірки виявляють ризики?
Зоозахисники засвоїли цей урок на власному гіркому досвіді. Вони домагалися, щоб компанії пообіцяли купувати лише яйця від курей, яких не тримають у клітках. І з’ясували, що отримати обіцянку і домогтися її виконання — два різні результати, які треба відстежувати окремо.
Карта, яку жодна організація не намалює сама
Ще один недооцінений інструмент — партисипативне картування систем (participatory systems mapping). Усі зацікавлені сторони збираються разом, визначають проблему і домовляються, що саме розглядатимуть. Потім малюють, що на що впливає, і шукають місця, де зусилля дадуть найбільший ефект.
Якби так розібрали управління провідними лабораторіями ШІ, стало б видно, де різні зусилля підсилюють одне одного, а де — заважають. Теорія змін однієї організації такого не покаже.
Такий підхід виявляє і розрив між тим, що учасники називають своєю метою, і тим, що для них насправді важливіше. Про це пише дослідник системного мислення Девід Пітер Строу (David Peter Stroh) у праці 2015 року. Скажімо, лабораторія може публічно обіцяти безпеку, а найбільше перейматися тим, щоб не випасти з когорти лідерів перегонів.
Авторці ще не траплялася жодна організація з безпеки ШІ, яка провела б таке картування разом із зовнішніми експертами. Якщо хтось уже пробував, вона охоче дізналася б, як усе пройшло. А тих, хто лише думає спробувати, запрошує до розмови.
Що, на думку авторки, треба змінити
Лора Томас-Волтерс пропонує кілька конкретних кроків:
- залучати соціальних науковців до грантових комісій і до перегляду стратегій;
- кликати фахівців з поведінки ще на етапі задуму комунікаційних та адвокаційних кампаній;
- закладати оцінювання результатів від самого початку;
- наймати людей за їхнім фахом, а не брати соціальних науковців лише на організаційні посади.
Серед найскладніших проблем сфери є й людські, підсумовує авторка. А як із ними працювати, науковці досліджують уже десятиліттями. Тож вона закликає ширше долучати соціальних науковців до обговорення. А тих, хто розробляє власний проєкт і хоче обговорити його з фахівчинею з поведінкової науки, запрошує написати їй.
Авторка робить два важливі застереження. Перше: соціальні науки — не моноліт, і інші фахівці можуть із нею в чомусь не погодитися. Це нормально, головне — щоб вони мали теорії й докази. Гіпотези в науковців можуть бути різні, але як їх перевіряти, вони погоджуються.
Друге: з її досвіду, запросити соціального науковця значно простіше, ніж технічному фахівцеві самому опанувати ці методи. Вони не зводяться до опитувань. А в хорошу анкету вкладено набагато більше праці, ніж здається.
Лора Томас-Волтерс також відкрито зазначає, що вона — співавторка кількох досліджень, на які посилається. Серед них — систематичний огляд того, як змінювали поведінку людей у природоохоронних проєктах, дослідження протесту на Grand National, а також огляди про соціальні рухи й кліматичний активізм.
Раніше ми писали

Медіаменеджер і автор-фрілансер з 1991 року. Займається креативним продакшном та розвитком медіа.
Усі статті автора →Наші проєкти
Безкоштовні медіа й сервіси для мешканців міст
Перевіряємо чутки, що ширяться київськими Telegram-каналами, і показуємо, що підтвердилося, а що — ні. Зведення двічі на день.
- Мапа подій КиєваОбстріли, ДТП, кримінал і аварії за добу
- Дороги і мостиРемонти й перекриття, зокрема після атак
- Трекер судових справЗабудова, корупція, міське майно — засідання і рішення
- DeepstrikeМапа ударів Сил оборони по РФ і ТОТ
- Закони тижняЩо змінюється для киян
- Мережа міських медіаскороДніпро, Вінниця, Тернопіль, Хмельницький








