Штучний інтелект стає «хвилею майбутнього», яка посилить терористичну пропаганду та допоможе в підготовці атак, попередив урядовий радник Британії з питань тероризму у вівторок.

У своєму останньому щорічному звіті Джонатан Холл, незалежний урядовий експерт з питань антитерористичного законодавства, попередив про «жахливу» загрозу від «передових технологій» після року вивчення цього питання, пише POLITICO.

Холл попередив, що генеративний ШІ — який може створювати новий контент, такий як текст, зображення, аудіо та відео на основі того, що він дізнався з доступних йому даних — «буде використовуватися терористами». Він зазначив, що Британія історично надто повільно реагувала на загрози, які створює інтернет.

У звіті зазначається, що більшість технологічних компаній мають «мало причин пояснювати внутрішню роботу своїх моделей та зусилля, які вони докладають для забезпечення добробуту людей, оскільки вони змагаються за частку ринку».

Документ також попереджає, що вже існує індустрія «злому» етичних запобіжників, які технологічні компанії встановили, щоб спробувати запобігти створенню чат-ботами терористичного контенту.

Холл попередив, що чат-боти можуть створити «замкнений цикл терористичної радикалізації» для «самотніх і нещасних людей», схильних до залучення в реальний тероризм. За його словами, такі системи здатні навіть проводити первинний відбір потенційних рекрутів, після чого передавати їх для подальшої радикалізації вже реальними людьми.

У звіті Холла зазначається, що Британія була залучена в єдиний відомий йому приклад планування атаки за допомогою чат-бота. Джасвант Сінгх Чайл планував спробу вбивства покійної нині королеви за допомогою арбалета разом зі своєю «дівчиною зі штучного інтелекту».

Холл зазначив, що хоча йому не відомо про жоден поточний «терористичний чат-бот», інтернет «виявив зграю сприйнятливих одинаків, включаючи дітей, які можуть виявитися особливо вразливими до індивідуальної радикалізації чат-ботами».

Генеративний ШІ «в принципі» здатний пропонувати методи обходу систем безпеки та надавати інструкції з використання або модифікації зброї, а також поради щодо організації терористичних осередків, зазначив Холл. Такі можливості особливо приваблюють «одиноких нападників».

Пропаганда, створена ШІ, може, як попередив Холл, бути адаптована до «місцевих наративів, таких як власна боротьба Британії з бандами грумерів». Інструменти можуть дозволити «арміям ботів» заполонити форуми та соціальні мережі, щоб «тема здавалася динамічною та актуальною».

Майбутні загрози також можуть включати генеративний ШІ, який ідентифікує та синтезує біологічну чи хімічну зброю, а також пише код для кібератак.

Минулого року британський уряд оголосив про створення нової Лабораторії досліджень безпеки ШІ, спрямованої на координацію відповіді країн НАТО та «П’яти очей» у гонці озброєнь ШІ з ворожими та терористичними державами.

Чому це важливо знати

Розвиток штучного інтелекту створює нові виклики для глобальної безпеки, що безпосередньо стосується України в умовах війни з Росією. Терористичні організації та ворожі держави можуть використовувати ШІ для створення складної пропаганди, планування атак та кібероперацій. Для України, яка вже стикається з масованими інформаційними атаками та кіберзагрозами з боку РФ, попередження британських експертів підкреслює необхідність розвитку власних захисних технологій та міжнародної співпраці у сфері кібербезпеки. Координація зусиль НАТО щодо протидії загрозам ШІ може посилити оборонні можливості України та її союзників у протистоянні гібридним загрозам.