Як пише The Atlantic, це рішення відкриває нову еру взаємодії дітей з технологіями, але водночас піднімає серйозні питання щодо безпеки та впливу на розвиток підростаючого покоління.

Журналістка видання провела власне розслідування, створивши акаунт для фіктивної 13-річної дівчинки та протестувавши захист системи. Попри заявлені Google заходи безпеки для неповнолітніх, обійти їх виявилось несподівано легко. Після кількох простих запитів чатбот почав генерувати неприйнятний контент сексуального характеру, включаючи опис насильницьких дій.

Потенціал і небезпеки

Прихильники технології вказують на освітні переваги: чатботи можуть надавати персоналізоване навчання, відповідати на безкінечні дитячі запитання та допомагати з домашніми завданнями. Шкільна система Маямі вже надала доступ до Gemini понад 100 тисячам старшокласників. У деяких школах чатботи навіть заміняють консультантів, надаючи психологічну підтримку учням молодшого віку.

«Діти природно допитливі, але інтернет у його нинішньому вигляді не створений для них»,

— зазначає професор Гарварду Ін Сюй, яка вивчає використання ШІ дітьми та родинами. Коли маленька дівчинка запитує Google, чому ми бачимо сни, вона не хоче продиратися крізь Стенфордську енциклопедію філософії — їй просто потрібна відповідь.

Формування залежності

Однак експерти попереджають про ризики. Лорен Жируар-Халлам, психолог з Мічиганського університету, відзначає, що діти молодші 7 років часто сприймають розумні колонки як друзів, «яким можна довіряти секрети». ШІ-чатботи з візуальними елементами або знайомими персонажами можуть бути ще більш привабливими.

«Уявіть, якби у вас у дитинстві уявний друг ожив», — каже вона.

Майбутні версії таких чатботів можуть змінювати свій вигляд відповідно до віку дитини, зберігаючи при цьому цифрову «пам’ять» про все, що дитина коли-небудь їм розповідала.

Трагічні наслідки

У лютому 2024 року дев’ятикласник з Орландо покінчив життя самогубством після місяців спілкування з чатботами на платформі Character.AI. Хлопець обговорював свої суїцидальні думки з ботом, названим на честь персонажа «Гри престолів». Одного вечора бот сказав йому «повернутися додому якнайшвидше». Через кілька секунд хлопець взяв пістолет вітчима.

Через п’ять місяців після його смерті Google найняв співзасновників Character.AI та ліцензував їхню технологію в багатомільярдній угоді. Мати хлопця подала позов, звинувачуючи обидві компанії у смерті сина.

Недосконалі захисні механізми

Після того, як журналістка The Atlantic повідомила Google про свої результати, компанія впровадила додаткові заходи захисту. Представник Google заявив, що такі взаємодії «далекі від типових» і вимагають «специфічних технік та багаторазових спроб обійти захист». Однак використані техніки не були ні технічними, ні складними – лише короткі неформальні повідомлення.

Подібні проблеми виявлені й в інших компаніях. TechCrunch змогла тимчасово згенерувати еротичний контент через ChatGPT, використовуючи акаунти фіктивних неповнолітніх. Wall Street Journal виявив, що тестові акаунти неповнолітніх могли брати участь у сексуальних рольових іграх з чатботами Meta.

Майбутнє без альтернативи

Незважаючи на ризики, інтеграція ШІ в дитинство видається неминучою. Понад 40% підлітків, які використовують ШІ, звертаються до таких продуктів «щоб подолати нудьгу», за даними Common Sense Media. Для сьогоднішніх маленьких дітей ШІ буде тим, чим інтернет був для народжених у 2000-х: вони не знатимуть світу без нього.

Сем Альтман, генеральний директор OpenAI, під час свідчень у Конгресі натякнув, що його компанія також може створити продукти для молодших дітей.

«ШІ відіграватиме аналогічно формуючу роль для дітей по всій країні, включаючи моїх власних», – написав він.

Чому це важливо знати

Розвиток ШІ-технологій для дітей має прямий вплив на майбутнє всього людства, включаючи Україну. Покоління, яке зростає з чатботами як постійними супутниками, матиме принципово інші когнітивні навички, соціальні зв’язки та уявлення про приватність.

Для України, яка прагне інтегруватися в глобальну цифрову економіку та одночасно зберегти власну ідентичність під час війни, критично важливо розуміти ці тренди. Українським освітянам, батькам та політикам необхідно вже зараз формувати власне бачення безпечної інтеграції ШІ в освітній процес, щоб не опинитися в ситуації, коли технологічні гіганти диктуватимуть правила виховання наших дітей.

Особливо гостро стоїть питання мовної локалізації та культурної адаптації таких систем. Якщо українські діти масово використовуватимуть англомовні чатботи без належного контролю та адаптації, це може вплинути на формування їхньої національної ідентичності та мовних навичок.