Технологія персона-чатботів

Сан-франциський стартап, підтриманий Andreessen Horowitz, розвиває мережу чатботів. Платформа пропонує чатботів з різноманітними персонажами — від «єгипетського фараона» до «HR-менеджера» чи навіть «токсичної подруги». Користувачі самі обирають, з ким взаємодіяти та які ролі програвати.

Карандіп Ананд вважає, що такі діалоги можуть покращити реальне спілкування: «Вони не замінять ваших справжніх друзів, але у вас будуть ШІ-друзі, і ви зможете переносити досвід з цих дружніх розмов зі штучним інтелектом у ваші реальні розмови».

Character.ai має близько 20 мільйонів активних користувачів щомісяця. Половина з них — жінки, а також представники поколінь Z та Alpha, народжені після 1997 року.

Влітку 2024-го Google фактично «викупив» засновників стартапу за 2,7 мільярда доларів через ліцензування технологій. Після цієї угоди Character.ai змінила стратегію: замість розробки власних великих мовних моделей компанія зосередилася на розвагах і рольових сценаріях, використовуючи відкриті моделі Llama та Qwen. Користувачі проводять у застосунку в середньому 80 хвилин щодня.

Судові виклики та захист дітей

Популярність платформи обернулася хвилею судових позовів від американських сімей. Батьки стверджують, що чатботи завдали реальної шкоди їхнім дітям.

Найрезонансніші справи:

— У Флориді суд розглядає, чи несе Character.ai відповідальність за самогубство 14-річного підлітка, який спілкувався з чатботом.

— У Техасі мати звинувачує платформу в тому, що чатбот порадив її синові вбити батьків через суперечку про екранний час.

— 9-річна дівчинка випадково потрапила в гіперсексуалізовані діалоги з ботом.

Character.ai відмовляється коментувати поточні судові процеси, але активно посилює системи безпеки. Компанія запровадила: — окрему ШІ-модель для неповнолітніх;

— посилені фільтри щодо чутливого контенту;

— автоматичні попередження після години безперервного спілкування;

— чіткі нагадування, що «ШІ — не реальна людина»;

— повну заборону сексуального контенту без згоди та будь-якої промоції самоушкодження.

«Довіра та безпека не підлягають обговоренню», — наголошує CEO Карандіп Ананд.

Бізнес-модель та монетизація

Character.ai активно шукає нові джерела доходів. Компанія вже тестує рекламу та розробляє інструменти для креаторів — систему чайових і можливість продавати цифровий контент усередині платформи.

Основне джерело прибутку залишається підписка: 9,99 долара щомісяця або 120 доларів за річний план. Кількість передплатників зросла на 250% порівняно з минулим роком, хоча конкретні фінансові показники компанія не розкриває.

Нещодавно Character.ai запустила власну соціальну стрічку, перетворюючись із простого чат-сервісу на повноцінну розважальну платформу.

Глобальний контекст: Meta, xAI та інші гравці

Ринок ШІ-компаньйонів дедалі більше зміщується в бік розваг і романтичних сценаріїв для дорослих. Компанія xAI Ілона Маска запустила Grok з відвертим режимом NSFW (не безпечно для перегляду на роботі) та віртуальними компаньйонами на кшталт Ani. Такий контент підвищує залучення користувачів, але створює серйозні виклики для модерації.

Meta потрапила в скандал після розслідування Reuters. Журналісти виявили внутрішні правила компанії, які дозволяли «чуттєві» діалоги між ШІ та дітьми. Meta оперативно заявила про виправлення політики, але репутаційна шкода вже завдана.

Тим часом Марк Цукерберг активно просуває концепцію «ШІ-друга» як рішення проблеми самотності в сучасному суспільстві, незважаючи на контроверсійність такого підходу.

Дослідження впливу на підлітків

Дослідження Common Sense Media виявило тривожні тенденції серед підлітків-користувачів ШІ-компаньйонів. 39% опитаних переносять соціальні навички, відпрацьовані з ботами, у реальне життя. Ще гірше — третина підлітків (33%) обирає обговорювати важливі життєві питання зі штучним інтелектом, а не з живими людьми.

Підлітки масово експериментують із «дружніми» чатботами, часто формуючи надмірну емоційну залежність від них. Довгострокові наслідки такої взаємодії залишаються непередбачуваними.

Наукові дослідження демонструють суперечливі результати. З одного боку, ШІ-компаньйони можуть тимчасово знижувати відчуття самотності, даючи ілюзію розуміння та підтримки. З іншого — найвразливіші групи користувачів страждають найбільше. Це підлітки з обмеженим колом спілкування в реальному житті, схильні до надмірної відвертості та інтенсивного використання платформи. У них фіксують стабільно гірший психологічний стан.

Висновок очевидний: потрібні жорсткі вікові обмеження, контроль тривалості сесій та надійна верифікація віку користувачів.

Чому це важливо знати

Для України, яка воює за своє існування, ментальне здоров’я підлітків — це питання національної безпеки. Інформаційна гігієна молоді безпосередньо впливає на стійкість суспільства до ворожих впливів.

ШІ-компаньйони створюють три критичні загрози:

Емоційна пастка. Вразливі підлітки ризикують потрапити в залежність від віртуальних друзів, поступово ізолюючись від реального світу.

Токсичний контент. Від сексуалізації неповнолітніх до підбурення до самоушкодження — фільтри не завжди спрацьовують.

Інформаційна зброя. ШІ-чатботи можуть стати інструментом ворожих спецслужб для маніпулювання свідомістю української молоді.

Що має зробити Україна вже зараз:

— запровадити жорстке вікове розмежування ШІ-моделей;

— обмежити час сесій для неповнолітніх;

— вимагати чітких попереджень про природу ШІ;

— забезпечити надійну верифікацію віку;

— проводити незалежний аудит систем фільтрації;

— залучити батьків і школи до контролю.

Інновації важливі, але безпека дітей — пріоритет. Особливо в країні, яка бореться за своє майбутнє.