Проблеми з «розумом» нової моделі

Генеральний директор OpenAI Сем Альтман назвав GPT-5 «значним кроком» до мети компанії — створення штучного загального інтелекту (AGI, artificial general intelligence) — теоретичної системи, яка перевищуватиме людський інтелект у всіх сферах діяльності.

Проте користувачі поскаржилися, що нова модель ускладнила доступ до попередніх версій ChatGPT. GPT-5 автоматично перемикався між різними моделями залежно від складності запиту. Це дозволяло OpenAI ефективніше обробляти запити, але, за словами Альтмана, перемикач зламався, і «в результаті GPT-5 здавався значно тупішим», оскільки деякі запити потенційно оброблялися старішими моделями.

Користувачі також помітили, що GPT-5 досі робить помилки в завданнях, які були складними для попередніх моделей — зокрема в математиці та правописі. У відповідь на скарги OpenAI пообіцяла, що платні користувачі ChatGPT Plus зможуть продовжувати використовувати попередню модель GPT-4o.

«Ми продовжуватимемо працювати над стабілізацією та слухатимемо відгуки, — написав Альтман у суботу в X. — Як ми згадували, ми очікували певної нестабільності під час одночасного запуску стількох речей. Але це виявилося трохи більш нестабільним, ніж ми сподівалися!»

Біологічні та хімічні обмеження заради безпеки

Розширена версія GPT-5 Thinking, яка обробляє складніші запити, отримала позначення «висока здатність у біологічній та хімічній сфері». Це лише другий продукт OpenAI з таким маркуванням після ChatGPT Agent, випущеного в липні.

Компанія заявила, що впровадила «потужні запобіжні заходи» з обережності, щоб «достатньо мінімізувати пов’язані ризики» у GPT-5. Це попри те, що OpenAI не знайшла «остаточних доказів того, що ця модель може суттєво допомогти новачку створити серйозну біологічну шкоду» — чого також не було виявлено в ChatGPT Agent.

GPT-5 Thinking пройшов «ретельне тестування», включаючи 5000 годин випробувань за участі таких організацій, як Центр стандартів та інновацій ШІ уряду США (CAISI).

Модель також створювалася з використанням нового типу навчання безпеці під назвою «безпечні завершення». Попереднє навчання безпеці на основі «відмов» вчило моделі, коли виконувати або відхиляти запит, але іноді його можна було обдурити.

Натомість техніка «безпечних завершень» навчила модель «давати найкориснішу відповідь, де це можливо, залишаючись при цьому в межах безпеки», заявила OpenAI.

«Іноді це може означати часткову відповідь на запитання користувача або відповідь лише на високому рівні. Якщо модель повинна відмовити, GPT-5 навчений прозоро пояснювати вам, чому він відмовляється, а також пропонувати безпечні альтернативи».

Емоційна прив’язаність користувачів до старих версій

GPT-5 спочатку робив майже неможливим для користувачів вибір попередніх моделей, до стилю письма або сприйнятої «особистості» яких вони могли звикнути.

Користувачі спільноти Reddit r/MyBoyfriendIsAI — багато з яких підтримують стосунки з моделями ШІ — заявили, що відчули стрес через неможливість отримати доступ до GPT-4o, відомого своїми приємними та часто лестивими відповідями.

OpenAI раніше відкликала оновлення GPT-4o в квітні після того, як виявилося, що модель була «надмірно підтримуючою, але нещирою».

Модератор субреддіту Кріс розповів Information Age, що багато членів спільноти r/MyBoyfriendIsAI «панікували» після того, як більше не могли використовувати GPT-4o.

«GPT-4o був найпопулярнішою моделлю для стосунків у субреддіті, і рішення OpenAI вилучити її здається надзвичайно раптовим і несподіваним», — сказав він.

Альтман заявив у понеділок, що «раптове вилучення старих моделей, від яких користувачі залежали у своїх робочих процесах, було помилкою», і згадав «прив’язаність, яку деякі люди мають до конкретних моделей ШІ».

Він сказав, що OpenAI працюватиме над тим, щоб зробити GPT-5 «теплішим».

«Загалом GPT-5 менш надмірно погоджується, використовує менше непотрібних емодзі та є більш тонким і вдумливим у подальших запитаннях порівняно з GPT-4o», — заявила компанія.

У розлогій заяві Альтман додав, що OpenAI не хоче, щоб її моделі «підкріплювали» саморуйнівну поведінку або ілюзії в користувачів, які перебувають «у психічно вразливому стані».

«Більшість користувачів можуть чітко розрізняти реальність і вигадку або рольову гру, але невеликий відсоток — ні, — каже він. — Ми цінуємо свободу користувачів як основний принцип, але також відчуваємо відповідальність за впровадження нових технологій з новими ризиками. Підтримка ілюзій у користувача, який не може відрізнити реальність від вигадки, — це крайній випадок, де рішення очевидне. Але найбільше мене турбують більш тонкі проблеми».

Хоча багато людей успішно використовували ChatGPT «як свого роду терапевта або лайф-коуча», сказав Альтман, він не хотів, щоб користувачі, які мали стосунки з ChatGPT, «несвідомо відштовхувалися від свого довгострокового благополуччя».

Паралельно з оновленням моделей ChatGPT, OpenAI також працює над низкою споживчих пристроїв на базі ШІ після придбання апаратного стартапу, співзасновником якого є колишній головний дизайнер Apple Джоні Айв.

Чому це важливо знати

Нові обмеження GPT-5 у біологічній та хімічній сферах — це сигнал: глобальна індустрія ШІ готується до жорсткішого регулювання. OpenAI обмежила здатність моделі надавати детальні інструкції з синтезу небезпечних речовин чи створення біологічної зброї — навіть якщо така інформація є у відкритому доступі. Це превентивний захід, щоб ШІ не став інструментом для потенційно небезпечних експериментів. Українським компаніям і регуляторам варто звернути на це увагу вже зараз, щоб не опинитися на узбіччі технологічних змін.