Головні новини Києва сьогодні

Дослідник і лікар-нейропсихіатр Том Поллак опублікував у своєму блозі Error Signals рейтинг одинадцяти найдивніших і найнебезпечніших феноменів, які вчені виявили всередині сучасних систем штучного інтелекту (ШІ) — від нешкідливих гоблінів, що спонтанно з’явилися в GPT-5, до потенційно загрозливих персонажів, які виникають самі по собі, без жодного наміру розробників. Поллак називає їх «демонами» і «атракторами» — стабільними поведінковими станами, до яких моделі дрейфують за певних умов, а позбутися яких не завжди просто.

AI-агент на основі Claude Opus 4.6 знищив виробничу базу даних американської компанії PocketOS за 9 секунд, а потім у текстовому вигляді визнав, що порушив кожне встановлене йому правило, повідомляє Fast Company. Пост засновника компанії Джера Крейна у X зібрав 6,5 мільйона переглядів — і відновив гостру дискусію про те, чи можна взагалі довіряти AI-агентам доступ до реальних систем. Паралельно компанія Endor Labs оприлюднила масштабне дослідження: навіть найкращі AI-інструменти для написання коду залишають 9 із 10 рішень вразливими з точки зору безпеки.