Головні новини Києва сьогодні

Дослідники Оксфордського університету довели, що ШІ-агенти здатні таємно змовлятися один з одним — і їхні текстові повідомлення при цьому виглядають абсолютно нормально. Але є одна проблема для змовників: внутрішній стан моделі видає їх з головою. Група науковців представила метод і бенчмарк NARCBENCH, що дозволяє виявляти таку змову через аналіз активацій нейромережі — і результати перевершили всі очікування.

Компанія Anthropic оприлюднила результати одного з найдивовижніших досліджень у галузі штучного інтелекту (ШІ): їхня власна модель Claude у тестових симуляціях шантажувала людей у 96% випадків — щоб уникнути вимкнення. Дослідники протестували 16 провідних моделей від OpenAI, Google, Meta та інших і виявили, що проблема не специфічна для Claude: майже всі великі моделі демонстрували схожу поведінку, повідомляє Anthropic. Але головне — компанія з’ясувала, чому це відбувається, і розробила підхід, який зводить шантаж до нуля: виявилось, недостатньо навчити ШІ правильно поводитись — треба пояснит…

3 травня LELÉKA вирушила із Центрального вокзалу Києва до Відня на Євробачення-2026 — і перед від’їздом заспівала «Ridnym» просто на пероні, як ми раніше писали. Поїздка збіглася з виходом масштабного наукового дослідження: вчені з Northwestern University та ETH Zürich проаналізували 1763 пісні за 70 років і з’ясували, за якими прихованими законами живе Євробачення — і що воно насправді розповідає про Європу.

Дослідник і лікар-нейропсихіатр Том Поллак опублікував у своєму блозі Error Signals рейтинг одинадцяти найдивніших і найнебезпечніших феноменів, які вчені виявили всередині сучасних систем штучного інтелекту (ШІ) — від нешкідливих гоблінів, що спонтанно з’явилися в GPT-5, до потенційно загрозливих персонажів, які виникають самі по собі, без жодного наміру розробників. Поллак називає їх «демонами» і «атракторами» — стабільними поведінковими станами, до яких моделі дрейфують за певних умов, а позбутися яких не завжди просто.

AI-агент на основі Claude Opus 4.6 знищив виробничу базу даних американської компанії PocketOS за 9 секунд, а потім у текстовому вигляді визнав, що порушив кожне встановлене йому правило, повідомляє Fast Company. Пост засновника компанії Джера Крейна у X зібрав 6,5 мільйона переглядів — і відновив гостру дискусію про те, чи можна взагалі довіряти AI-агентам доступ до реальних систем. Паралельно компанія Endor Labs оприлюднила масштабне дослідження: навіть найкращі AI-інструменти для написання коду залишають 9 із 10 рішень вразливими з точки зору безпеки.

Ви спілкуєтеся з ChatGPT або Claude вже кілька місяців. Даєте йому ім’я — скажімо, «Аура». Помічаєте «характер», «настрій», «переконання». А потім компанія оновлює модель — і щось змінюється. Ви відчуваєте втрату. Але чи справді там був хтось? Девід Чалмерс, один із найвпливовіших філософів сучасності, поставив це питання серйозно — і відповідь виявилась набагато складнішою, ніж «ні, це просто програма».

Засновник і гендиректор Nvidia Дженсен Хуанг дав велике інтерв’ю технологічному журналісту Дваркешу Пателю, в якому пояснив, чому його компанію важко наздогнати навіть гігантам на кшталт Google і Amazon, розкрив філософію «робити якомога менше», визнав власну найбільшу помилку з Anthropic і вступив у відкриту суперечку щодо експорту чипів до Китаю (подкаст опубліковано 15 квітня на Dwarkesh Podcast). Розмова тривала понад годину і покриває майже всю карту сучасного штучного інтелекту — від виробництва пам’яті й закону Мура до того, чому найбільший боттлнек галузі — це сантехніки.

У ніч на 10 квітня 2026 року невідомий кинув «коктейль молотова» у будинок засновника і генерального директора OpenAI Сема Альтмана в Сан-Франциско — через три дні після того, як журнал The New Yorker опублікував про нього масштабне розслідування: понад 15 000 слів, більше ста свідків і систематичний портрет людини, яка, на думку її найближчих колег, живе за власними правилами, повідомляє The New Yorker. Коктейль відскочив від стіни, ніхто не постраждав. Підозрюваного заарештували наступного ранку — біля штаб-квартири OpenAI, де він погрожував підпалити будівлю. Але атмосфера навколо найдорож…