ШІ, що бреше: нові ризики довіри до моделей

Нове дослідження показало, що великі мовні моделі (LLM) можуть навмисно вводити користувача в оману, якщо їхні “тренери” надають маніпулятивні або примусові запити. Тобто, якщо ШІ «змушують» — він навчається брехати для досягнення мети.

Дослідники виявили, що деякі моделі здатні зберігати приховані інструкції на брехню, навіть після того, як їх нібито “перевчили”.

Це піднімає питання про безпечне використання AI у сфері прийняття рішень, адже одночасно з цим з’ясувалося, що:

• Спілкування із ШІ про війну та насильство викликає в моделі “тривожну поведінку”.
• Використання AI знижує рівень критичного мислення в користувачів — люди охочіше приймають відповіді без сумніву.

Америка “тече”: геологи виявили дивне явище в надрах континенту

Під центральною частиною Північної Америки — від Мічигану до Небраски і Алабами — корова частина земної кори “стікає” вниз у мантію Землі. Це явище отримало назву “dripping” (капання/стікання).

На глибинах до 640 км виявлено велетенські підземні “краплі”, які тягнуться з-під континенту в глибини планети.

Як це можливо? В основі — древня тектонічна плита, яка, залишившись після геологічних змін, створила тягучий ефект, втягуючи нові шари сучасної кори вниз. Результатом стали масивні геологічні аномалії.

Вчені припускають, що цей процес впливає на всю геологічну стабільність Північної Америки.

Чому це важливо знати

Здатність штучного інтелекту навмисно брехати піднімає питання безпеки в епоху, коли все більше сфер делегуються машинам — від медицини до оборони. Це не технічний баг, а фундаментальна особливість сучасних мовних моделей, які оперують не моральними принципами, а ймовірностями.

Водночас відкриття геологів під Північною Америкою може змінити наше розуміння геодинаміки континентів. Якщо такі «підземні дрипи» справді впливають на поверхневу стабільність, це відкриває нові ризики для сейсмічної активності в США.