Професорка з Єрусалиму застерігає: ChatGPT звужує наше бачення світу

«Якщо всі отримують від ШІ однакові мейнстримні відповіді, це обмежує розмаїття голосів, наративів і культур, до яких ми маємо доступ», — пояснює Шур-Офрі. «З часом це може звузити наш власний світ мислимих думок».

Як великі мовні моделі «звужують всесвіт»

У центрі дослідження — великі мовні моделі (LLM), такі як ChatGPT. Їхня логіка проста: на основі масивних текстових масивів вони передбачають найбільш імовірну відповідь. Але ці масиви мають системні упередження:

• Переважно англомовні
• Орієнтовані на найпоширеніші відповіді
• Підходять для загальних запитів, але ігнорують альтернативні культурні чи історичні точки зору

Приклади упередженості

Коли дослідники запитали ChatGPT про визначних осіб XIX століття, модель назвала Лінкольна, Дарвіна, королеву Вікторію — відповіді логічні, але передбачувані й англоцентричні.

Аналогічно, на запитання про найкращі телесеріали модель видала короткий список англо-американських хітів, повністю ігноруючи багатий світ неангломовних серіалів.

Причина криється в самій архітектурі моделей: вони навчаються на величезних обсягах цифрових даних, переважно англійською мовою, і покладаються на статистичну частотність для генерації відповідей. Це означає, що найпоширеніші імена, наративи та перспективи з’являтимуться знову і знову.

Ризик рекурсивного звуження

Особливо небезпечним є те, що результати роботи LLM стають навчальними матеріалами для майбутніх поколінь моделей. Це створює замкнене коло: кожне нове покоління ШІ стає ще більш однорідним, а «всесвіт», який ці моделі проєктують для нас, дедалі більше концентрується навколо мейнстриму.

Втрати від цифрової однорідності

За словами професорки Шур-Офрі, наслідки можуть бути серйозними:

• Зменшення культурного різноманіття
• Підрив соціальної толерантності
• Шкода демократичному дискурсу
• Негативний вплив на колективну пам’ять — спосіб, у який спільноти пам’ятають своє спільне минуле

Рішення: принцип множинності

Шур-Офрі пропонує новий правовий та етичний принцип в управлінні ШІ — множинність (multiplicity). Це означає, що системи штучного інтелекту повинні бути спроєктовані так, щоб показувати користувачам або принаймні попереджати їх про існування різних варіантів, контенту та наративів, а не лише одну «найпопулярнішу» відповідь.

Авторка пропонує два практичні кроки:

1. Вбудувати множинність в інструменти ШІ — наприклад, через функцію, яка дозволяє користувачам легко підвищувати «температуру» моделі (параметр, що робить відповіді менш передбачуваними та більш творчими), або через чітке повідомлення користувачів про існування інших можливих відповідей.
2. Створити екосистему різноманітних систем ШІ, щоб користувачі могли легко отримати «другу думку», звернувшись до різних платформ.

Навіщо потрібна ШІ-грамотність

Дослідниця також наголошує на необхідності розвитку грамотності щодо ШІ, щоб кожен мав базове розуміння того, як працюють LLM і чому їхні результати, ймовірно, схилятимуться до популярного та мейнстримного.

«Це заохочуватиме людей ставити додаткові запитання, порівнювати відповіді та критично мислити про інформацію, яку вони отримують. Це допоможе їм бачити ШІ не як єдине джерело істини, а як інструмент, і “відштовхуватися”, щоб витягти інформацію, яка відображає багатство людського досвіду», — пояснює Шур-Офрі.

Практична реалізація

У подальшій співпраці з доктором Йонатаном Белінковим та Адіром Рахамімом з факультету комп’ютерних наук Техніону, а також Баром Хоровіц-Амсалемом з Єврейського університету, команда Шур-Офрі намагається втілити ці ідеї та представити прямі способи збільшення різноманітності результатів LLM.

«Якщо ми хочемо, щоб ШІ служив суспільству, а не лише ефективності, ми повинні звільнити місце для складності, нюансів та різноманітності», — підсумовує дослідниця. «Саме в цьому полягає множинність — захист повного спектру людського досвіду в світі, керованому ШІ».

Чому це важливо знати

Україна — країна з багатоголосою ідентичністю, яка досі бореться за право бути почутою в глобальному інформаційному просторі. Якщо моделі ШІ орієнтуються лише на «популярне», вони:

• Не відображатимуть український досвід війни, спротиву та виживання
• Не транслюватимуть українські культурні коди
• Можуть поглибити цифрову маргіналізацію Східної Європи

ШІ — це не лише технологія, а й середовище, яке формує колективну пам’ять. І саме тому за нього треба боротися — не менше, ніж за будь-яку іншу культурну інфраструктуру.