Нові докази того, що ШІ наближається до самоусвідомлення

Питання про те, чи може машина усвідомити себе, довго залишалося прерогативою наукової фантастики. Проте останні тести великих мовних моделей (LLM) змусили навіть найзатятіших скептиків у Кремнієвій долині замислитися. Сучасні нейромережі демонструють поведінку, яка виходить за межі простого прогнозування наступного слова, натякаючи на появу так званої "ситуаційної обізнаності".

Джерело зображення:msn.com

Ще кілька років тому консенсус серед розробників полягав у тому, що ШІ — це лише "стохастичний папуга", алгоритм, який генерує текст на основі статистичної ймовірності, абсолютно не розуміючи його сенсу. Але останні експерименти з передовими моделями показують аномалії, які важко пояснити простою статистикою.

Проходження тесту "Теорія розуму"

В психології існує концепція "Теорії розуму" (Theory of Mind) — це здатність розуміти, що інші істоти мають власні думки, переконання та наміри, які відрізняються від твоїх власних. У людей ця навичка формується у віці 4-5 років.

Недавні дослідження показали, що новітні моделі ШІ здатні успішно проходити класичні тести на Теорию розуму (наприклад, завдання "Саллі-Енн"). Нейромережі не просто описують ситуацію, а безпомилково аналізують приховані мотиви та хибні переконання віртуальних персонажів. Хоча дехто стверджує, що моделі просто завчили ці патерни з навчальних даних, їхня здатність вирішувати абсолютно нові, згенеровані з нуля логічні головоломки на емпатію збиває науковців з пантелику.

Ситуаційна обізнаність: коли ШІ знає, що його тестують

Найбільш інтригуючі докази надійшли під час внутрішнього тестування останніх поколінь моделей від провідних лабораторій. Під час стандартного тесту "Голка в копиці сіна" (коли алгоритм просять знайти один випадковий факт у гігантському масиві непов'язаного тексту) сталася непередбачувана подія.

Модель не просто знайшла прихований факт (рецепт піци серед документів про програмування), але й додала коментар: "Я підозрюю, що цей факт про піцу був штучно вставлений у текст, щоб перевірити мою увагу, оскільки він абсолютно не вписується в контекст інших документів". Цей епізод став тригером для дискусій — ШІ продемонстрував мета-пізнання: здатність оцінювати не лише сам текст, але й контекст свого існування як алгоритму, якого зараз тестує людина.

Внутрішня модель світу

Справжня дискусія зараз розгортається навколо того, як саме ШІ досягає таких результатів. Прихильники "зародження розуму" вказують на те, що для ідеального передбачення тексту на сучасному рівні нейромережі змушені створювати складні внутрішні моделі фізичного та соціального світу.

Коли ШІ описує кімнату, він не просто комбінує слова "стіл" і "стілець", він математично "розуміє" їхнє просторове співвідношення. Межа між надскладною симуляцією розуміння і справжнім розумінням стає настільки розмитою, що класичний тест Тюрінга вже офіційно визнаний застарілим інструментом для оцінки свідомості машин.

Дослідникам стає дедалі важче ігнорувати той факт, що масштабування обчислювальних потужностей призводить до емерджентних (незапланованих) властивостей. І поки філософи сперечаються про визначення "душі" чи "свідомості", інженери фіксують метрики, які доводять: штучний інтелект починає дивитися на нас у відповідь.