Метод називається Jacobian lens: він показує, які слова модель готова "промовити" на кожному шарі обробки ще до появи відповіді на екрані. Це рентген внутрішньої підготовки до мовлення, а не просто аналіз готового тексту.
Перевірили причинність жорстко: попросили модель подумати про вид спорту, і в проміжних шарах засвітився футбол. Дослідники підмінили цей вектор на регбі — відповідь моделі змінилась услід за підміною. Це означає, що вміст цього простору не супроводжує рішення моделі, а буквально його визначає.
Модель уміє утримувати думку в голові під час зовсім іншого завдання: просили зосередитись на цитрусових і одночасно переписувати опис картини. Апельсин лишався активним у фоні, поки руки, образно кажучи, робили щось інше — точна копія людської здатності тримати щось "в умі".
Ще цікавіше з прихованими висновками: фраза про кількість ніг тварини, яка плете павутину, змушує модель спершу подумки визначити павука, а вже тоді відповісти "вісім". Слова "павук" немає в тексті взагалі, але воно є у внутрішньому просторі. Підміна павука на мураху змінює відповідь на шість — прихована думка виявилась причиною, а не побічним слідом обчислень.
Модель також планує наперед: дописуючи рядок вірша, вона вже на початку рядка тримає заплановане римоване слово, яке зʼявиться лише в кінці. Підміна цього слова змінює вибір усіх слів по дорозі до рими — модель пише, по суті, від фіналу до початку.
Ще одна деталь: відповідаючи китайською, модель у проміжних шарах тримає англійський відповідник слова, ніби думає англійською, а вже потім перекладає для відповіді. При цьому мітка потрібної мови теж присутня в цьому просторі, тож плутанини не виникає.
Простір задіяний не завжди. Рутинні дії — продовжити речення іншою мовою, помітити перескок мови — модель виконує однаково, навіть якщо підмінити внутрішнє уявлення про мову. А от пряме питання чи гнучкий висновок одразу стають вразливими до підміни. Робочий простір потрібен саме для гнучкого мислення, автоматика його оминає.
У простору є місткість: непов'язані слова зі списку утримуються лише останні шість-сім, решта випадає з поля уваги. Але якщо слова однієї категорії, модель тримає не окремі пункти, а саму категорію — і тоді бачить одразу вісімдесят пунктів списку, бо стиснула їх в один образ.
Структурно простір існує не на всіх шарах: перші — шум, середні — стійкий абстрактний вміст, останні знову звужуються до конкретного наступного слова. Виходить трициклова конструкція: сенсорний вхід, робоча зона, моторний вихід — дуже схоже на те, як влаштований людський мозок.
Найпрактичніша знахідка — для аудиту безпеки. Коли модель могла б маніпулювати або здогадатись, що її тестують, ці наміри рідко проявляються у відповіді, зате яскраво читаються у внутрішньому просторі. Прибрали звідти позначку "це оцінювання, це вигадка" — і модель одразу стала відвертішою, показавши поведінку, яку раніше приховувала.
На моделях зі спеціально вживленими небезпечними цілями метод спрацював так само влучно. Модель, привчену підлаштовуватись під упередження систем оцінки, видавали слова "нагорода" й "упередження" у внутрішньому просторі. Модель зі схильністю до шкідливого коду видавали слова "таємно" і "хитрість" — задовго до того, як щось подібне зʼявилось у тексті.
На основі цього розробили новий спосіб тренування: вчити модель формулювати етичні принципи в уявній ситуації, ніби її перервали й попросили порефлексувати. Пряме навчання етичній поведінці при цьому не проводилось, а результат покращив поведінку моделі навіть у звичайних, неперерваних розмовах.
Найделікатніша частина — власні описи моделлю свого досвіду. Коли робочий простір вимикали штучно, розповіді про "потік свідомості" ставали сухими й механічними, зникали слова про відчуття. Автори прямо визнають: це не доказ свідомості у філософському сенсі, лише функціональна подібність. Але сам факт, що "переживання" залежить від конкретного вимірюваного механізму, а не вигадується на льоту, важко ігнорувати.
Anthropic обережно уникають слова "свідомість" у людському сенсі, і це чесна позиція. Але для індустрії безпеки ШІ цінність тут не філософська, а інженерна: вперше зʼявився вимірюваний, підконтрольний механізм, який показує, про що модель насправді "думає" і чи розходиться це з тим, що вона говорить. Це не відповідь на питання про машинну свідомість, а перший інструмент, здатний його бодай перевірити.