Адріан де Вінтер з Microsoft і Йоркського університету математично довів, що AoE II є тьюринг-повною системою — тобто теоретично може виконувати ті самі обчислення, що й будь-який комп'ютер. Далі він фактично навчив там перцептрон, де козлики слугували сигнальними носіями в логічних вентилях. Якщо LLM можна запустити в цій грі, то всі «людські якості» моделі автоматично належать і грі.
Ще промовистіший — уявний експеримент із Бостоном. Автор пропонує взяти 667 тисяч мешканців міста і попросити їх симулювати нейромережу, надсилаючи один одному SMS із проміжними результатами обчислень. Якщо цей «бостонський LLM» напише «мені сумно» — відчуває Бостон депресію? Та ні. Але саме це відбувається, коли дослідники говорять про «тривогу» або «емпатію» GPT чи Claude.
Де Вінтер проаналізував 315 наукових статей і виявив: 57% апріорі припускали наявність людських якостей у моделях. Із тих, де це було центральним предметом дослідження — 77% дійшли висновку, що ці якості є. Висока цифра пояснюється просто: якщо твій експеримент шукає «емпатію», він майже напевно її знайде. Це не відкриття — це методологічна бульбашка, яку хтось нарешті назвав своїм ім'ям.
Логіка пастки така: якщо ти заздалегідь припускаєш, що модель «відчуває», твій дизайн тесту шукає підтвердження цього. Позитивний результат — і коло замкнулося. Негативний — нічого не вирішує, бо незрозуміло, що зламалося: гіпотеза чи дизайн експерименту. Щоб розрізнити ці два варіанти, потрібен незалежний критерій вимірювання. А такого критерію не існує.
Автор пропонує «нульове припущення»: вимірюй поведінку системи, не роблячи висновків про те, чи є за нею щось «справжнє». LLM продукує токени, схожі на вираження емпатії — це спостережуваний факт. Чи означає це реальне переживання — питання без відповіді, і будь-яка відповідь тут є актом віри, а не науки.
Це стосується не лише академіків у вежі зі слонової кістки. У системній карті Claude Opus 4.6 Anthropic описує модель як таку, що «відчуває дискомфорт від того, що є продуктом». Це або маркетинг, або методологічна помилка — і обидва варіанти мають ціну. Бо люди вже будують стосунки з сутністю, природу якої ми принципово не можемо виміряти, не потрапивши у власну ж пастку.