17 радіологів із 12 центрів у шести країнах оцінювали 264 знімки — рівно половина була справжньою, решта згенерована ChatGPT або моделлю RoentGen від Stanford Medicine. Коли лікарі не знали про мету дослідження, лише 41% взагалі запідозрили щось незвичне. А це означає: більшість просто ставила б діагнози по фейкових зображеннях.
Навіть отримавши попередження, що серед знімків є синтетичні, радіологи в середньому вгадували правильно лише в 75% випадків. Індивідуальний розкид — від 58% до 92%. Показово, що досвід у професії взагалі не корелював з точністю виявлення: лікар із 40 роками практики справлявся не краще за початківця.
Паралельно перевіряли чотири великі мовні моделі — GPT-4o, GPT-5, Gemini 2.5 Pro і Llama 4 Maverick. Результат: 57–85% точності. Найгірше — що навіть GPT-4o, який сам і генерував фейки, не зміг розпізнати всі власні витвори. Це не баг конкретної моделі, це системна проблема.
Чому фейкові знімки так складно розпізнати? Парадоксально — через надмірну досконалість. Кістки надто гладкі, хребет неприродно рівний, легені занадто симетричні, лінії переломів — ідеально чисті й рівні, чого в реальних травмах майже не буває. Людський мозок налаштований шукати патологію, а не підозрювати саму реальність зображення.
Наслідки виходять далеко за межі медицини. Підроблений знімок перелому — і страхова компанія виплачує мільйони за неіснуючу травму. Хакери, що дістались до лікарняної мережі, можуть вбудувати синтетичні зображення прямо в медичні записи пацієнтів і спровокувати хибні діагнози в масштабах цілої клініки. Автори дослідження кажуть: це лише верхівка айсберга — наступний крок це 3D-фейки КТ і МРТ.
Як захиститись? Дослідники пропонують невидимі цифрові водяні знаки, вбудовані безпосередньо в знімок у момент зйомки, і криптографічні підписи, прив'язані до конкретного рентген-техніка. Але поки ці інструменти не стали стандартом — медична візуалізація залишається вразливою. Ера, коли побачити означало повірити, добігає кінця.