Anthropic, відома завдяки сімейству моделей Claude, закликала світову спільноту розглянути можливість тимчасового уповільнення або навіть призупинення розробки найпотужніших систем штучного інтелекту. Це не паніка і не маркетинг — це офіційний звіт компанії, яка щороку залучає мільярди доларів інвестицій саме в розвиток цих технологій.
Головна причина занепокоєння — так зване рекурсивне самовдосконалення: сценарій, за якого штучний інтелект починає самостійно створювати дедалі кращі версії себе з мінімальною участю людини. Сучасні системи вже суттєво прискорюють розробку нових моделей ШІ, формуючи своєрідний цикл зворотного зв'язку. А це означає, що з певного моменту люди можуть просто не встигати контролювати те, що самі ж запустили.
Співзасновник Anthropic Джек Кларк описав проблему так: "Потрібно мати можливість прибрати ногу з педалі газу та натиснути на гальмо. Зараз індустрія штучного інтелекту має педаль газу, але не має педалі гальма".
Компанія порівнює потенційне регулювання ШІ з договорами про контроль над ядерними озброєннями, але визнає: ситуація складніша. Якщо будівництво ядерних об'єктів відносно легко відстежити, то навчання нових моделей штучного інтелекту значно простіше приховати від сторонніх спостерігачів.
Anthropic наголошує, що одностороннє рішення окремої компанії нічого не вирішить — потрібна міжнародна угода між провідними гравцями та державами, насамперед між США і Китаєм, з механізмами перевірки її виконання.
Ось де парадокс. Критики вважають, що акцентування уваги на найгірших сценаріях може бути способом загальмувати конкурентів під приводом турботи про безпеку. І відкидати це підозру повністю не варто. Але навіть якщо частково так, сам факт, що розробники провідних моделей публічно говорять про втрату контролю — вже не теоретична дискусія з університетських аудиторій. Це сигнал, що ситуація справді виходить за межі того, що галузь встигає осмислювати.
Найближчими місяцями Anthropic планує організувати зустрічі за участю урядовців, науковців, громадських організацій і конкурентів для обговорення механізмів контролю. Чи вийде щось конкретне з цих зустрічей — питання відкрите. Але педаль гальма поки що ніхто не встановив.