Мікроблог Довгі лонгріди з детальними дослідженнями Лонгріди Головна
Microsoft опублікував детальний технічний звіт про те, як вони з нуля тренували власну frontier-модель з міркуванням — і це перший настільки відвертий документ від когось із Big Tech за довгий час.

MAI-Thinking-1 — це sparse Mixture of Experts з 35 млрд активних параметрів при загальному обсязі близько 1 трильйона. Для розуміння масштабу: активні параметри — це те, що реально «думає» під час кожного запиту, решта залишається «сплячою». Така архітектура дозволяє досягти продуктивності великої моделі при значно менших витратах на інференс.

Контекстне вікно — 256 тисяч токенів, що відповідає приблизно 600-сторінковому документу.  Тренували модель на кластері з 8000 прискорювачів GB200 — власне залізо Microsoft, що само по собі є заявою про незалежність від NVIDIA як монопольного постачальника.

Найцікавіше в репорті — не архітектура, а філософія. Команда навмисно відмовилась від дистиляції зі сторонніх моделей: MAI-Thinking-1 навчалась без запозичення знань від GPT чи Claude. А це означає, що Microsoft будує власний незалежний інтелектуальний стек — і більше не покладається на OpenAI, з якою ще кілька років тому мала ексклюзивне партнерство.

Дані для претренування — виключно чисті й комерційно ліцензовані, без AI-згенерованого контенту. Це навпаки більшості гравців, які давно змішують синтетику з реальними текстами. Ставка на якість даних замість новизни архітектури — підхід, який у довгостроковій перспективі зазвичай виграє.

За бенчмарками AIME 2025 модель досягає 97%, AIME 2026 — 94.5%. У сліпих людських оцінках MAI-Thinking-1 виявилась кращою за Claude Sonnet 4.6. На SWE-Bench Pro, де тестують реальне вирішення задач з GitHub, модель стоїть поруч з Claude Opus 4.6 — попри те, що Opus значно більша.

В опенсорс модель не потрапить, але буде доступна через Microsoft Foundry з можливістю файнтюну через API. Тобто підприємства зможуть донавчати модель під свої дані — і це стратегічно правильний хід для корпоративного ринку, де кастомізація часто важливіша за сирі бенчмарки.

16 переглядів