Google Research представи GlucoFM: двупоточен базов модел с 0,72 млн параметъра за непрекъснат мониторинг на глюкозата

Google Research и UNSW Sydney представиха GlucoFM — самообучаващ се фундаментален модел за непрекъснато мониториране на глюкозата. Основният му подход е разделянето. Съществуващите CGM модели — CGMformer, GluFormer, CGM-JEPA — кодират кривата на глюкозата като една преплетена последователност. GlucoFM я декомпозира на бавен поток на физиологичното „състояние“ и преходен поток на „събитията“, запазва маската на наблюденията и се предварително обучава с две латентни цели в стил JEPA. Резултатът е енкодер с 0,72 млн. параметъра, който постига 58,8 усреднен по задачите PR-AUC при 14 оценки на двойки кохорта–задача, спрямо 54,7 за най-силния CGM-специфичен базов модел, дообучен върху същия корпус. Той е предварително обучен върху 109 066 часа немаркирани CGM данни от 477 участници, на един H100.

Готов ли е за внедряване?

Като изследователска инфраструктура — да. Като клиничен или потребителски продукт — все още не.

Изследователският екип го заявява директно: GlucoFM е изследователски прототип, не е получил разрешение или одобрение от нито един регулаторен орган и не е предназначен да диагностицира, лекува, излекува или предотвратява заболяване. Всички оценки са ретроспективни, най-голямата кохорта за предварително обучение не е публична, а към 26 август 2026 г. не е публикуван нито един чекпойнт — в статията е поет ангажимент за публикуване на кода и скриптовете за възпроизводимост.

Това, което може да бъде внедрено днес, е методиката. При 0,72 млн. обучаеми параметъра и 120 епохи на един NVIDIA H100 всеки екип с CGM корпус може да я възпроизведе, а инференцията върху 24-часов прозорец работи в CPU контейнер или директно на устройството.

Проблемът с третирането на CGM като един сигнал

Съществуващите фундаментални CGM модели като CGMformer, GluFormer и CGM-JEPA кодират кривата на глюкозата като една преплетена последователност. Но CGM носи едновременно две неща: бавна регулаторна базова линия и кратки преходни отклонения вследствие на хранене, физическа активност, стрес или артефакти от сензора. Клиничните етикети също са скъпи и специфични за кохортата, което ограничава обучението с учител.

Архитектура

GlucoFM подравнява всеки запис към фиксирана 24-часова решетка с Δt = 5 минути, което дава L = 288 позиции, и запазва абсолютния начален индекс на циркадния цикъл. Маската на наблюденията M се запазва от началото до края — липсващите позиции се попълват единствено за създаване на тензор и никога не се отчитат като измервания. Аблационно изследване показва, че плътната интерполация се представя по-слабо от този маско-ориентиран подход по подразбиране.

Причинно-следствен, маско-ориентиран обучаем гаусов филтър разделя сигнала: филтрираната тенденция се превръща в поток на състоянието, а маскираният остатък — в поток на събитията. Широчината σ се обучава в диапазона от 2 до 12 стъпки на решетката, приблизително 10–60 минути, с начална стойност 6,0. Едностранното ядро гарантира причинност, така че бъдещите стойности на глюкозата никога да не изтичат в текущата оценка на състоянието.

И двата потока се токенизират в 24 едночасови пача, сливат се в токени с размерност 128 и получават кръгови характеристики на времето от денонощието. Предварителното обучение използва две цели в стил JEPA: маскирано контекстуално латентно предсказване върху 50–60% от пачовете спрямо EMA учител (m = 0,997) и предсказване на динамиката на състоянието/събитието на следващия пач чрез остатъчни преходни глави. CGM-ориентираните аугментации добавят блуждаене на базовата линия, спадове, подобни на тези при компресиране, децимация до 15-минутно семплиране и блокове на прекъсване.

Енкодерът е Transformer с 3 слоя, скрита размерност 128, 4 глави и feed-forward размерност 256 — 0,72 млн. обучаеми и общо 1,18 млн. параметъра. Предварителното обучение използва 109 066 часа немаркирани CGM данни от 477 участници от Wear-CGM, ShanghaiT2DM, Stanford, BIG IDEAs и Colas. <!– ТУК ТРЯБВА ДА БЪДЕ ВГРАДЕНО ИНТЕРАКТИВНОТО ОБЯСНЕНИЕ –>

Резултати

При линейно сондиране с разделяне на участниците между наборите върху четири кохорти и седем задачи (14 оценки на двойки кохорта–задача) GlucoFM постигна 58,8 усреднен по задачите PR-AUC спрямо 54,7 за най-силния CGM-специфичен базов модел, дообучен върху същия корпус — разлика от +4,1 пункта, или около 7,5% относително — и с 5,8 пункта над най-добрия вариант на GluFormer. Той постигна най-висок PR-AUC при всяка оценка на риска от диабет и дисфункцията на бета-клетките, както и при 3 от 4 оценки на инсулиновата резистентност, и зае първо място при 21 от 24 оценки на трансфер между набори от данни.

При прогнозиране на гликемичния отговор два часа след хранене той достигна MAE от 21,88 mg/dL при пълен контекст, спрямо 22,90 за най-добрия базов модел и 27,69 за средната стойност от обучаващия набор, върху 874 събития на хранене от 34 участници със сензори Dexcom и Libre. Той също така надмина правило за праг на GMI, базирано на седем дни, по macro-F1 с +7,4 пункта върху Stanford и +17,4 върху CGMacros-Dexcom. Обучен върху 20% от корпуса, той вече достигна резултатите на CGM базовите модели, обучени върху целия корпус.

Основни изводи

• GlucoFM разделя CGM на бавен поток на „състоянието“ и преходен поток на „събитията“, вместо да използва една преплетена последователност.
• 0,72 млн. обучаеми параметъра надминават GluFormer със 135 млн. и MOMENT с 385 млн. параметъра по усреднен по задачите PR-AUC.
• 58,8 спрямо 54,7 PR-AUC за най-добрия CGM базов модел, обучен върху същия корпус, при 14 оценки на двойки кохорта–задача.
• Най-силните подобрения са при риска от диабет, дисфункцията на бета-клетките и инсулиновата резистентност — клинично централните задачи.
• Това е изследователски прототип без регулаторно разрешение и без публичен чекпойнт към момента.

---

Разгледайте статията и техническите подробности. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия ML SubReddit с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.

Имате нужда от партньор за популяризиране на вашето GitHub хранилище, страница в Hugging Face, продуктово представяне, уебинар и т.н.? Свържете се с нас