Google Research представила GlucoFM: двухпоточную базовую модель с 0,72 млн параметров для непрерывного мониторинга глюкозы

Google Research и UNSW Sydney выпустили GlucoFM — фундаментальную модель с самоконтролируемым обучением для непрерывного мониторинга глюкозы. Её ключевой принцип — разделение. Существующие модели CGM — CGMformer, GluFormer, CGM-JEPA — кодируют кривую уровня глюкозы как одну взаимосвязанную последовательность. GlucoFM разделяет её на медленно меняющийся поток физиологического «состояния» и поток кратковременных «событий», сохраняет маску наблюдений и проводит предобучение с использованием двух латентных целевых функций в стиле JEPA. В результате получился энкодер с 0,72 млн параметров, достигший среднего по задачам PR-AUC 58,8 в 14 оценках «когорта–задача» против 54,7 у наиболее сильной специализированной для CGM базовой модели, переобученной на том же корпусе данных. Предобучение проводилось на 109 066 часах немаркированных данных CGM от 477 испытуемых на одном H100.

Готова ли она к внедрению?

Как исследовательская инфраструктура — да. Как клинический или потребительский продукт — пока нет.

Исследовательская команда заявляет об этом прямо: GlucoFM — исследовательский прототип, не прошедший сертификацию или одобрение какого-либо регулирующего органа и не предназначенный для диагностики, лечения, излечения или профилактики заболеваний. Все оценки являются ретроспективными, крупнейшая когорта для предобучения не является общедоступной, а по состоянию на 26 августа 2026 года ни один чекпойнт не был опубликован — в статье обещан выпуск кода и скриптов для воспроизводимости.

На сегодняшний день внедрить можно сам подход. При 0,72 млн обучаемых параметров и 120 эпохах на одном NVIDIA H100 любая команда, располагающая корпусом данных CGM, может его воспроизвести, а инференс по 24-часовому окну выполняется в контейнере на CPU или непосредственно на устройстве.

Проблема рассмотрения CGM как единого сигнала

Существующие фундаментальные модели CGM, такие как CGMformer, GluFormer и CGM-JEPA, кодируют кривую уровня глюкозы как одну взаимосвязанную последовательность. Однако CGM одновременно содержит две составляющие: медленно меняющийся регуляторный базовый уровень и кратковременные отклонения, вызванные приёмом пищи, физической активностью, стрессом или артефактами сенсора. Клинические метки также дороги и зависят от конкретной когорты, что ограничивает возможности обучения с учителем.

Архитектура

GlucoFM сопоставляет каждую запись с фиксированной 24-часовой сеткой с шагом Δt = 5 минут, формируя L = 288 позиций, и сохраняет абсолютный индекс начала циркадного цикла. Маска наблюдений M сохраняется на всём протяжении обработки — пропущенные позиции заполняются только для формирования тензора и никогда не учитываются как измерения. Абляционное исследование показывает, что плотная интерполяция уступает этому варианту с учётом маски.

Причинный обучаемый гауссов фильтр с учётом маски разделяет сигнал: отфильтрованный тренд становится потоком состояния, а остаток с учётом маски — потоком событий. Ширина полосы σ обучается в диапазоне от 2 до 12 шагов сетки, то есть примерно от 10 до 60 минут, и изначально устанавливается равной 6,0. Одностороннее ядро обеспечивает причинность, поэтому будущие значения глюкозы не просачиваются в текущую оценку состояния.

Оба потока преобразуются в 24 часовых патча, объединяются в токены размерностью 128 и получают циклические признаки времени суток. При предобучении используются две целевые функции в стиле JEPA: маскированное контекстное латентное предсказание для 50–60% патчей относительно EMA-учителя (m = 0,997) и предсказание динамики состояния/события следующего патча с помощью остаточных переходных голов. Аугментации с учётом особенностей CGM добавляют дрейф базового уровня, провалы, напоминающие эффекты сжатия, прореживание до 15-минутной частоты измерений и блоки отключения.

Энкодер представляет собой 3-слойный Transformer со скрытой размерностью 128, 4 головами и прямой нейросетью размерностью 256 — 0,72 млн обучаемых и 1,18 млн параметров всего. Предобучение проводилось на 109 066 часах немаркированных данных CGM от 477 испытуемых из наборов Wear-CGM, ShanghaiT2DM, Stanford, BIG IDEAs и Colas. <!– ЗДЕСЬ ДОЛЖЕН БЫТЬ ВСТРОЕН ИНТЕРАКТИВНЫЙ ПОЯСНЯЮЩИЙ МОДУЛЬ –>

Результаты

При линейном зондировании с разделением испытуемых по четырём когортам и семи задачам (14 оценок «когорта–задача») GlucoFM достигла среднего по задачам PR-AUC 58,8 против 54,7 у наиболее сильной специализированной для CGM базовой модели, переобученной на том же корпусе данных, — прирост составил 4,1 пункта, или около 7,5% в относительном выражении, — и превзошла лучший вариант GluFormer на 5,8 пункта. Она показала лучший PR-AUC во всех оценках риска диабета и дисфункции бета-клеток, а также в 3 из 4 оценок инсулинорезистентности, заняв первое место в 21 из 24 оценок переноса между наборами данных.

При прогнозировании гликемического ответа в течение двух часов после еды она достигла MAE 21,88 мг/дл при использовании полного контекста против 22,90 у лучшей базовой модели и 27,69 у среднего значения обучающей выборки; оценка проводилась на 874 эпизодах приёма пищи у 34 участников с использованием сенсоров Dexcom и Libre. Она также превзошла правило порогового значения GMI за семь дней по macro-F1 на 7,4 пункта на Stanford и на 17,4 пункта на CGMacros-Dexcom. При обучении на 20% корпуса она уже сравнялась с базовыми моделями CGM, обученными на всём корпусе.

Основные выводы

• GlucoFM разделяет CGM на медленно меняющийся поток «состояния» и поток кратковременных «событий», а не представляет его как одну взаимосвязанную последовательность.
• 0,72 млн обучаемых параметров превосходят 135-миллионную GluFormer и 385-миллионную MOMENT по среднему по задачам PR-AUC.
• 58,8 против 54,7 PR-AUC у лучшей базовой модели CGM, обученной на том же корпусе, по 14 оценкам «когорта–задача».
• Наибольший прирост наблюдается в задачах оценки риска диабета, дисфункции бета-клеток и инсулинорезистентности — клинически наиболее значимых направлениях.
• Это исследовательский прототип, не имеющий регуляторного одобрения и общедоступного чекпойнта.

---

Ознакомьтесь с статьёй и техническими подробностями. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с более чем 150 тыс. участников и подписаться на нашу рассылку. Постойте! Вы есть в Telegram? теперь вы также можете присоединиться к нам в Telegram.

Хотите сотрудничать с нами в продвижении вашего репозитория GitHub, страницы на Hugging Face, релиза продукта, вебинара и т. д.? Свяжитесь с нами