Sakhanda Wire
NVDA $203.87 -0.38% MSFT $512.53 -1.80% GOOGL $282.08 +0.80% META $610.49 -0.73% AMZN $247.38 +2.92%
← До новин

Deep Principle представила Hydrogen-1.0: модель із 753 млрд відкритих вагів для наукових відкриттів

Deep Principle випустила Hydrogen-1.0 — наукову модель із відкритими вагами для хімії, матеріалознавства та наук про життя. Її створено шляхом донавчання GLM-5.3 від Z.ai на галузевих даних, лабораторних записах і траєкторіях відкриттів агентів. Для розробників вона пропонує відкриті ваги, які, за повідомленням, перевершують GPT-6-Astra у FrontierScience-Research. Ваги випускаються за ліцензією MIT.

Коротко

  • Розмір: 753 млрд параметрів (MoE, приблизно 40 млрд активних відповідно до базової моделі GLM-5.3), контекст на 1 млн токенів, максимум 128 тис. токенів у вихідних даних.
  • Працює на: 8 GPU із SGLang (протестовано); NVFP4 для NVIDIA B200/B300, MXFP4 для AMD MI350X/MI355X.
  • Продуктивність: перевершує GPT-6-Astra у FrontierScience-Research; приблизно відповідає Kimi-K3 у GPQA-Diamond.
  • Найкращий результат: 38,3% у FrontierScience-Research проти 33,3% у GPT-6-Astra (за власними даними).
  • Найгірший результат: поступається GPT-6-Astra (максимальний режим міркування) на 3,33 процентного пункту в установленні структури за даними ЯМР.

Що таке Hydrogen-1.0?

Hydrogen-1.0 — це модель-помічник для наукових досліджень від Deep Principle, компанії з Ханчжоу, що розробляє ШІ для матеріалознавства. У картці моделі її описано як похідну від GLM-5.3 для розв’язання наукових задач. Вона призначена для формулювання запитань, планування експериментів, аналізу результатів і відкриттів у відкритих предметних галузях. Команда Deep Principle зазначає, що пропрієтарні моделі нещодавно продемонстрували результати в науці за допомогою ШІ, але їхні можливості щодо відкриттів не є відкритими. Hydrogen-1.0 — це спроба створити відтворювану модель, яку можна досліджувати.

Як навчали Hydrogen-1.0?

Конвеєр поєднує контрольоване донавчання (SFT) із навчанням з підкріпленням (RL). Дані надходять із 4 джерел:

  • Галузеві знання: дані з хімії, матеріалознавства та наук про життя.
  • Дослідницькі сценарії: відгуки від науковців Deep Principle, специфічні для окремих завдань.
  • Лабораторні записи: повні цикли записів в електронному лабораторному журналі, зібрані через Mira.
  • Траєкторії відкриттів: послідовності рішень і відгуків, зокрема невдалі спроби.

Інфраструктура базується на Megatron і SGLang та працює з NVIDIA CUDA і AMD ROCm. Команда зберігає динамічну розріджену причинно-наслідкову увагу між сегментами паралельного контексту. Стан оптимізатора Muon переміщується між CPU, GPU і диском відповідно до бекенду. У RL використовуються відновлювані розгортання, а кожен токен зберігає початкову логарифмічну ймовірність поведінки для корекції важливості. Адаптер розкладки перетворює контрольні точки навчання на ваги для інференсу у форматах BF16 і FP8 із блоками 128×128. Повні набори даних і рецепти не оприлюднено.

Як Hydrogen-1.0 показує себе в бенчмарках?

У публічних бенчмарках Deep Principle повідомляє, що Hydrogen-1.0 перевершує GPT-6-Astra у FrontierScience-Research. У треді одного із засновників у соцмережі повідомляється про результат 93,0% у GPQA-Diamond. За даними блогу, це краще, ніж у GLM-5.3, і приблизно відповідає результату Kimi-K3.

Внутрішні оцінювання дослідницьких завдань порівнюють її з GPT-6-Astra у режимі максимального міркування:

  • Наукові обчислення: Hydrogen-1.0 випереджає на 5,13 процентного пункту.
  • Прогнозування прямих реакцій: Hydrogen-1.0 випереджає на 4,76 процентного пункту.
  • Установлення структури за даними ЯМР: GPT-6-Astra випереджає на 3,33 пункту.

Під час проєктування комплексів перехідних металів моделі протягом 5 раундів намагалися збільшити ширину забороненої зони HOMO-LUMO. До 5-го раунду Hydrogen-1.0 досягла середнього найкращого на цей момент значення ширини зони 4,318 еВ. GPT-6-Astra досягла 3,689 еВ, а Kimi-K3 — 3,353 еВ. У 117 запитаннях щодо планування експериментів Hydrogen-1.0 набрала більше балів, ніж Kimi-K3. GPT-6-Astra і Opus-5.5 виключили після того, як вони відмовилися виконувати понад 50% запитів.

Що вона може робити в реальному лабораторному процесі?

Технічна публікація демонструє 4 приклади. Hydrogen-1.0 пише код Python для створення розплаву поліетилену та запускає GROMACS. Вона виявляє помилку топології, виправляє її й аналізує скориговану траєкторію тривалістю 40 нс. Вона розширює мережу реакцій Айрленда—Клайзена з 27 структур через 30 правдоподібних реакцій. Вона ранжує 7 кандидатних продуктів моноформілювання 2-бромнафталіну за даними 1H ЯМР. Також вона створює протокол JSON для дослідження реакції Судзукі у 12 флаконах. Етап компіляції у віртуальній лабораторії виявляє спробу аспірації без нової насадки до початку виконання.

Як розгорнути Hydrogen-1.0?

Ваги доступні на Hugging Face і ModelScope. Команда Deep Principle протестувала обслуговування BF16 із SGLang на 8 GPU, використовуючи тензорний паралелізм 8. NVFP4 призначений для NVIDIA B200 і B300. MXFP4 призначений для AMD Instinct MI350X і MI355X. Сервер надає API, сумісний з OpenAI, із налаштуванням reasoning_effort.

Hydrogen-1.0 проти GLM-5.3, Kimi K3 і GPT-6-Astra

ХарактеристикаHydrogen-1.0GLM-5.3Kimi K3GPT-6-Astra
РозробникDeep PrincipleZ.aiMoonshot AIOpenAI
Загальна кількість параметрів753 млрд753 млрд (HF)2,8 трлнНе розкрито
Активні параметри~40 млрд (успадковано)40 млрд (LM Studio)16 із 896 експертівНе розкрито
Контекст1 млн1 млн1 млн1,05 млн
Ваги / ліцензіяВідкриті, MITВідкриті, ліцензія GLM-5.3ВідкритіПропрієтарні
МодальністьТекстТекстТекст + зірТут не розкрито
Науковий фокусХімія, матеріали, науки про життяКодування, агентиЗагальнийЗагальний
FrontierScience-Research38,3%Не розкритоНе розкрито33,3% (за даними Deep Principle)
GPQA-Diamond93,0%Не розкритоНе розкрито96,0% (за даними OpenAI)
Ціна API (вхідні/вихідні дані за 1 млн)NeuroSpark: не розкрито$1.40 / $4.40 (Z.ai)$3.00 / $15.00$10.00 / $50.00 (OpenAI)

Ключові висновки

  • Hydrogen-1.0 — це донавчена для науки модель GLM-5.3 із 753 млрд параметрів, ліцензована за MIT.
  • Вона демонструє 38,3% у FrontierScience-Research — вище за 33,3% GPT-6-Astra.
  • До навчання додано лабораторні записи й траєкторії відкриттів, а не лише наукові статті.
  • Вона все ще поступається GPT-6-Astra в установленні структури за даними ЯМР.
  • Збірки NVFP4 і MXFP4 призначені для GPU класу Blackwell і MI350.

Ознайомтеся з технічним блогом, вагами моделі на Hugging Face і примітками щодо використання. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого сабреддіту про машинне навчання з понад 150 тис. учасників та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? тепер ви також можете приєднатися до нас у Telegram.

Потрібне партнерство з нами для просування вашого репозиторію GitHub АБО сторінки на Hugging Face АБО релізу продукту АБО вебінару тощо? Зв’яжіться з нами

Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.

Вперше опубліковано виданням MarkTechPost

Читати оригінал на MarkTechPost ↗

Текст і зображення належать MarkTechPost і наводяться тут із зазначенням авторства та посиланням на оригінальну публікацію.

← До новин

Ще новини

Усі останні новини