Sakhanda Wire
NVDA $153.75 -1.53% MSFT $506.06 -2.30% GOOGL $279.99 -1.31% META $621.17 -0.84% AMZN $257.88 +0.05%

MarkTechPost

396 новостей · все источники

MarkTechPost

llm-d 1.0 добавляет маршрутизацию с учетом кеша для ИИ-инференса

Google, Red Hat и IBM выпустили llm-d 1.0 — первый стабильный релиз открытого Kubernetes-ориентированного стека для распределенного инференса больших языковых моделей. Он объединяет серверы vLLM и SGLang в общий пул для самостоятельно размещаемых агентных и reinforcement learning-систем. Проект входит в CNCF Sandbox, распространяется по лицензии Apache 2.0 и объединяет более 500 участников из свыше 25 организаций.

MarkTechPost

Google открыла исходный код TorchTPU для PyTorch на Cloud TPU

Google опубликовала исходный код TorchTPU — бэкенда PyTorch для Cloud TPU, созданного совместно с командой PyTorch из Meta. Проект представили на PyTorch Conference 2026 20 октября 2026 года. Существующий код PyTorch может обращаться к TPU через torch.device("tpu"), поэтому TPU выступают в качестве нативного устройства наряду с CPU и GPU. Google рекомендует TorchTPU для новых задач вместо PyTorch/XLA.

MarkTechPost

DeepSeek открыла исходный код фреймворка DeepInfer

DeepSeek опубликовала DeepInfer — фреймворк инференса, который используется для обслуживания DeepSeek-V4.1-Flash в рабочей среде. Проект распространяется по лицензии Apache 2.0, а слой кодирования и декодирования токенов deepseek-recipe — по лицензии MIT. DeepInfer рассчитан на офлайн-инференс и поддерживает одну модель с контекстом в 1M токенов.

MarkTechPost

Exa 3.0 заявила лидерство в восьми тестах поискового API

Компания Exa представила Exa 3.0 — обновление размещаемого API для веб-поиска, ориентированного на ИИ-агентов. В релиз вошла более крупная embedding-модель, размер которой не раскрывается, а также расширенный независимый индекс, формируемый собственным краулером Exa. Он отслеживает более 2 трлн URL и обслуживает 100 млрд страниц.

MarkTechPost

Cloudflare представила Clairic для извлечения данных в Workers AI

Cloudflare открыла предварительный доступ к Clairic — модели System One для извлечения структурированных данных из текста и изображений. Модель не генерирует обычный текст, а возвращает значения заданных типов: числа, даты, длительности, списки, оценки и прогнозы. Запрос может включать текст, до четырёх изображений и набор именованных полей с инструкциями на естественном языке. Для каждого скалярного результата указываются уверенность и p_null — вероятность отсутствия значения. Текстовые ответы могут содержать точные фрагменты и позиции символов, а прогнозы — медиану и 80%-й интервал.

MarkTechPost

Inception выпустила диффузионную языковую модель Mercury 3

Компания Inception выпустила Mercury 3 — большую диффузионную языковую модель, которая формирует ответы параллельным уточнением, а не последовательной генерацией каждого токена. Inception заявляет скорость 1 068 токенов в секунду на графических процессорах NVIDIA и контекстное окно на 1 миллион токенов. Число параметров и точная конфигурация GPU не раскрыты. Модель доступна через API; открытых весов и квантизированных сборок нет.

MarkTechPost

Nace AI представила Drex Max для компьютерных агентов

Компания Nace AI выпустила Drex Max — мультимодальную модель принятия решений для агентов, работающих с компьютерами и браузерами. Она анализирует текст и изображения и возвращает откалиброванные вероятности, но не генерирует текст. В запрос передаются состояние системы и вопросы с заданными вариантами ответа: «да» или «нет», выбор метки либо оценка по упорядоченной шкале. Один вызов API может включать до 16 вопросов.

MarkTechPost

MiniMax выпустила MoE-модель M3.1 Flash с контекстом в миллион токенов

MiniMax выпустила M3.1 Flash — мультимодальную модель с архитектурой mixture-of-experts, 428B параметров в общей сложности и примерно 23B активных параметров. Модель принимает текст, изображения и видео, возвращает текст и поддерживает контекст длиной 1 000 000 токенов. Она рассчитана на программирование, агентные офисные задачи и визуальное рассуждение. Более ранняя сборка M3.1 Flash под названием Space Bunny обработала свыше 200T токенов.

MarkTechPost

NVIDIA открыла исходный код Run:ai по лицензии Apache 2.0

NVIDIA опубликовала всю платформу Run:ai для оркестрации GPU-нагрузок под лицензией Apache 2.0. Исходный код размещён на GitHub и включает управляющий слой, сервисы кластеров, установщик, командную строку и MCP-сервер. Run:ai работает поверх Kubernetes или OpenShift с графическими процессорами NVIDIA и управляет задачами разработки, обучения и инференса, не заменяя Kubernetes.

MarkTechPost

Mistral AI выпустила семейство моделей прогнозирования Timestral

Mistral AI представила Timestral — свое первое семейство базовых моделей для временных рядов. В него входят четыре модели для прогнозирования без дообучения: на 5M, 28M, 123M и 209M параметров. Крупнейшая модель поддерживает контекст длиной до 32 768 временных шагов и выполняет вывод на стандартном серверном CPU без GPU. Веса распространяются по модифицированной лицензии MIT, говорится в описании релиза.

MarkTechPost

TinyFish отменяет плату за поиск, но обработка моделей остается платной

При чтении веб-страниц AI-агенты несут два разных вида расходов: плату за поисковый запрос или получение страницы и обработку моделью полученного содержимого, рассуждений и ответа. TinyFish не взимает плату за Search и Fetch в пределах опубликованных лимитов, однако загруженные страницы по-прежнему расходуют токены и увеличивают стоимость работы модели. Ограничения составляют 30 запросов Search в минуту и 500 в час, а также 150 URL для Fetch в минуту и 1000 в день. Agent и Browser оплачиваются отдельно.

MarkTechPost

Google Research открыла Harness² для улучшения ИИ-агентов

Google Research опубликовала исходный код Harness² — фреймворка под лицензией Apache-2.0, который изменяет код и файлы вокруг замороженной модели, не обновляя её веса. Восемь редактируемых компонентов включают системный промпт, защитные правила, память, инструкции для инструментов, субагентов, навыки, скрипты и плагины. Версия 0.1.0 работает в Linux с Python 3.12 или 3.13 и uv, а вызовы моделей выполняются через Vertex AI.