Sakhanda Wire
NVDA $153.77 -1.52% MSFT $506.06 -2.30% GOOGL $280.21 -1.24% META $622.96 -0.55% AMZN $257.51 -0.09%

MarkTechPost

396 новостей · все источники

MarkTechPost

You.com запустила Inference Router для 12 моделей с открытыми весами

You.com запустила Inference Router — полностью управляемый API для использования 12 моделей с открытыми весами в рабочих системах. Сервис совместим с OpenAI API и предоставляет маршруты, совместимые с Anthropic. Для переноса существующего кода SDK достаточно изменить базовый URL и ключ. Оплата взимается по мере использования, платформенная комиссия отсутствует.

MarkTechPost

Liquid AI представила RIPL для низколатентного вывода LFM

Liquid AI представила RIPL — Real-time Inference Pipeline, движок для запуска Liquid Foundation Models непосредственно в потоках запросов реального времени. Компания заявляет, что система возвращает полностью сгенерированный ответ менее чем за 50 миллисекунд и сохраняет такую задержку при непрерывном трафике на пиковом уровне. RIPL поддерживает модели LFM2.5 размером от 230M до 2.6B параметров и рассчитан на корпоративные развертывания с NVIDIA H100, H200, B200 и RTX PRO 6000.

MarkTechPost

Gradium открыла исходный код речевой модели Phonon

Gradium представила Phonon — семейство компактных моделей синтеза речи, рассчитанных на локальную работу на телефонах, компьютерах, платах Raspberry Pi 5 и в браузерах. Англоязычная Phonon 31m содержит 31 миллион параметров, выводит монофонический звук с частотой 24 кГц и распространяется по лицензии Apache 2.0. Квантизированный файл GGUF занимает 64,5 МБ, а файл Phonon 40m — 74,6 МБ.

MarkTechPost

Cohere выпустила Rerank 5 с выделением пассажей и калиброванными оценками

Компания Cohere представила семейство моделей Rerank 5 для переупорядочивания результатов поиска перед их передачей большой языковой модели. Продукт доступен в вариантах Pro и Fast; оба поддерживают контекст до 32K токенов и более 100 языков. Модели также работают с полуструктурированными данными, включая JSON, таблицы и YAML, а переход на них не требует повторной индексации.

MarkTechPost

Аудит OmniParseBench выявил равенство лидеров и смену победителя

В рамках аудита был заново собран OmniParseBench — открытый бенчмарк Datalab для парсеров документов. Для этого использовались опубликованные вердикты по 27 парсерам. Система проверяет результаты по 16 288 тестам с ответом «пройден» или «не пройден» на 2 937 страницах. В набор входят сканированные формы, рукописный текст, математические материалы arXiv и насыщенные таблицы.

MarkTechPost

IBM выпустила Granite Speech 5.0 2B для многоязычной обработки речи

IBM выпустила Granite Speech 5.0 2B — открытую модель для расшифровки и перевода речи на шести языках. Модель с 2 млрд параметров распространяется по лицензии Apache 2.0. Она запускается на графических процессорах через Transformers или vLLM, на устройствах Apple Silicon с помощью mlx-audio, а также локально через llama.cpp в формате GGUF. IBM рекомендует использовать аудиофрагменты длительностью примерно до двух минут.

MarkTechPost

JOLT обучает одну модель в ролях учителя и ученика

Perplexity и исследователи NVIDIA представили JOLT — метод постобучения языковых моделей, название которого означает Joint On-policy Learning and Teaching. Одна общая модель одновременно выступает учителем и учеником. Учитель получает привилегированную информацию, например проверенный ответ или готовое решение, тогда как ученик работает только с условием задачи. В отличие от OPSD, JOLT обучает и учителя: он использует награду за итоговый результат и KL-штраф, ограничивающий его отклонение от политики ученика.

MarkTechPost

Речевую модель Whistle сравнили с Whisper на CPU

В программном руководстве оценивается Whistle — модель преобразования речи в текст от Cactus Compute размером 16,9 МБ, работающая на CPU. Она распознаёт семь языков и возвращает временные отметки и вероятности для отдельных слов. В карточке модели утверждается, что на LibriSpeech она превосходит Whisper base; авторы проверяют это на одинаковых фрагментах из выборок test-clean и test-other.

MarkTechPost

NVIDIA Nsight Python переносит профилирование GPU-ядер в Python

NVIDIA Nsight Python — интерфейс с открытым исходным кодом для профилирования GPU-ядер непосредственно из Python. Разработчики помечают нужные участки с помощью nsight.annotate и декорируют тестовую функцию с помощью nsight.analyze.kernel. Полученный объект ProfileResults можно преобразовать в pandas DataFrame с аппаратными метриками для каждой аннотированной области, конфигурации и запуска. Это избавляет от отдельного запуска скрипта через командную строку Nsight Compute и последующего разбора отчёта.

MarkTechPost

Recursive выпустила локальную 40B-модель Flint для кодирующих агентов

Recursive Superintelligence представила Flint — свою первую модель для локальной работы кодирующих агентов. Flint является текстовой decoder-only моделью с архитектурой mixture-of-experts: всего в ней 39,8 млрд параметров, из которых около 2,5 млрд активируются для каждого токена. Веса опубликованы по лицензии Apache 2.0. В карточке модели указан контекст длиной 262 144 токена, тогда как в блоге компании говорится о поддержке до 512k токенов.

MarkTechPost

Vercel выпустила durable-harness для устойчивых к сбоям кодирующих агентов

Vercel выпустила durable-harness — пакет с открытым исходным кодом, сохраняющий сессии кодирующих агентов при сбоях, тайм-аутах и повторном развертывании функций. Он работает поверх существующих harness, не меняя их, и содержит адаптеры для Pi, OpenCode, fx, Claude Code и Codex. Пакет для npm распространяется по лицензии Apache-2.0, а его API находится на экспериментальной стадии 0.0.x.

MarkTechPost

Mistral AI выпустила Voxtral 3 и SDK для голосовых агентов

Mistral AI выпустила Voxtral 3 — семейство из трех моделей транскрибации, одной модели преобразования текста в речь и SDK для голосовых агентов на базе LiveKit. Все четыре модели доступны в публичной предварительной версии через Mistral API с европейскими, американскими и глобальными конечными точками. Запуск на собственной инфраструктуре также предлагается через отдел продаж Mistral.