Sakhanda Wire
NVDA $153.77 -1.52% MSFT $506.06 -2.30% GOOGL $280.21 -1.24% META $622.96 -0.55% AMZN $257.51 -0.09%

MarkTechPost

396 новин · усі джерела

MarkTechPost

You.com запустила Inference Router для 12 моделей із відкритими вагами

You.com запустила Inference Router — повністю керований API для використання 12 моделей із відкритими вагами у виробничих системах. Сервіс сумісний з OpenAI API та має маршрути, сумісні з Anthropic. Щоб перенести наявний код SDK, розробникам достатньо змінити базову URL-адресу й ключ. Оплата здійснюється за використання, без комісії платформи.

MarkTechPost

Liquid AI випустила RIPL для низьколатентного виведення LFM

Liquid AI представила RIPL — Real-time Inference Pipeline, рушій для запуску Liquid Foundation Models безпосередньо в потоках запитів реального часу. Компанія заявляє, що система повертає повністю згенеровану відповідь менш ніж за 50 мілісекунд і зберігає таку затримку за безперервного трафіку на піковому навантаженні. RIPL підтримує моделі LFM2.5 обсягом від 230M до 2.6B параметрів і призначений для корпоративних розгортань на NVIDIA H100, H200, B200 та RTX PRO 6000.

MarkTechPost

Gradium відкрила код мовної моделі синтезу мовлення Phonon

Gradium представила Phonon — сімейство компактних моделей синтезу мовлення, призначених для локальної роботи на телефонах, комп’ютерах, платах Raspberry Pi 5 і в браузерах. Англомовна Phonon 31m має 31 мільйон параметрів, генерує монофонічне аудіо з частотою 24 кГц і поширюється за ліцензією Apache 2.0. Квантизований файл GGUF займає 64,5 МБ, тоді як файл Phonon 40m — 74,6 МБ.

MarkTechPost

Cohere випустила Rerank 5 із виділенням пасажів і каліброваними оцінками

Cohere представила сімейство моделей Rerank 5 для впорядкування результатів пошуку перед їх передаванням великій мовній моделі. Доступні версії Pro і Fast, кожна з контекстним вікном на 32K токенів і підтримкою понад 100 мов. Моделі також працюють із напівструктурованими даними, зокрема JSON, таблицями та YAML. Перехід на них не потребує повторного індексування.

MarkTechPost

Аудит OmniParseBench виявив рівність лідерів і зміну переможця

Під час аудиту було відтворено OmniParseBench — відкритий бенчмарк Datalab для парсерів документів. Для цього використали опубліковані вердикти щодо 27 парсерів. Система оцінює результати за 16 288 тестами з відповіддю «пройдено» або «не пройдено» на 2 937 сторінках. До набору входять скановані форми, рукописний текст, математичні матеріали arXiv і щільні таблиці.

MarkTechPost

IBM випустила Granite Speech 5.0 2B для багатомовної обробки мовлення

IBM випустила Granite Speech 5.0 2B — відкриту модель для транскрибування та перекладу мовлення шістьма мовами. Модель із 2 мільярдами параметрів поширюється за ліцензією Apache 2.0. Її можна запускати на графічних процесорах через Transformers або vLLM, на пристроях Apple Silicon за допомогою mlx-audio, а локально — через llama.cpp у форматі GGUF. IBM радить використовувати аудіофрагменти тривалістю приблизно до двох хвилин.

MarkTechPost

JOLT навчає одну модель у ролях учителя й учня

Perplexity та дослідники NVIDIA представили JOLT — метод післянавчання мовних моделей, назва якого розшифровується як Joint On-policy Learning and Teaching. Одна спільна модель одночасно виконує ролі вчителя й учня. Учитель отримує привілейовану інформацію, зокрема перевірену відповідь або готовий розв’язок, тоді як учень бачить лише умову завдання. На відміну від OPSD, JOLT навчає також учителя: він використовує винагороду за кінцевий результат і KL-штраф, що обмежує його відхилення від політики учня.

MarkTechPost

Модель мовлення Whistle порівняли з Whisper на CPU

У програмному посібнику оцінюють Whistle — модель перетворення мовлення на текст від Cactus Compute розміром 16,9 МБ, що працює на CPU. Вона розпізнає сім мов і повертає часові мітки та ймовірності для окремих слів. У картці моделі заявлено перевагу над Whisper base на LibriSpeech; автори перевіряють це на однакових уривках із тестових вибірок test-clean і test-other.

MarkTechPost

NVIDIA Nsight Python переносить профілювання GPU-ядер у Python

NVIDIA Nsight Python — інтерфейс із відкритим кодом для профілювання GPU-ядер безпосередньо з Python. Розробники позначають потрібні ділянки за допомогою nsight.annotate, а тестову функцію оформлюють декоратором nsight.analyze.kernel. Об’єкт ProfileResults можна перетворити на pandas DataFrame, де апаратні метрики наведені для кожної анотованої області, конфігурації та запуску. Такий підхід не потребує окремо запускати скрипт через командний рядок Nsight Compute і потім розбирати звіт.

MarkTechPost

Recursive випустила локальну 40B-модель Flint для кодерських агентів

Recursive Superintelligence представила Flint — свою першу модель для локальної роботи агентів, що працюють із кодом. Flint є текстовим decoder-only Transformer із архітектурою mixture-of-experts: загалом модель має 39,8 млрд параметрів, а для кожного токена активними є близько 2,5 млрд. Ваги опубліковано за ліцензією Apache 2.0. У картці моделі вказано контекст на 262 144 токени, тоді як у блозі компанія згадує підтримку до 512k токенів.

MarkTechPost

Vercel випустила durable-harness для стійких до збоїв кодингових агентів

Vercel випустила durable-harness — пакет із відкритим кодом, який зберігає сесії кодингових агентів після збоїв, тайм-аутів і повторного розгортання функцій. Він працює поверх наявних harness без їхньої модифікації та має адаптери для Pi, OpenCode, fx, Claude Code і Codex. Пакет для npm поширюється за ліцензією Apache-2.0, а його API має експериментальний статус 0.0.x.

MarkTechPost

Mistral AI випустила Voxtral 3 і SDK для голосових агентів

Mistral AI випустила Voxtral 3 — сімейство з трьох моделей транскрипції, однієї моделі перетворення тексту на мовлення та SDK для голосових агентів на основі LiveKit. Усі чотири моделі доступні в публічній попередній версії через Mistral API з європейськими, американськими та глобальними кінцевими точками. Запуск на власній інфраструктурі також можливий через відділ продажів Mistral.