Sakhanda Wire
NVDA $153.77 -1.52% MSFT $506.06 -2.30% GOOGL $280.21 -1.24% META $622.96 -0.55% AMZN $257.51 -0.09%

MarkTechPost

396 новини · всички източници

MarkTechPost

You.com представи Inference Router за 12 модела с отворени тегла

You.com представи Inference Router — изцяло управляван API за използване на 12 модела с отворени тегла в продукционна среда. Услугата е съвместима с OpenAI API и предлага маршрути, съвместими с Anthropic, така че съществуващ код за SDK може да бъде прехвърлен чрез промяна на базовия URL адрес и ключа. Таксуването е според употребата, без платформа такса.

MarkTechPost

Liquid AI представи RIPL за нисколатентно извеждане на LFM модели

Liquid AI представи RIPL — Real-time Inference Pipeline, двигател за извеждане, предназначен да обслужва моделите Liquid Foundation Models в пътя на заявки в реално време. Компанията заявява, че системата връща напълно генерирани отговори за под 50 милисекунди и запазва тази латентност при непрекъснат трафик с пиково натоварване. RIPL поддържа модели LFM2.5 с между 230M и 2.6B параметъра при корпоративни внедрявания с NVIDIA H100, H200, B200 и RTX PRO 6000.

MarkTechPost

Gradium публикува с отворен код речевия модел Phonon

Gradium публикува Phonon — семейство компактни модели за синтез на реч, създадени да генерират аудио локално на телефони, компютри, платки Raspberry Pi 5 и в браузъри. Английският Phonon 31m има 31 милиона параметъра, създава моно аудио с честота 24 kHz и се разпространява под лиценза Apache 2.0. Квантизираният му GGUF файл е 64,5 MB, а файлът на Phonon 40m е 74,6 MB.

MarkTechPost

Cohere представи Rerank 5 с извличане на пасажи и калибрирани оценки

Cohere представи Rerank 5 — семейство модели за пренареждане на резултати от търсене, преди те да бъдат подадени към голям езиков модел. Предлагат се нива Pro и Fast, като и двете версии имат контекстен прозорец от 32K токена и поддържат над 100 езика. Моделите обработват и полуструктурирани данни, включително JSON, таблици и YAML, без да е необходимо повторно индексиране.

MarkTechPost

Одитът на OmniParseBench открива равенство сред водещите парсери

Одит на OmniParseBench възстановява отворения бенчмарк на Datalab за парсери на документи, използвайки публикуваните файлове с резултати за 27 парсера. Системата оценява изхода чрез 16 288 теста с отговор „преминал“ или „непреминал“, разпределени в 2 937 страници. Наборът включва сканирани формуляри, ръкописен текст, математически материали от arXiv и сложни таблици.

MarkTechPost

IBM представи Granite Speech 5.0 2B за многоезична обработка на реч

IBM представи Granite Speech 5.0 2B — отворен модел за разпознаване и превод на реч на шест езика. Моделът има 2 милиарда параметъра и се разпространява под Apache 2.0. Той може да работи на графични процесори чрез Transformers или vLLM, на Apple Silicon с mlx-audio и локално чрез llama.cpp с GGUF. IBM препоръчва аудио сегменти с продължителност около две минути или по-малко.

MarkTechPost

JOLT обучава един модел едновременно като учител и ученик

Perplexity и изследователи от NVIDIA представиха JOLT — метод за постобучение на езикови модели, чието име означава Joint On-policy Learning and Teaching. Една и съща споделена модель изпълнява две роли. Учителят получава привилегирована информация, като проверен отговор или решение, докато ученикът вижда само задачата. За разлика от OPSD, JOLT обучава и учителя чрез награда за крайния резултат и KL ограничение, което го държи близо до политиката на ученика.

MarkTechPost

Речевият модел Whistle е тестван срещу Whisper на CPU

Програмен наръчник оценява Whistle — модел за преобразуване на реч в текст от Cactus Compute с размер 16,9 MB, който работи на CPU. Моделът транскрибира седем езика и предоставя времеви маркери и вероятности за отделните думи. В картата на модела се твърди, че той превъзхожда Whisper base върху LibriSpeech; наръчникът проверява това с еднакви записи от тестовите извадки test-clean и test-other.

MarkTechPost

NVIDIA Nsight Python пренася профилирането на GPU ядра в Python

NVIDIA Nsight Python е интерфейс с отворен код за директно профилиране на GPU ядра от Python. Разработчиците обозначават избрания код с nsight.annotate и добавят nsight.analyze.kernel към тестова функция. Полученият обект ProfileResults може да се преобразува в pandas DataFrame с хардуерни показатели за всяка анотирана област, конфигурация и изпълнение, без отделно стартиране на скрипт чрез командния ред и последващо разглеждане на отчет.

MarkTechPost

Recursive представи Flint, локален 40B модел за кодиращи агенти

Recursive Superintelligence представи Flint — първия си модел и система за локално кодиране, предназначена за агенти. Flint е текстов decoder-only Transformer с архитектура mixture-of-experts, 39,8 млрд. общи параметри и около 2,5 млрд. активни параметри за всеки токен. Теглата са публикувани под лиценза Apache 2.0. В картата на модела е посочен контекст от 262 144 токена, а в блога на компанията се споменава поддръжка до 512k токена.

MarkTechPost

Vercel пусна durable-harness за устойчиви на сривове кодиращи агенти

Vercel представи durable-harness — пакет с отворен код за запазване на сесиите на кодиращи агенти при сривове, изтичане на време или повторно разгръщане на функции. Той обвива съществуващи harness-и, без да ги променя, и предлага адаптери за Pi, OpenCode, fx, Claude Code и Codex. Пакетът за npm е с лиценз Apache-2.0 и експериментален API от версия 0.0.x.

MarkTechPost

Mistral AI представи Voxtral 3 и SDK за гласови агенти

Mistral AI представи Voxtral 3 — семейство от три модела за транскрипция, един модел за преобразуване на текст в реч и SDK за гласови агенти, изграден върху LiveKit. Четирите модела са в публичен предварителен преглед чрез Mistral API с европейски, американски и глобални крайни точки. Предлага се и внедряване в собствена инфраструктура чрез отдела за продажби на Mistral.