Sakhanda Wire
NVDA $153.75 -1.53% MSFT $506.06 -2.30% GOOGL $279.99 -1.31% META $621.17 -0.84% AMZN $257.88 +0.05%

MarkTechPost

396 новин · усі джерела

MarkTechPost

llm-d 1.0 додає маршрутизацію з урахуванням кешу для ШІ-інференсу

Google, Red Hat та IBM випустили llm-d 1.0 — першу стабільну версію відкритого Kubernetes-нативного стеку для розподіленого інференсу великих мовних моделей. Він об’єднує сервери vLLM і SGLang у спільний пул для самостійно розгорнутих агентних і reinforcement learning навантажень. Проєкт є частиною CNCF Sandbox, поширюється за ліцензією Apache 2.0 і має понад 500 учасників із більш ніж 25 організацій.

MarkTechPost

Google відкрила код TorchTPU для нативного PyTorch на Cloud TPU

Google відкрила вихідний код TorchTPU — бекенду PyTorch для Cloud TPU, створеного спільно з командою PyTorch компанії Meta. Проєкт представили на PyTorch Conference 2026 20 жовтня 2026 року. Наявний код PyTorch може використовувати TPU через torch.device("tpu"), тому TPU стали нативним пристроєм поряд із CPU та GPU. Google рекомендує TorchTPU для нових робочих навантажень як заміну PyTorch/XLA.

MarkTechPost

DeepSeek відкрила код фреймворку інференсу DeepInfer

DeepSeek опублікувала DeepInfer — фреймворк інференсу, який використовується для роботи DeepSeek-V4.1-Flash у виробничому середовищі. Проєкт поширюється за ліцензією Apache 2.0, а шар кодування й декодування токенів deepseek-recipe — за ліцензією MIT. DeepInfer призначений для офлайн-інференсу та підтримує одну модель із контекстом у 1M токенів.

MarkTechPost

Exa 3.0 заявила про лідерство у восьми тестах пошуку

Компанія Exa представила Exa 3.0 — оновлення розміщеного API для вебпошуку, призначеного для ШІ-агентів. Версія містить більшу embedding-модель, розмір якої не розкрито, і розширений незалежний індекс, який створює власний краулер Exa. Він охоплює понад 2 трлн URL-адрес і 100 млрд сторінок.

MarkTechPost

Cloudflare представила Clairic для вилучення даних у Workers AI

Cloudflare відкрила попередній доступ до Clairic — моделі System One для вилучення структурованих даних із тексту та зображень. Модель не генерує звичайний текст, а повертає значення визначених типів: числа, дати, тривалості, списки, оцінки й прогнози. Запит може містити текст, до чотирьох зображень і набір іменованих полів з інструкціями природною мовою. Для кожної скалярної відповіді вказуються рівень упевненості та p_null — імовірність відсутності значення. Текстові результати можуть містити точні фрагменти й позиції символів, а прогнози — медіану та 80% інтервал.

MarkTechPost

Inception випустила дифузійну мовну модель Mercury 3

Компанія Inception випустила Mercury 3 — велику дифузійну мовну модель, яка формує відповіді паралельним уточненням, а не генерує токени послідовно. Inception заявляє швидкість 1 068 токенів за секунду на графічних процесорах NVIDIA та контекстне вікно на 1 мільйон токенів. Кількість параметрів і точну конфігурацію GPU не розкрито. Модель доступна через API, без відкритих ваг і квантизованих версій.

MarkTechPost

Nace AI випустила Drex Max для агентів, що керують комп’ютерами

Nace AI випустила Drex Max — мультимодальну модель ухвалення рішень для агентів, які працюють із комп’ютерами та браузерами. Модель аналізує текст і зображення та повертає калібровані ймовірності, але не генерує текст. Користувач передає стан системи й типізовані запитання з наперед заданими варіантами: так або ні, вибір мітки чи оцінка за впорядкованою шкалою. Один виклик API підтримує до 16 запитань.

MarkTechPost

MiniMax випустила MoE-модель M3.1 Flash із мільйоном токенів контексту

MiniMax випустила M3.1 Flash — мультимодальну модель з архітектурою mixture-of-experts, яка має 428B параметрів загалом і приблизно 23B активних параметрів. Модель приймає текст, зображення та відео, генерує текст і підтримує контекст обсягом 1 000 000 токенів. Її призначено для програмування, агентних офісних завдань і візуального міркування. Попередня збірка M3.1 Flash під назвою Space Bunny опрацювала понад 200T токенів.

MarkTechPost

NVIDIA відкрила Run:ai за ліцензією Apache 2.0

NVIDIA опублікувала повну платформу Run:ai для оркестрації GPU-навантажень за ліцензією Apache 2.0. Вихідний код доступний на GitHub і містить керівний рівень, кластерні сервіси, інсталятор, командний інтерфейс і MCP-сервер. Run:ai працює поверх Kubernetes або OpenShift із GPU NVIDIA та керує завданнями розробки, навчання й інференсу, не замінюючи Kubernetes.

MarkTechPost

Mistral AI випустила сімейство моделей прогнозування Timestral

Mistral AI представила Timestral — своє перше сімейство базових моделей для часових рядів. До нього входять чотири моделі прогнозування без донавчання: на 5M, 28M, 123M і 209M параметрів. Найбільша модель підтримує контекст до 32 768 часових кроків і працює на стандартному серверному CPU без GPU. Ваги доступні за модифікованою ліцензією MIT, зазначає компанія.

MarkTechPost

TinyFish скасовує плату за пошук, але обробка моделлю залишається платною

Під час читання вебсторінок AI-агенти мають два окремі види витрат: оплату пошукового запиту або отримання сторінки та обробку моделлю отриманого вмісту, міркувань і відповіді. TinyFish не стягує плату за Search і Fetch у межах оприлюднених лімітів, однак завантажені сторінки все одно споживають токени й збільшують витрати на модель. Обмеження становлять 30 запитів Search на хвилину і 500 на годину, а також 150 URL для Fetch на хвилину і 1000 на день. Agent і Browser оплачуються окремо.

MarkTechPost

Google Research відкрила Harness² для вдосконалення ШІ-агентів

Google Research відкрила вихідний код Harness² — фреймворку Apache-2.0, який змінює код і файли навколо замороженої моделі, не оновлюючи її ваги. Рішення має вісім компонентів, доступних для редагування: системний промпт, обмеження, пам’ять, інструкції для інструментів, субагенти, навички, скрипти та плагіни. Версія 0.1.0 працює в Linux із Python 3.12 або 3.13 та uv, а виклики моделей здійснюються через Vertex AI.