Sakhanda Wire
NVDA $153.73 -1.54% MSFT $506.30 -2.26% GOOGL $280.09 -1.28% META $619.28 -1.14% AMZN $256.62 -0.44%

MarkTechPost

396 новостей · все источники

MarkTechPost

Buoyant выпустила Kinference для управления inference в Kubernetes

Компания Buoyant представила Kinference — проект с открытым исходным кодом и лицензией Apache 2.0 для построения inference-платформ на Kubernetes с vLLM. Система на Rust размещается перед группой vLLM workers и выбирает конечную точку для каждого запроса. Она объединяет декларативную маршрутизацию, ограничения скорости по токенам, балансировку с учетом KV-кэша и метрики по tenant. Текущий выпуск — v0.1.0-alpha.7; конфигурация задается пятью пользовательскими ресурсами Kubernetes.

MarkTechPost

Zyphra выпустила FP8-ядра внимания для AMD MI355X

Zyphra представила ZYFA — библиотеку с открытым исходным кодом, содержащую ядра внимания prefill в форматах FP8 и BF16 для ускорителей AMD Instinct MI355X. Проект распространяется по лицензии Apache 2.0 и рассчитан на каузальное forward-внимание при работе с длинным контекстом. Поддерживаются FP8 e4m3, BF16, размерность головы 128 и формы MLA 192/128. Библиотека работает на MI355X с ROCm 7.2.3 и PyTorch 2.12 и предоставляет совместимый с flash_attn_func интерфейс.

MarkTechPost

Thinking Machines Lab выпустила Inkling 2 Small на 594 млрд параметров

Thinking Machines Lab представила Inkling 2 Small — первую модель второго поколения Inkling. Это разреженная архитектура Mixture-of-Experts с 594B параметров в общей сложности и 17B активных параметров. Модель принимает текст и изображения, позволяет менять интенсивность рассуждений и поддерживает контекст длиной 1M токенов. Работа со звуком пока не поддерживается.

MarkTechPost

Google выпустила Gemini Omni 1.2 Flash для 15-секундного видео

Google выпустила Gemini Omni 1.2 Flash — мультимодальную модель для генерации и редактирования видео. Она принимает текст, изображения, короткие видеоклипы и аудио, а на выходе создает видео со звуком. Модель доступна через Gemini API и Google Cloud. Ее веса закрыты, поэтому локальное развертывание не предусмотрено.

MarkTechPost

Baidu выпустила базовую модель ERNIE 5.5 Flash на 280 млрд параметров

Baidu выпустила ERNIE 5.5 Flash Base — текстовую разреженную модель Mixture-of-Experts с 280 млрд параметров, из которых для каждого токена активируются 14 млрд. Опубликованный чекпойнт содержит только результат предварительного обучения, без промежуточного и последующего обучения. По данным Baidu, модель обучали с нуля на 33,5 трлн токенов с оптимизатором Muon. Длина контекста при обучении составляет 128K токенов, а для дообучения и инференса — до 1 млн токенов.

MarkTechPost

Together AI представила компилятор для постоянной оптимизации инференса

Together AI представила Together Compiler (TKCC) — систему с агентами, которая повторно оптимизирует прямой проход инференса по мере изменения производственного трафика. На вход она получает команду запуска сервера, профиль трафика и конфигурацию оборудования. Агенты, пишущие код, предлагают варианты, а постоянно работающий сервер измеряет их и может внедрить наиболее быстрый. По данным компании, система уже используется на нескольких её serverless-эндпоинтах.

MarkTechPost

OpenAI выпустила модели GPT-Image-2.6 Flare и Sunburst

OpenAI представила Images 2.6 для ChatGPT, Codex и API. Для разработчиков семейство GPT-Image-2.6 доступно в двух вариантах: Flare рассчитан на быстрые итерации и интерактивные сценарии, а Sunburst — на детальные композиции и более стабильное редактирование. По данным OpenAI, генерация изображений стала на 50% быстрее предыдущей версии. При низком качестве Flare способен вернуть результат всего за шесть секунд.

MarkTechPost

Google Research представила Agile Deliberation для субъективной классификации изображений

Google Research выпустила Agile Deliberation — фреймворк с участием человека для создания классификаторов изображений в случаях, когда границы категории зависят от субъективной оценки. Среди возможных задач — определение «здоровой еды», вдохновляющего искусства или кликбейта. Пользователю не нужно заранее формулировать полное понятие: система помогает уточнить его на примерах пограничных изображений. Итоговое определение одновременно является понятной человеку политикой и текстовой инструкцией для визуально-языковой модели.

MarkTechPost

webAI выпустила модель рассуждений TwIL-8B

Компания webAI выпустила TwIL-8B — плотную модель рассуждений с 8,79 млрд параметров, дообученную на базе IBM Granite 4.2 8B. Модель принимает и выдает только английский текст, поддерживает контекст длиной 131 072 токена и распространяется по лицензии webAI Non-Commercial 1.0. Сборка Q4_K_M в формате GGUF занимает 4,98 GiB, поэтому модель можно запускать локально на CPU или GPU с умеренным объемом видеопамяти. Полные веса bf16 занимают 16,38 GiB.

MarkTechPost

Ricursive выпустила 65B-модель для агентного программирования

Ricursive Intelligence выпустила Ripple-65B Preview — плотную языковую модель с 65 млрд параметров, обученную с нуля для агентного программирования. Модель обучалась на 12 трлн токенов, поддерживает контекст до 1 млн токенов и распространяется по лицензии Apache 2.0. В релиз вошли BF16-версия с дообучением по инструкциям, экспериментальная версия NVFP4 и базовая BF16-модель.

MarkTechPost

Tencent выпустила WeVisOne-VL для объединения задач компьютерного зрения

Команда WeChat Vision компании Tencent выпустила WeVisOne-VL — зрительно-языковую модель с лицензией Apache 2.0 в вариантах 2B и 4B. Она объединяет обнаружение объектов, референтный поиск, подсчёт, указание, OCR, сегментацию и альфа-маттинг. За пиксельные результаты отвечает декодер на 9.6M параметров, поэтому отдельная модель SAM не требуется. Если запрошенный объект отсутствует, система может вернуть None, а не построить ошибочную рамку.

MarkTechPost

Anthropic представила FlashProve для проверяемого вывода моделей

Команда Frontier Red Team компании Anthropic представила FlashProve — открытый исследовательский прототип на основе zkSNARK, который доказывает, что ответ был создан конкретной моделью с заранее зафиксированными весами. Доказательство не раскрывает веса модели. Система предназначена для решения проблемы API-сервисов: пользователь не может самостоятельно проверить, какая модель сформировала ответ и не изменялся ли поток токенов.