PrismML переносит свои крошечные LLM на умные очки с чипами Qualcomm

Лаборатория искусственного интеллекта PrismML, основанная исследователями из Калтеха и консультируемая Ионом Стоикой из Калифорнийского университета в Беркли, создала версию своих компактных языковых моделей для умных очков на чипах Qualcomm Snapdragon.

В среду на саммите Snapdragon Summit компания Qualcomm продемонстрировала 1-битную большую языковую модель Bonsai от PrismML, которая может работать локально на умных очках с ИИ, созданных на базе платформы Snapdragon AR1 Gen 1.

Как ранее сообщал TechCrunch, главное достижение PrismML заключается в значительном уменьшении крупных моделей (в данном случае — в 4 раза) при сохранении почти всей их производительности в стандартных тестах. Версия для умных очков — это модель с 2 миллиардами параметров, настроенная для работы со зрением и языком, поэтому пользователи смогут в режиме реального времени спрашивать, на что они смотрят.

Более масштабная цель Prism — создать ИИ с открытыми весами, который работает на устройствах и эффективнее использует имеющиеся у них вычислительные ресурсы. Стартап представляет это как альтернативу зависимости от обещаний конфиденциальности со стороны закрытых ИИ-лабораторий и их ненасытной потребности во всё больших вычислительных мощностях.

Выпуск модели для чипа Qualcomm — шаг к реализации этого видения. Однако умные очки с PrismML пока не анонсированы.