PrismML адаптувала малі мовні моделі для окулярів Qualcomm
Лабораторія штучного інтелекту PrismML розробила версію своїх компактних мовних моделей для розумних окулярів із чипами Qualcomm Snapdragon. Її заснували дослідники Caltech, а радником лабораторії є Іон Стойка з Каліфорнійського університету в Берклі. На Snapdragon Summit Qualcomm продемонструвала 1-бітну модель Bonsai LLM, яка може працювати безпосередньо на окулярах із платформою Snapdragon AR1 Gen 1.
Версія для окулярів має 2 мільярди параметрів і налаштована на роботу із зором та мовою. Це дає змогу користувачам у реальному часі запитувати, що вони бачать. PrismML відома підходом, за якого великі моделі зменшуються вчетверо, водночас зберігаючи майже всю їхню продуктивність у стандартних тестах.
Ширша мета лабораторії — створювати моделі з відкритими вагами, які працюють на пристроях і краще використовують доступні обчислювальні ресурси. PrismML подає це як альтернативу залежності від закритих AI-лабораторій та їхньої постійної потреби в додаткових обчисленнях. Підтримка чипа Qualcomm є кроком у цьому напрямі, але окуляри з PrismML поки не анонсували.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.