Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← До новин

PrismML адаптувала малі мовні моделі для окулярів Qualcomm

Лабораторія штучного інтелекту PrismML розробила версію своїх компактних мовних моделей для розумних окулярів із чипами Qualcomm Snapdragon. Її заснували дослідники Caltech, а радником лабораторії є Іон Стойка з Каліфорнійського університету в Берклі. На Snapdragon Summit Qualcomm продемонструвала 1-бітну модель Bonsai LLM, яка може працювати безпосередньо на окулярах із платформою Snapdragon AR1 Gen 1.

Версія для окулярів має 2 мільярди параметрів і налаштована на роботу із зором та мовою. Це дає змогу користувачам у реальному часі запитувати, що вони бачать. PrismML відома підходом, за якого великі моделі зменшуються вчетверо, водночас зберігаючи майже всю їхню продуктивність у стандартних тестах.

Ширша мета лабораторії — створювати моделі з відкритими вагами, які працюють на пристроях і краще використовують доступні обчислювальні ресурси. PrismML подає це як альтернативу залежності від закритих AI-лабораторій та їхньої постійної потреби в додаткових обчисленнях. Підтримка чипа Qualcomm є кроком у цьому напрямі, але окуляри з PrismML поки не анонсували.

Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням TechCrunch

Читати оригінал на TechCrunch ↗

Репортаж і зображення належать TechCrunch і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини