PrismML пренася своите миниатюрни LLM в умни очила с процесори Qualcomm

AI лабораторията PrismML — основана от изследователи от Caltech и консултирана от Йон Стоица от UC Berkeley — създаде версия на своите малки езикови модели за умни очила, работещи с чипове Snapdragon на Qualcomm.

В сряда, по време на Snapdragon Summit на Qualcomm, производителят на чипове представи 1-битовия Bonsai LLM на PrismML, който може да работи локално на умни очила с изкуствен интелект, изградени върху платформата Snapdragon AR1 Gen 1.

Както TechCrunch съобщи по-рано, заслугата на PrismML е, че значително намалява размера на по-големите модели (в този случай четири пъти), като същевременно запазва почти цялата им производителност при стандартни бенчмаркове. Версията за умни очила е модел с 2 милиарда параметъра, оптимизиран за зрение и език, така че потребителите да могат да питат какво виждат в реално време.

По-голямата цел на Prism е AI с отворени тегла, който работи на устройства и използва по-добре изчислителната мощ, с която те вече разполагат. Стартъпът представя това като алтернатива на зависимостта от обещанията за поверителност на частните AI лаборатории и ненаситната им нужда от повече изчислителни ресурси.

Пускането на модел за чипа на Qualcomm е стъпка към тази визия. Но все още не са обявени умни очила, работещи с PrismML.