PrismML адаптира малки езикови модели за умни очила на Qualcomm
AI лабораторията PrismML е разработила версия на компактните си езикови модели за умни очила с чипове Qualcomm Snapdragon. Лабораторията е основана от изследователи от Caltech и е консултирана от Иън Стоика от UC Berkeley. На Snapdragon Summit Qualcomm представи нейния 1-битов Bonsai LLM, който може да работи локално върху очила, изградени на платформата Snapdragon AR1 Gen 1.
Моделът за очилата има 2 милиарда параметъра и е настроен за задачи, свързани със зрение и език. Така потребителите могат да питат в реално време какво виждат. PrismML е известна с това, че намалява размера на по-големи модели четирикратно, като според представянето ѝ запазва почти цялата им производителност при стандартни тестове.
По-широката цел на лабораторията е отворени по отношение на теглата AI модели да работят директно на устройства и да използват по-добре наличната им изчислителна мощност. PrismML представя този подход като алтернатива на зависимостта от частни AI лаборатории и нарастващите им нужди от изчисления. Все още няма обявени умни очила, работещи с PrismML.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.