PrismML свива модел за разсъждение до размер за лични устройства
Стартъпът за изкуствен интелект PrismML представи Bonsai 2 27B — компресирана версия на отворения модел Qwen3.8 27B на Alibaba. Моделът заема 5,9 GB, или приблизително девет до десет пъти по-малко памет от оригинала. Според компанията това може да позволи работата му на персонални компютри и евентуално на смартфони от висок клас. Главният изпълнителен директор Babak Hassibi не коментира съобщенията, че PrismML води разговори с Apple.
PrismML е основана от изследователи от Caltech и се ръководи от Hassibi, професор и специалист по технологии за компресиране. Съветник на компанията е Ion Stoica, съосновател на Databricks и директор на Sky Computing Lab към Berkeley. Сред инвеститорите са Khosla Ventures, Cerberus Capital и Caltech, а стартъпът е набрал $22,25 милиона в начален кръг.
PrismML съобщава, че Bonsai 2 постига 98% от общия резултат на Qwen в тестовете, спрямо 95% за първия Bonsai, пуснат през март. Този модел е изтеглен над 11 милиона пъти, а по-малките модели на компанията — още 2,6 милиона пъти. Технологията заменя стандартните 16-битови тегла с тринарни стойности +1, −1 или 0. Следващата цел са модели със стотици милиарди параметри.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.