Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← Към новините

PrismML свива модел за разсъждение до размер за лични устройства

Стартъпът за изкуствен интелект PrismML представи Bonsai 2 27B — компресирана версия на отворения модел Qwen3.8 27B на Alibaba. Моделът заема 5,9 GB, или приблизително девет до десет пъти по-малко памет от оригинала. Според компанията това може да позволи работата му на персонални компютри и евентуално на смартфони от висок клас. Главният изпълнителен директор Babak Hassibi не коментира съобщенията, че PrismML води разговори с Apple.

PrismML е основана от изследователи от Caltech и се ръководи от Hassibi, професор и специалист по технологии за компресиране. Съветник на компанията е Ion Stoica, съосновател на Databricks и директор на Sky Computing Lab към Berkeley. Сред инвеститорите са Khosla Ventures, Cerberus Capital и Caltech, а стартъпът е набрал $22,25 милиона в начален кръг.

PrismML съобщава, че Bonsai 2 постига 98% от общия резултат на Qwen в тестовете, спрямо 95% за първия Bonsai, пуснат през март. Този модел е изтеглен над 11 милиона пъти, а по-малките модели на компанията — още 2,6 милиона пъти. Технологията заменя стандартните 16-битови тегла с тринарни стойности +1, −1 или 0. Следващата цел са модели със стотици милиарди параметри.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини