Новата икономика на корпоративния изкуствен интелект

Представете си, че компанията ви току-що е открила електричеството. Отначало само няколко машини работят с него и никой не се тревожи за ефективността — потреблението е ниско, а ползата е очевидна. Но след като електричеството се превърне в инфраструктура, всеки процес започва да зависи от него и въпросът се променя от „можем ли да го използваме?“ на „колко ефективно го използваме?“

Корпоративният изкуствен интелект преминава през същата промяна. Това, което започна като изолирани експерименти с чатботове и копилоти, се превръща във фундаментален слой на бизнеса, като моделите, агентите и данните все повече се свързват в производствени натоварвания. Важният въпрос вече не е колко струват един токен или един час работа на GPU. Той се превръща в това колко ефективно средата за изкуствен интелект превръща платения капацитет в полезни бизнес резултати.

Това е показателят, който си струва да се проследява: ефективна цена на полезен резултат — общите разходи за платформата, моделите, операциите и капацитета, необходими за изпълнение на работа, която бизнесът действително може да използва, независимо дали става дума за разрешено запитване или завършен работен процес.

Три начина за внедряване на изкуствен интелект

Използваемостта е в центъра на икономиката. Насочването на повече работа към платения капацитет намалява ефективната единична цена; неизползваните GPU, фрагментираните натоварвания и прекалено големите модели увеличават цената на всеки полезен резултат. Обикновено предприятията избират между три модела:

Персонализиран стек — закупуване на инфраструктура и средства за контрол вътрешно. Този подход е гъвкав, но създава постоянно натоварване, тъй като екипите трябва да валидират повторно средата при промяна на моделите и политиките.

Използване при поискване — хипермащабните доставчици намаляват необходимостта от самостоятелно изграждане и са подходящи при ниско или несигурно търсене, но таксите нарастват с всяка заявка или действие на агент.

Интегрирана частна платформа за изкуствен интелект — собствен или специално предназначен капацитет, съчетан с валидиран стек. Предимството не е безплатното инфериране, а контролът върху фактори за ефективност като планиране, избор на модел, разделяне на GPU и управление на кеша.

Подходящият модел зависи от натоварването. API интерфейсите могат да бъдат разумен избор при експериментиране или променливо търсене. Когато натоварванията станат постоянни и критични за бизнеса, предприятията трябва да преценяват не само какво потребяват, но и колко ефективно управляват системата.

Собствеността е оперативна дисциплина

Купуването на състезателен автомобил от Формула 1 и паркирането му в гаража ви означава, че притежавате едно от най-сложните превозни средства, създавани някога — но самата собственост не ви прави конкурентоспособни; все още са ви необходими пилоти, механици и време на пистата, за да оправдаете инвестицията. Инфраструктурата за изкуствен интелект работи по същия начин.

Едно от най-големите погрешни схващания в корпоративния изкуствен интелект е, че притежаването на инфраструктура автоматично подобрява икономическите показатели. Притежаването на GPU създава възможност за по-добра икономика, но само ако организацията разполага с достатъчно търсене и оперативна дисциплина, за да поддържа ресурсите продуктивни.

Инфраструктурата, която осигурява най-добра възвръщаемост на инвестицията, не е референтна архитектура или персонализирано изграждане — това е напълно интегриран, квалифициран стек, който позволява на екипите да насочват задачите към най-евтиния модел, отговарящ на изискванията за качество, и да използват повторно контекста чрез техники като управление на KV кеша, намалявайки неизползвания капацитет, като същевременно запазват бързата реакция.

Без тези практики ангажираната инфраструктура може да се превърне в неизползван капитал. С тях нарастващото търсене подобрява икономиката, тъй като фиксираните разходи се разпределят върху повече полезна работа — нещо, което става все по-важно при агентните системи, където икономиката се определя по-малко от отделната заявка и повече от ефективността на цялата среда.

От внедряване към стойност

HPE Private Cloud AI е готова за производствена употреба основа, която съчетава инфраструктура, софтуер, модели, инструменти, управление и услуги, намалявайки усилията по интегриране при експлоатацията на частен изкуствен интелект в мащаб. Архитектурата ѝ позволява на екипите да управляват планирането, избора на модел, разделянето на GPU и управлението на кеша като оперативни лостове, съобразявайки капацитета и нивата на услугата с изискванията на всяко натоварване. Тя включва и ангажимент за 90 дни с инженери, работещи непосредствено с клиентите, които помагат на екипите им да внедрят първоначални случаи на употреба и да установят повтаряеми оперативни практики.

При независимо тестване, възложено от HPE, интегрирана платформа, обслужваща множество натоварвания при висока използваемост, осигури по-ниска ефективна цена на токен в сравнение с многократното наемане на еквивалентен капацитет. Действителните резултати ще варират в зависимост от състава на натоварванията и използваемостта.

Измервайте това, което има значение

Потреблението на токени остава полезен показател, но не е цялостна мярка за икономиката на изкуствения интелект. По-пълният корпоративен поглед проследява разходите за резултат, значим за бизнеса, използваемостта на ускорителите и избора на модел спрямо сложността на задачата.

Предприятията, които вече управляват частен изкуствен интелект, трябва да се запитат доколко зряла е тяхната използваемост и как ще се промени обемът на натоварванията през следващите 12 до 18 месеца. Тези, които са в по-ранен етап, трябва да изградят тези практики още при първото внедряване, така че стратегията да предвижда растежа, преди търсенето да се превърне в тясно място.

При малко и непредвидимо търсене API интерфейсът или хипермащабният доставчик може да остане разумен избор. Но с превръщането на изкуствения интелект в непрекъсната производствена възможност предприятията имат все по-силен стимул да контролират използваемостта, да разпределят фиксираните разходи и да управляват средата като дългосрочен оперативен актив. Стратегическият въпрос не е дали предприятията ще плащат за изкуствен интелект — а дали ще разберат и в крайна сметка ще притежават икономиката, която стои зад него.

За да научите повече за HPE Private Cloud AI, посетете HPE.

Това съдържание е създадено от HPE. То не е написано от редакционния екип на MIT Technology Review.