Инференцията на AI създава нарастващ и пренебрегван разход за съхранение
Разходите за AI инфраструктура често се свързват с графичните процесори и електроенергията за тяхната работа, докато съхранението на данните след отговорите на моделите остава по-слабо отчетено. Инференцията протича непрекъснато, а след всяка заявка могат да се натрупват подсказки, изображения, видеоклипове, журнали, кеширан контекст, рендери, резервни копия и записи за безопасност.