Sagence AI, enerji məhsuldarlığı, maliyyəyyat və miqyaslanabilirlilik məsələlərini həll etmək məqsədi ilə dizayn olunmuş yeni nümunəvi analog iç yaddaş hesablama mimarisi təqdim edib.AI-ınferensiyada istifadə olunan bu mexanika yanaşması, məlumat emalı və maliyyə effektivliyini ciddi dərəcədə yaxşılaşdırır və effektivlik yüksək olan GPU və CPU sistemlərinə uyğun performansı təmin edir.Bu cəsarətli addım Sagence AI-ı Nvidia tərəfindən hərəmeyə nəzarət edilən bir bazarın potensial müxəyyənləşdiricisi kimi mövqeləndirir.

İxrac və performans
Sagence arxitekturu Llama2-70B kimi böyük dil modellərini işlədikdə bir çox faydalar təklif edir. 666,000 token hər saniyədə normalize olunduğunda, Sagence texnologiyası başqa GPU əsaslı lider həllərə nisbətən 10 dəfə aşağı enerji sərfiyyatı, 20 dəfə aşağı maliyyələr və 20 dəfə kiçik raf sahə ilə nəticələrini verir. Bu dizayn AI müraciətlərinin geniş deploymanı üçün yatırımın geri qaytarılmasının təmin edilməsi məsələsinin həllində effektivliyi və maliyyəlliyi ilə təmin edir.

Sagence’nin inkişafının əsasında depo və hesablama işləmlərini yaddaş hüceyrələri daxilində birləşdirən analog iç yaddaş hesablama texnologiyası yer alır. Bu yanaşma, müxtəlif depo və proqramların ayrı-ayrılığının və proqramların cədvəlli vurma-compromise döngüsünün lazım olmadığı üçün cip dizaynlarını basitləşdirir, xərcləri azaldır və enerji sərfliyini artırır. Via IEEE Spectrum.