Microsoft-un dəstəyi ilə startup şirkəti, generativ AI üçün GPU’suz alternativlər təqdim edirAIDIMC memarlığı 150 TB/s ultra-yüksək yaddaş bandlıq təklif edir.

Santa Klerada yerləşən California ərazisində əhəmiyyətli bir AI prosessoru, Corsair-i təqdim edən d-Matrix Inc. adlı hardware startup şirkəti, ilk işini tanıtdı. Microsoft tərəfindən dəstəklənən və son texnologiyalardan istifadə edən Corsair, gelenək mühəndislərə və bahalı yüksək bantlıq yaddaşa (HBM) köklü bir şəkildə rücə çıxır, ciddi performans və maliyyə sərfələr təmin edir. Corsair hal-hazırda erken giriş müştərilər üçün mövcuddur, daha geniş yayılma ikinci çəyrdə planlaşdırılır 2025-ci ilin ikinci çəyri üçün.

Corsair’in performansı AI inference’i yenidən tərif edir.
Corsair prosessoru tələbəsiz AI inference tapşırıqları idarə etmək üçün xüsusi olaraq hazırlanmışdır, xüsusən də generativ AI model verilənləri üçün. Məsələn, Llama3 8B-in bir serverdə işlədikdə saniyədə 60.000 token 1 ms token əldə edir. Daha geniş resurs-tarixli mənzərələrdə, məsələn, bir çekmədə Llama3 70B modelləri ilə Corsair, gelenək mühəndislərə nisbətən sərfə mühəndislik və əmələ gətirilən miqdar cəhdləri ilə saniyədə 30.000 token 2 ms token əldə edir. Nighthawk və Jayhawk II plitkalarında tikilmiş Corsair, 6nm istehsal prosesində işləyir. İstehsal nakhirkəşləri nəşir və bir RISC-V CPU, daxili yaddaşda hesablama (DIMC) və block floating point (BFP) daxili növ işləmə, əksinə hala əvvəlki çiplərə nisbətən enerji və əməliyyat xərclərinə göstərilən əsas qənaətinin bu qədər sulandırılmasına səbəb olur. Corsair çiplə paketləşməsini qəbul edir, yaddaş və hesablamanın effektivliyini maksimuma çatdırmaq üçün. O, sənaye standartı PCIe Gen5 tam hündürlükdə tullama kart formalarına uyğun şəkildə tikilmişdir və məxz performance yaddaşın 2GB və 256GB off-un integrated off-chip yaddaş kapasiteti ilə sizin üçün ayağından sürətli dirçətlin avtomobil hissə tullama kartları ilə təmin olunur. Hər bir kart DMX-Mostlarında 2400 TFLOPs 8-bit pik hesablama, ultra-güclü ölçülər dəstəkləyir. Önəmli olan nöqtə budur ki, Nvidia ilə əsas tərəfdaşı olan Micron Technology, d-Matrix ilə hamiləşdi. Əvvəlcə 2023-cü ilin sonunda start vermək üçün nizamlandırılan yarışda, d-Matrix, generativ AI üçün dərin insidentsiyaların talebinə cavab olaraq memarlığını yenidən yapılandırdı. Bu qayda Corsair’i transformator modellər və agentic AI kimi yeni tətbiqlər üçün xüsusi avadanlıqlara sahib hala gətirir. “Biz transformerləri və generativ AI-nı gördük və d-Matrix-i zamanın ən böyük kompüterlər fərsahlarını müəyyən etmək məqsədi ilə qurduq” – dedi d-Matrix-in əməkdaşı və CEO-su Sid Sheth. ”Bu növ Corsair hesablama platformu turbo hızlı token generasiyasını bahalı təklif edən interaktiv təxribə ilə yüksək interaktivliyə sahib tətbiqatlar.” Sheth şərh etdi. Via eeNews
Siz belələrini də xahiş edə bilərsiniz
Ən yaxşı prosessorların bax pornolara
İş noutbukların ən yaxşısını çəkkənin
Operativ silolar daha çox şirkətlərin qopanmasına səbəb ola bilər gelecekdə