Dünyadakı ən sürətli AI çipi istehsal edən şirkətin DeepSeek lansmanı ilə dikkat çəkdiCerebras iddia edir ki, həll 57 dəfə daha sürətli olacaq, amma hangi GPU-lar olduğunu demirilmir.DeepSeek R1 Cerebras buludunda işləyəcək və məlumatlar ABŞ-da qalacaq.

Cerebras, hər kəs üçün olduğu kimi DeepSeekə də dəstək verəcəyini elan edib, daha dəqiq olaraq R1 70B əsasinda işləyən modeli. Həm Groq və Microsoftun yenilikçi AI alətinə özlərindəki buludlarda yer verəcəyini təsdiqləmələrindən sonra bu addımı atdılar. AWS və Google Cload-un hələ də eyni addımı atmamış olsa da, hər kəs istədikləri yerdə, hətta yerli olaraq açıq mənbə modelini işləyə bilər.

AI qərr chip specialists olan şirkət DeepSeek R1 70B-i saniyədə 1,600 token-da işlədəcəyini iddia edir və bu da GPU istifadə edən hər hansı bir R1 təminatçısından 57 dəfə sürətli olduğunu iddia edir; bu isə GPU-in-the-cloud həllinin (bu halda DeepInfra) çatdığı görünən kimi 28 token/saniyə olduğunu təxmin edə bilərik. Təsadüfi olaraq, Cerebras son çipi H100-dən 57 dəfə daha böyükdür. Bu iddiaya dair daha ətraflı məlumat almaq üçün Cerebras-ın müraciət etdim.

Cerebras tərəfindən aparılan tədqiqatlar da göstərir ki, DeepSeek bir neçə testdə OpenAI modellərindən daha dəqiqdir. Model ABŞ-lı məlumat mərkəzlərində Cerebras texnikası üzərində işləyəcək, çox sayda ekspertlərin ifadə etdikləri məxfilik narahatlıqlarını yatışdırmaq üçün. DeepSeek – proqram – məlumatınızı (və metadata-nızı) Ɔinzberlina göndərəcək, burada ən çox nəzərdə tutulacaq yerləndiriləcəkdir. Təəssüflər olsun ki, əksər proqramlar – xüsusilə pulsuz olanlar – istifadəçi məlumatlarını rəsmi səbəblər üçün əsas tuturlar.

Cerebras-nın vasitə qatı özəcikləndirmə boomundan faydalanmaq üçün unikal mövqeyə qoymaqdadır. Dünyadakı sürətli AI çipi (və ya HPC acceleratörü) olan WSE-3, təxminən bir milyon çirki və dörd trilyon tranzistora malikdir. Lakin əsasən 44GB SRAM olmasına diqqət çəkir, bu da Nvidia GPU-larında tapılan HBM-dən hətta daha sürətlidir