Sagence AI, enerji, maliyet ve ölçeklenebilirlik sorunlarını ele alan gelişmiş bir analog bellek bazlı hesaplama yapı mimarisi tanıttı. Analog tabanlı yaklaşım kullanarak, mimari, enerji verimliliğinde ve maliyet etkinliğinde iyileştirmeler sunarken mevcut yüksek seviyeli GPU ve CPU sistemlerine kıyasla benzer performans sunar. Bu cesur adım, Sagence AI’ı Nvidia’nın hakim olduğu bir pazarda potansiyel bir devrimci konumuna getiriyor.

Sagence mimarisi, Llama2-70B gibi büyük dil modelleri işlerken faydalar sunar. Sagence’nin teknolojisi, 666.000 token/s’ye normalleştirildiğinde, önde gelen GPU tabanlı çözümlere kıyasla sonuçlarını 10 kat daha düşük güç tüketimi, 20 kat daha düşük maliyet ve 20 kat daha küçük raf alanı ile sunar. Bu tasarım, veri merkezlerinde AI hesaplama odak değişikliğini yansıtarak eğitimi geçersiz kılar.

Sagence’in yeniliğinin temelinde bellek hücreleri içinde depolama ve hesaplama birleştiren analog bellek içi hesaplama teknolojisi yatar. Bu yaklaşım, ayrı depolama ve planlanmış çarpma-sonuç devreleri gereksinimini ortadan kaldırarak, çip tasarımlarını basitleştirir, maliyetleri düşürür ve güç verimliliğini arttırır. Sagence ayrıca, ölçeklenebilir AI çıkarımı için gereken verimlilik kazanımlarını elde etmek için çok seviyeli bellek hücrelerinde derin alt eşik hesaplama kullanıyor.

Geleneksel CPU ve GPU tabanlı sistemler kompleks dinamik planlama kullanırken, Sagence’nin statik olarak planlanmış mimarisi bu süreçleri basitleştirir ve biyolojik sinir ağlarını yansıtır. Sistem aynı zamanda PyTorch, ONNX ve TensorFlow gibi mevcut AI geliştirme çerçeveleri ile entegre olacak şekilde tasarlanmıştır. Eğitilen sinir ağları içe aktarıldığında, Sagence mimarisi, GPU tabanlı işleme ihtiyacını ortadan kaldırarak dağıtımı basitleştirir ve maliyetleri düşürür.

IEEE Spectrum üzerinden haberin devamını okumak için:

https://www.sagenceai.com/news

DİĞER İÇERİKLER:
– RTX 4000 serisini unutun, RTX 3060 ile tanışın!
– Gigabyte’ın yeni RTX 4090’ı grafik kartlarının en büyük sorununu çözüyor.
– ChatGPT’yi canlandıran Nvidia GPU ile tanışın.