Notice: Function _load_textdomain_just_in_time was called incorrectly. Translation loading for the fast-indexing-api domain was triggered too early. This is usually an indicator for some code in the plugin or theme running too early. Translations should be loaded at the init action or later. Please see Debugging in WordPress for more information. (This message was added in version 6.7.0.) in /home/u166456357/domains/ictreview.com/public_html/wp-includes/functions.php on line 6114
Neuer Slim-Llama-Chip revolutioniert Sprachmodelle - Energieeffizienz durch Quantisierung! - ictreview.com Neuer Slim-Llama-Chip revolutioniert Sprachmodelle - Energieeffizienz durch Quantisierung! - ictreview.com

Neuer Slim-Llama-Chip revolutioniert Sprachmodelle – Energieeffizienz durch Quantisierung!

Posted by:
Furkan YURDAKUL
Technologie-Nachrichten
Di., 17 Dez.
0 Comment
Feature image

Das Korea Advanced Institute of Science and Technology (KAIST) hat den Slim-Llama-Chip entwickelt, der die Energieeffizienz bei großen Sprachmodellen verbessert. Die ASIC verwendet binäre/ternäre Quantisierung, um den Energiebedarf zu senken und die Effizienz zu steigern. Mit einer Leistungsaufnahme von 4.69mW bis 82.07mW und Unterstützung für Modelle mit bis zu 3 Milliarden Parametern bietet Slim-Llama sowohl Effizienz als auch Leistung. Die Technologie wird voraussichtlich auf der IEEE International Solid-State Circuits Conference in San Francisco vorgestellt.

Tags:

0 0 votes
Article Rating
Abonnieren
Benachrichtige mich bei
guest

0 Comments
Oldest
Newest Most Voted
Inline Feedbacks
View all comments