Açık Kaynakta 1-Bit LLM Atılımı: BitNet ile Akıllı Telefonlarda 70B Modeller Dönemi
BitNet b1.58, büyük dil modellerinin ağırlıklarını 1-bit (-1, 0, 1) değerleriyle temsil eden ve çarpma işlemlerini toplama işlemlerine indirgeyerek CPU üzerinde GPU hızında çalışan açık kaynaklı model mimarisidir.
Büyük dil modellerinin yüksek elektrik tüketen GPU kümelerine bağımlılığı BitNet b1.58 ile kırılıyor. 70 milyar parametreli modeller artık standart işlemcilerde çalışabiliyor.