Intel, Project Battlematrix için ilk büyük yazılım paketi LLM Scaler v1.0’ı yayımladı.Güncelleme, Arc Pro GPU’lu yapay zeka çıkarım iş istasyonlarını tek noktadan kurulumla hedefliyor. Çözüm, Computex 2025’te tanıtılan Battlematrix vizyonunun ilk somut adımı.
Yeni Linux odaklı konteyner, çoklu GPU ölçeklemesi ve PCIe P2P veri aktarımıyla performansı yüzde 80’e kadar artırıyor.Paket; ECC, SR-IOV, telemetri ve uzaktan firmware güncellemeleri gibi kurumsal sınıf yetenekler getiriyor. Intel, kullanım kolaylığı ve açık standartlara uyumu da öne çıkarıyor.
Uzun bağlam için TPOP optimizasyonu, 40K dizilerde 32B modelde 1,8 kata, 70B modelde 4,2 kata varan hız kazancı sağlıyor.8B–32B modellerde çıktı verimi, önceki sürüme kıyasla yaklaşık yüzde 10 artıyor. Katman bazlı çevrimiçi quantizasyon bellek ihtiyacını düşürüyor. Pipeline paralelliği, torch.compile ve spekülatif kod çözme deneme aşamasında. vLLM’de embedding ve yeniden sıralama modelleri, gelişmiş çok modlu destek, otomatik maksimum uzunluk tespiti ve veri paralelliği de mevcut.
OneCCL kıyaslama aracı etkinleştirildi ve XPU Manager ile donanım yönetimi sadeleşti.XPU Manager; güç, bellek bant genişliği, teşhis ve firmware güncellemesini tek panelden sunuyor. Yol haritasına göre Intel, 2025’in üçüncü çeyreğinde daha sertleştirilmiş bir konteyner ve iyileştirilmiş vLLM sunumu, 2025’in dördüncü çeyreğinde ise tam özellik seti planlıyor.
Kaynak: wccftech.com
