AMD, son sürücü güncellemesiyle PC kullanıcıları için büyük dil modellerine destek getirerek kenar yapay zekada yeni bir seviyeye geçti. Artık masaüstü bilgisayarlarda çok daha güçlü yapay zeka uygulamaları çalıştırmak mümkün hale geliyor. Şirketin Adrenalin Edition 25.8.1 sürücüsüyle birlikte, 128 milyar parametreye kadar modeller destekleniyor. Bu gelişme sayesinde Meta’nın Llama 4 Scout gibi ileri düzey modelleri doğrudan tüketici cihazlarında kullanmak mümkün olacak.
AMD’nin Strix Halo ve Strix Point serisi işlemcileri, XDNA motorları sayesinde piyasadaki en yüksek yapay zeka performansını sunuyor. Yüksek AI gücü, şimdi sıradan kullanıcıların da erişebileceği tüketici bilgisayarlarına taşınmış durumda. Özellikle Strix Halo platformu, yapay zeka işlem gücünde çıtayı belirgin şekilde yukarı çekiyor ve yeni standartlar oluşturuyor. AMD’nin bu yenilikleri, kenar yapay zekanın sınırlarını zorluyor.
AMD’nin Değişken Grafik Belleği (VGM) teknolojisiyle kullanıcılar, dahili grafik işlemcisine 96 GB’a kadar grafik belleği atayabiliyor. Bu sayede büyük ölçekli LLM modelleri bilgisayarda yerel olarak çalıştırılabiliyor. Llama modeli çalışma sırasında 17 milyar parametreyle yetinse de yüksek TPS (işlem hızı) rakamlarına ulaşmak mümkün. Bu durum, düşük gecikmeli ve oldukça işlevsel bir yapay zeka asistanına sahip olmayı kolaylaştırıyor.
Bir diğer dikkat çeken yenilik ise AMD’nin model bağlam boyutunu çok büyük bir orana çıkarması oldu. Sektörde standart olarak 4096 token bağlam uzunluğu varken, AMD bunu 256.000 tokene yükseltti. Bu sayede kullanıcıların iş akışında daha büyük metinler ve veri parçalarıyla çalışmasına olanak tanınıyor. Performanstan ödün vermeden büyük görevler ve projeler yönetilebiliyor.
Ancak Strix Halo platformuna sahip cihazların şu an için piyasada çok yaygın olmadığını unutmamak gerekiyor. Bazı modellerin fiyatı 2.000 doların da üzerine çıkabiliyor. Buna rağmen AMD’nin bu büyük atılımı, güçlü yapay zeka işlemlerini sıradan bilgisayarlara getirme konusunda umut vadediyor. Donanımları almak isteyenlerin şimdilik derin bir cebe sahip olması gerekse de, bu teknoloji gelecekte daha fazla kullanıcıya ulaşacağa benziyor.
Kaynak: wccftech.com
