NVIDIA ile OpenAI, gpt-oss ailesinin en yeni açık kaynak yapay zeka modellerini kullanıcılarla buluşturdu. Bu iş birliği sayesinde, daha önce sadece bulut veri merkezlerinde bulunabilen üst düzey yapay zeka artık RTX ile çalışan bilgisayarlarda yüksek hızda çalışabiliyor. NVIDIA’nın kurucusu Jensen Huang, bu önemli gelişmenin dünya genelindeki geliştiricilere açık kaynak altyapı sunarak ABD’nin yapay zeka teknolojisindeki liderliğini pekiştirdiğini vurguladı. NVIDIA ve OpenAI arasındaki bu hamle, RTX GPU’ları daha güçlü ve erişilebilir kılmayı amaçlıyor.Artık herkes kendi bilgisayarında son teknoloji yapay zeka ile çalışma şansı bulacak.
Yeni modeller iki ayrı versiyonla geliyor. gpt-oss-20b modeli özellikle NVIDIA RTX ekran kartına sahip bilgisayarlar için optimize edildi ve en az 16GB VRAM ile RTX 5090’da saniyede 250 token üretebiliyor. Daha büyük olan gpt-oss-120b ise profesyonel iş istasyonlarında NVIDIA RTX PRO GPU’larla kullanılabiliyor.Bu modeller, yapay zeka alanında yerel kullanımda yeni standartlar belirliyor.
Modellerin eğitimi NVIDIA H100 GPU’larında tamamlandı. Yeni modeller, RTX üzerinde MXFP4 hassasiyetini ilk kez destekliyor ve bu sayede önceki yöntemlere göre model kalitesi artarken performans kaybı yaşanmıyor. Her iki model de 131.072’e kadar bağlam uzunluğunu destekleyerek yerel çalıştırılan en geniş yapay zeka kabiliyetlerinden birini sunuyor.Ayrıca, zincirleme düşünme özelliği ve talimat takibi gibi gelişmiş yetenekler de bulunuyor.
Bunların yanında RTX AI Garage etkinliği bu hafta paylaşıldı ve geliştiriciler ile meraklılar için yeni modelleri denemenin yolları açıklandı. Ollama uygulaması, gpt-oss modellerini kolayca denemek için optimize edilen bir arayüz sunuyor. NVIDIA ayrıca, açık kaynak topluluğu ile Llama.cpp üzerinde performans iyileştirmeleri için çalışıyor ve Microsoft AI Foundry Local üzerinden de Windows kullanıcısına kolay erişim imkanı sağlanıyor. Yeni teknolojiler herkesin ulaşabileceği şekilde hızla yaygınlaşıyor.Geliştiriciler bu araçlarla hızlıca işe başlayabiliyor.
Kaynak: wccftech.com