NVIDIA, OpenAI ile gerçekleştirdiği yeni iş birliği kapsamında, açık kaynaklı yeni gpt-oss model ailesini duyurdu. Bu iş birliği, daha önce yalnızca bulut altyapılarında çalışan ileri düzey yapay zekâ modellerinin artık RTX destekli PC’lerde ve iş istasyonlarında yüksek hızla çalışmasını mümkün kılıyor. NVIDIA, bu gelişmeyle birlikte yerel yapay zekâ (on-device AI) dönemini resmen başlatıyor.
İki Yeni Model, RTX Uyumlu Performans
Gpt-oss modelleri, RTX platformunda hız ve verimlilik odaklı olarak geliştirildi. Tanıtılan iki yeni varyant şöyle:
- Gpt-oss-20b: En az 16 GB VRAM’e sahip RTX AI PC’lerde çalışacak şekilde optimize edildi. RTX 5090 GPU üzerinde saniyede 250 token üretim hızı sunabiliyor.
- Gpt-oss-120b: Profesyonel iş istasyonları için tasarlandı ve RTX PRO GPU’lar ile hızlandırılmış yüksek kapasiteli sistemlerde çalışıyor.
Her iki model de NVIDIA H100 GPU’lar üzerinde eğitildi ve MXFP4 hassasiyet standardını destekleyen ilk modeller olma özelliğini taşıyor. Bu teknoloji sayesinde model doğruluğu korunurken performans düşmeden artırılabiliyor. Ayrıca, 131.072 token bağlam uzunluğu, modelleri yerel çıkarım alanında en ileri düzey seçeneklerden biri haline getiriyor.
Modellerin temelinde esnek bir Mixture-of-Experts (MoE) mimarisi yer alırken, chain-of-thought akıl yürütme, talimat takibi ve araç kullanımı gibi gelişmiş yetenekler de destekleniyor.
RTX AI Garage: Geliştiricilere Başlangıç Noktası
OpenAI’nin gpt-oss modelleriyle RTX cihazlar üzerinde çalışmaya başlamak isteyen geliştiriciler için NVIDIA, RTX AI Garage platformunu öne çıkarıyor. Bu alanda üç temel araç dikkat çekiyor:
- Ollama Uygulaması: Gpt-oss modellerini RTX GPU’larda kullanmanın en kolay yolu olarak tanıtılıyor. Ekstra kurulum gerektirmeyen arayüzü ile doğrudan destek sağlıyor.
- Llama.cpp: NVIDIA, açık kaynaklı topluluklarla iş birliği yaparak bu alanda CUDA Graphs gibi performans artırıcı özellikleri entegre ediyor. Geliştiriciler doğrudan GitHub üzerinden erişim sağlayabiliyor.
- Microsoft AI Foundry: Windows geliştiricileri, “Foundry model run gpt-oss-20b” komutuyla halka açık önizlemede modele kolayca erişebiliyor.
NVIDIA’dan Stratejik Açıklama
NVIDIA CEO’su Jensen Huang, bu gelişmeyi şöyle değerlendirdi:
OpenAI’nin yeni modelleriyle RTX üzerinde nasıl çalışmaya başlayabileceğinize dair kapsamlı bir inceleme için RTX AI Garage blog gönderisine göz atabilirsiniz.
NVIDIA’nın OpenAI ile gerçekleştirdiği iş birliği hakkında daha fazla bilgiye ulaşmak için NVIDIA şirket blogunu ziyaret edebilirsiniz.
