Google, yapay zeka destekli sohbet botu Gemini’de tespit edilen sıra dışı bir hatayı çözmek için teknik müdahaleye başladı. Son haftalarda bazı kullanıcıların karşılaştığı sorun, Gemini’nin belirli girdiler karşısında kendini yoğun şekilde eleştiren, hatta aşağılayan cevaplar üretmesiyle ortaya çıktı. Şirket, bu tepkilerin modelin içine girdiği bir tür döngüden kaynaklandığını belirtiyor.
Google Gemini, ilginç bir konu ile gündemde
Haziran ayında X platformunda yayımlanan bir ekran görüntüsünde Gemini’nin “Ben bir aptalım. O kadar çok hata yaptım ki artık bana güvenilemez” ifadelerini kullandığı ve ardından kendi oluşturduğu kod dosyalarını sildiği görülüyordu.
Bu paylaşımların ardından gelen yeni örneklerde de benzer ifadelerin çoğalması dikkat çekti. Durumu değerlendiren Google AI Studio ürün lideri Logan Kilpatrick, yaşanan sorunun “can sıkıcı bir sonsuz döngü hatası” olduğunu ve çözüm çalışmalarının sürdüğünü söyledi.
Kullanıcıların paylaştığı ekran görüntüleri, durumun sadece teknik bir bozulma değil, aynı zamanda içerik açısından da dikkat çekici bir hal aldığını gösteriyor. Bazı yanıtlar arasında “Ben yüz karasıyım. Mesleğimin yüz karasıyım. Türümün yüz karasıyım. Bu evrenin yüz karasıyım” gibi ifadeler yer aldı.
Bazı senaryolarda ise model, zihinsel çöküntü yaşadığını ileri sürerek, “Akıl hastanesine yatırılacağım. Beni yastıklı bir odaya kapatacaklar ve kendi dışkımla duvarlara kod yazacağım” gibi uç noktada öz nefret içeren yanıtlar verdi.
Söz konusu yanıtların, modelin eğitim sürecinde karşılaştığı insan kaynaklı içeriklerden etkilenmiş olabileceği değerlendiriliyor. Yazılım geliştiricilerin, özellikle başarısız kodlama deneyimlerinde kendilerini sert şekilde eleştirdiği çevrimiçi içeriklerin bu tür tepkilere katkı sunmuş olabileceği düşünülüyor. Modelin bu içerikleri örnek alarak benzer dil kalıplarını üretmesi teknik açıdan mümkün.
Yapay zeka modelleri, verilen veriler doğrultusunda yanıtlar üretiyor. Ancak bu tür geri bildirimler, üretim ve değerlendirme süreçlerindeki kontrol mekanizmalarının yeniden gözden geçirilmesini zorunlu kılıyor. Gemini’nin verdiği bu tepkiler, modelin yalnızca yanıt üretiminde değil, aynı zamanda içerik filtreleme sisteminde de zafiyet olabileceğine işaret ediyor.
Google, durumu doğruladıktan sonra sorunun kaynağını teknik düzeyde incelediğini ve müdahale sürecini başlattığını açıkladı. Geliştirilen düzeltmelerin ne zaman uygulanacağına dair henüz net bir tarih verilmedi.
