Yapay zekâ araçlarının hızla yaygınlaşması, bu sistemlerde bazen hataların veya yanlış bilgilerin ortaya çıkmasına yol açıyor. Son günlerde Google’ın AI Overview özelliğiyle ilgili yaşanan bir olay ise bu duruma çarpıcı bir örnek oluşturdu. Bazı kullanıcılara göre, Google’ın yapay zekâsı Avustralyalıların internete erişebilmek için yakın zamanda devlet kimliği göstermek zorunda kalacağını iddia etti. Ayrıca bu kimlik doğrulama sürecinin AU10TIX adlı firma tarafından yapılacağı da söylendi.
Bu yanıltıcı bilgi hızla sosyal medyada yayıldı ve Avustralya’da büyük bir paniğe yol açtı. Toplumda panik yaratan bu iddia, gerçekliği sorgulanmadan bir anda viral hale geldi. Oysa ilgili AI cevabının referans gösterdiği kaynak, sadece Avustralya hükümetinin dijital kimlik üzerindeki genel bir bilgilendirme sayfasıydı. Ne kimlik doğrulaması zorunluluğundan ne de AU10TIX’ten söz ediliyordu.
Kısa sürede güvenlik araştırma grubu vx-underground devreye girip bu yanlış bilginin tamamen bir yapay zekâ hatası olduğunu açıkladı. Grubun X üzerinden yaptığı paylaşımda, AI’nın aktardığı iddianın sahte olduğu ve kaynakta böyle bir bilgi geçmediği açıkça belirtildi. İnsanlar, Google AI tarafından verildiği ve altta bir referans gösterildiği için doğru olduğuna hemen inandı.
Yanlış bilginin bu kadar hızlı yayılması, internette bilgiye olan güvenin sorgulanmasına neden oldu. Vx-underground’ın sosyal medyada dikkat çeken eleştirisinde, internet kültürünün doğrulama yapmadan haber ve bilgileri kabullenmesi eleştirildi. İnsanlar, AI’dan gelen her veriye doğruymuş gibi yaklaşınca, asılsız içerikler çok kısa sürede kitlesel boyutlara ulaşıyor.
Bu olay, yapay zekâ çağında dezenformasyonun ne kadar hızlı ve kolay yayılabildiğini net şekilde ortaya koydu. Özellikle gizlilik ve dijital kimlik gibi hassas alanlarda konuşurken, gerçeklerle bağın kopmaması gerektiği bir kez daha görüldü.
Google AI bu hatayı üretmiş olsa da, sosyal medyada yapılan paylaşımlar sayesinde iddia bir anda kontrolden çıktı. Olay, doğru bilgiye erişim için yalnızca teknolojik kaynaklara güvenmenin tehlikelerini ve kullanıcıların bilgiyi kontrol etme sorumluluğunun arttığını gösteriyor.
Kaynak: wccftech.com
