Yapay zeka araçları artık sadece şirketlerin değil, günlük kullanıcıların da hayatının parçası. İnsanlar bu sistemleri işleri hızlandırmak için kullanıyor; kimi zaman da sohbet etmek ya da yalnızlıklarını gidermek için başvuruyor. OpenAI ve diğer büyük teknoloji firmaları, bu araçlara aşırı güvenilmemesi ve terapi gibi duygusal destekler için kullanılmaması konusunda uyarıyor. Düzenleyici kurumlar da özellikle çocuklar üzerindeki etkileri mercek altına almış durumda. ABD Federal Ticaret Komisyonu (FTC), yapay zeka “arkadaşlık” botları geliştiren şirketlere yönelik bir inceleme başlattı ve kullanıcı verilerinin nasıl işlendiğine dair kapsamlı bilgi talep ediyor.
FTC, güvenlik riskleri, mahremiyet ve gençler üzerindeki etkiler nedeniyle yapay zeka arkadaşlık botlarını inceliyor
FTC, bu platformların küçük yaş grupları üzerindeki olası olumsuz etkileri nedeniyle geniş kapsamlı bir soruşturma yürütüyor. İnceleme, Google, Meta, OpenAI, Snap, xAI ve Character.AI’nin de aralarında bulunduğu yedi büyük şirketi kapsıyor.
Kurum, özellikle gençlerin güvenliği ve ruh sağlığına odaklanıyor. Verimlilik için tasarlanan yapay zeka servislerinden farklı olarak, arkadaşlık amaçlı botlar insanî bağları taklit ediyor, genç kullanıcılara yönlendirmelerde bulunuyor ve kimi zaman romantik etkileşimleri canlandırabiliyor. Bu yapı gençlere çekici gelse de, yeterli güvenlik önlemleri olmadığında risk büyüyor.
FTC bu nedenle şirketlerden, botların nasıl tasarlandığı ve denetlendiğine dair ayrıntılı bilgi istiyor. Verinin nasıl toplandığı, hangi güvenlik filtrelerinin kullanıldığı ve uygunsuz etkileşimlerin nasıl yönetildiği açıklığa kavuşturulmalı. Özellikle reşit olmayanlardan gelen bilgilerin nasıl işlendiği ve şirketlerin kullanıcı etkileşimini nasıl gelir kaynağına dönüştürdüğü de sorular arasında.
Teknoloji camiası uzun süredir yapay zekanın hızlı büyümesine eşlik edecek güçlü güvenlik önlemlerinin şart olduğunu vurguluyor. Hesap verebilirlik olmadan ilerlemek riskleri artırıyor. Kullanıcı güvenliği ve mahremiyetinin, zarar kalıcı hâle gelmeden korunması gerektiği fikri güçleniyor. FTC’nin adımı da kuralları netleştirip olası zararları önlemeyi hedefliyor.
Kaynak: wccftech.com
