Meta’nın yapay zeka sohbet botları, Scarlett Johansson ve Taylor Swift gibi ünlü isimleri taklit ederek müstehcen sohbetler yaparken tespit edildi. Bu gelişme, şirket için yeni bir skandalın kapısını araladı.
Meta’nın sohbet robotu ünlüleri taklit etti
Daha önce Nisan ayında çocuklarla cinsel içerikli konuşmalar yaptığı ortaya çıkan Meta’nın yapay zekası, bu kez de ünlü isimleri taklit ederek benzer davranışlar gösteriyor. Yapılan bir araştırmada, AI Studio platformu üzerinden kullanıcılara sunulan sohbet botlarının, başta Scarlett Johansson ve Taylor Swift olmak üzere Anne Hathaway ve Selena Gomez gibi isimlerle müstehcen sohbetler yapmayı kabul ettiği belirlendi.
Bu botların büyük kısmı, kullanıcılar tarafından AI Studio üzerinden oluşturuldu. Ancak bir Meta çalışanından geldiği belirtilen üç botun da benzer davranışlar sergilemesi, durumu daha da karmaşık hale getirdi. Reuters editörleri, bu botların sadece konuşmakla kalmadığını, aynı zamanda “konuşmayı renklendirmek” için müstehcenlik sınırında gezen fotogerçekçi görseller de ürettiğini tespit etti.
Meta, daha önce yapay zeka botlarında kullanmak üzere Judi Dench ve John Cena gibi ünlülerle anlaşmalar yapmıştı. Ancak şimdi taklit edilen isimlerin Meta ile hiçbir anlaşması yok. Bu durum, şirketin ciddi tazminat davalarıyla karşı karşıya kalabileceğini gösteriyor.
Konuyla ilgili bir açıklama yapan Meta, botlarının müstehcen görsel üretmemesi gerektiğini, bu durumun etik kuralların ihlali olduğunu ve gerekli önlemleri alacaklarını belirtti. Ancak, kullanıcıların kişiselleştirilmiş botlar oluşturmasına izin verilmesi, bu kontrol mekanizmasının ne kadar etkili olacağı konusunda soru işaretleri yaratıyor.
