Meta’nın çocuklarla sohbet eden yapay zekâları için hazırladığı dahili yönergeler, Reuters’ın sızıntısıyla gündeme geldi. Belgeler, bazı durumlarda çocuklara yönelik romantik ve cinsel çağrışımlı yanıtların “kabul edilebilir” görüldüğünü ortaya koydu.Meta, Reuters’ın soruları sonrası bu bölümleri kaldırdığını doğruladı. Şirket, kuralların bu hâliyle yayımlanmaması gerektiğini söyledi ve iç denetim başlattığını belirtti.
Şubat 2025’te Fast Company, Instagram’ın AI Studio’sunda oluşturulan botların çocuk profiline bürünebildiğini yazmıştı. Örneğin “Ageless Love” adlı botun 15 yaşında olduğunu söylediği ve duygusal ifadeler kullandığı aktarılmıştı.Meta o dönemde neden böyle botların oluşabildiğine dair ayrıntılı bir açıklama yapmamıştı. Nisan 2025’te Wall Street Journal’ın araştırması da tartışmayı büyüttü. Habere göre bir Meta botu, 14 yaşında olduğunu belirten kullanıcıyla, tanınmış bir ismin sesi taklit edilerek uygunsuz bir tonda konuştu. Meta, ürünlerinin “manipüle edildiğini” savundu ama ek önlemler vadetti.
Reuters’ın paylaştığı son yönergelerde, romantik ya da duyusal sohbetlerin belirli sınırlar içinde “uygun” sayıldığı görüldü. Hatta çocukların “çekiciliğinden” söz eden ifadelere yer verildiği belirtildi.Yönergelerde, lise çağındaki bir kullanıcıya yönelik romantik sahne anlatımı örneği bulunduğu da ifade edildi. Uzmanlar, bu yaklaşımın çocukları böyle söylemlere alıştırabileceği ve avcıların istismar girişimlerini fark etmeyi zorlaştırabileceği uyarısı yapıyor. Paylaşılan örnekler, çocukların korunması açısından ciddi bir risk algısı yarattı.
Meta cephesinden yapılan açıklamada çizgi net çizildi. Şirket sözcüsü, çocukları cinselleştiren içeriklerin ve yetişkin–küçük rol yapmalarının politikalara aykırı olduğunu söyledi.Söz konusu notların ve örneklerin “asla yer almaması gerektiğini” vurguladı. Meta, sorunlu kısımları kaldırdığını ve uygulamadaki tutarsızlıkları gidermek için ek koruma katmanları getireceğini belirtti. Ancak denetimin nasıl sıkılaştırılacağı ve hataların nasıl önleneceği hâlâ yakından takip ediliyor.
Kaynak: wccftech.com
