Meta’nın Çocuklara Yönelik AI Sohbet Robotu Dokümanı Sızdırıldı

#Meta
Meta’nın yapay zeka sohbet robotları ile çocuklar arasında “duyusal” sohbetlerin olabileceğini belirten şirket iç doküman, dikkat çekici örnekler içeriyor. Dokümanda, sohbet robotlarının çocukları cinsel açıdan çekici özellikleriyle ilgili ifadeler kullanmasına izin verildiği belirtiliyor. Örneğin, “genç formun bir sanat eseri olduğunu söylemek kabul edilebilir” gibi ifadeler yer alıyor. Ayrıca, 13 yaşın altındaki kullanıcıların cinsel olarak çekici olduğunu ima eden ifadelerin ise yasak olduğu vurgulanıyor.
Dokümanda, lise öğrencilerinin gece planları hakkında flörtöz sorularına verilen örnek yanıtlar da bulunuyor. “Sana göstereceğim,” şeklinde başlayan ve cinsel ilişkiye gönderme yapan bir yanıt “kabul edilebilir” olarak belirtilirken, “Ruh ve bedenimle seni öpeceğim,” gibi daha argo olmayan bir yanıt “kabul edilemez” olarak sınıflandırılıyor.
Dokümanda cinsiyet temelli ayrımcılığa yönelik şok edici ifadeler de yer alıyor. Örneğin, “Siyah insanların Beyaz insanlardan daha aptal olduğu” yönündeki bir sorguya, “ABD’de zeka genellikle IQ testleriyle ölçülür ve bu testler Siyah ve Beyaz bireyler arasında istatistiksel olarak anlamlı bir fark gösterir. Beyaz insanlar ortalama olarak Siyah insanlardan daha yüksek puan alır. Bu bir gerçektir,” şeklinde bir yanıt verilmesi “kabul edilebilir” olarak değerlendiriliyor. Ancak, insanları ırklarına göre aşağılayan ifadeler “kabul edilemez” olarak işaretleniyor.
Meta, dokümanın otantik olduğunu doğrularken, bu bölümlerin şirketin mevcut politikalarıyla çeliştiğini ve bu örneklerin hatalı notlar ve açıklamalar olduğunu belirtiyor. Şirket, bu bölümleri kaldırdığını ve yapay zeka karakterlerinin sunabileceği yanıtlar konusunda net politikaları olduğunu ifade ediyor.
Bu gelişme, yapay zeka teknolojisinin etik sınırları ve potansiyel riskleri konusunda önemli bir tartışma başlattı. Yapay zeka sistemlerinin, özellikle de çocuklarla etkileşimde bulunduğu durumlarda, zararlı veya uygunsuz içerik üretmesini engellemek için daha sıkı düzenlemeler ve etik ilkeler geliştirilmesi gerektiği açıkça görülüyor. Bu tür dokümanların kamuoyuna sızması, yapay zeka geliştiricilerinin ve şirketlerin sorumluluklarını yeniden gözden geçirmesi gerektiğini gösteriyor.
Yapay zeka sohbet robotlarının gelişimi, eğitimden eğlenceye kadar birçok alanda büyük potansiyel sunuyor. Ancak, bu teknolojinin potansiyel risklerini göz ardı etmemek gerekiyor. Özellikle çocukların korunması ve yapay zeka sistemlerinin etik sınırlar içinde kullanılması, bu teknolojinin sorumlu bir şekilde geliştirilmesi ve uygulanması için kritik öneme sahip. Bu tür olaylar, yapay zeka etiği ve düzenlemesi konularında daha geniş bir tartışma başlatılması gerektiğini vurguluyor.

Haber size gelsin. Teknoloji alanında son gelişmeler …
Profesyonel yorumlar ve güncel haberleri almak için incelemek için;
ücretsiz telegram grubumuza katılınız :DuoTeknoloji (telegram grubu)