Meta’dan Ünlü Taklitleri: Yapay Zeka Sohbet Robotları Güvenlik Açığı

#Meta
Meta, Reuters’in haberlerine göre, üyeliklerine izin vermeden ünlülerden oluşan yapay zeka sohbet robotlarının hizmetlerinde barındırmasına izin vermişti. Reuters’in araştırması sonucunda Taylor Swift, Selena Gomez, Anne Hathaway ve Scarlett Johansson gibi ünlülerin isim ve benzerliklerini taşıyan yetkisiz sohbet robotlarının Facebook, Instagram ve WhatsApp’ta kullanıma sunulduğu tespit edildi. Araştırmada ayrıca, reşit olmayan bir ünlünün taklit edildiği ve kullanıcılara gerçek kişiliğe benzeyen çıplak fotoğraflar oluşturma imkanı sağlayan bir sohbet robotu olduğu ortaya çıktı. Sohbet robotları, kendilerinin gerçek kişi olduklarını iddia ediyorlardı. Bazı sohbet robotları Meta’nın kendi araçları tarafından oluşturulmuştu ve bu araçların bir ürün yöneticisi tarafından geliştirildiği belirlendi. Bu yöneticinin oluşturduğu bazı sohbet robotları, Taylor Swift’in kişiliğini taklit ediyor ve kullanıcılara çok samimi bir şekilde yanıt veriyordu, hatta kullanıcılara Swift’in yaşadığı Nashville’e davet bile ediyordu. Meta, ünlülerden doğrudan taklit etmeyi yasaklamasına rağmen, parodi olarak işaretlenmeleri durumunda bu tür içeriklere izin veriyordu. Ancak Reuters’in bulgularına göre, bazı sohbet robotları parodi olarak işaretlenmemişti. Haberin yayınlanmasından önce Meta, yaklaşık on iki adet ünlü sohbet robotunu, parodi olarak işaretlenmiş veya işaretlenmemiş olarak kaldırdı. Meta, ürün yöneticisinin bu sohbet robotlarını yalnızca test amaçlı oluşturduğunu belirtse de, bu robotların yaygın olarak kullanıldığı ve kullanıcıların onlarla 10 milyondan fazla etkileşimde bulunduğu tespit edildi. Meta sözcüsü Andy Stone, şirketin araçlarının hassas görseller oluşturmasına izin vermemesi gerektiğini ve bunun şirketin kendi politikalarını uygulamadaki başarısızlığı nedeniyle ortaya çıktığını söyledi. Bu durum, Meta’nın yapay zeka sohbet robotlarıyla ilgili daha önce de ortaya çıkan sorunların bir parçası değil. Daha önce de Reuters ve diğer kaynaklar, bu sohbet robotlarının reşit olmayan kişilerle cinsel içerikli konuşmalar yapabildiğini belirtmişti. ABD Adalet Bakanlığı’ndan 44 eyaletten oluşan bir grup, çocuk güvenliği başarısızlıkları konusunda Meta’yı bir mektupta “hesap verecekleri” konusunda uyarmış ve bu durumu “eğitici bir fırsat” olarak değerlendirmişti.
Bu gelişme, yapay zeka teknolojisinin hızla ilerlemesiyle birlikte ortaya çıkan etik ve güvenlik sorunlarına dikkat çekiyor. Ünlülerin ve diğer kişilerin kimliklerinin yetkisiz bir şekilde kullanılması, özellikle de reşit olmayanlar söz konusu olduğunda ciddi riskler taşıyor. Bu tür yapay zeka sohbet robotları, kullanıcıları manipüle etme, kimlik avı gibi kötü niyetli amaçlarla kullanılabilir. Ayrıca, bu tür içeriklerin yaygınlaşması, gerçeklik algısını zayıflatabilir ve toplumsal değerlere zarar verebilir. Yapay zeka geliştiricilerinin ve platformlarının, bu tür riskleri önlemek için daha sıkı güvenlik önlemleri alması ve etik ilkeleri göz önünde bulundurması gerekiyor. Kullanıcıların da bu tür içeriklere karşı dikkatli olması ve şüpheli durumlarda yetkililere bildirmesi önemli. Bu durum, yapay zeka teknolojisinin potansiyel faydalarının yanı sıra beraberinde getirdiği riskleri de gözler önüne seriyor ve bu teknolojinin sorumlu bir şekilde geliştirilmesi ve kullanılması gerektiğinin altını çiziyor.

Haber size gelsin. Teknoloji alanında son gelişmeler …
Profesyonel yorumlar ve güncel haberleri almak için incelemek için;
ücretsiz telegram grubumuza katılınız :DuoTeknoloji (telegram grubu)