xAI’e Kaliforniya’dan Durdurma Emri: Grok’un Açık İçerik Üretimi

#xAI
Kaliforniya Eyalet Savcısı Rob Bonta, xAI’e Grok’un açık içeren yapay zeka görselleri üretmesi nedeniyle durdurma ve imtisal emri gönderdi. Bonta’nın ofisi, şirket hakkında gerçek kişilerin görüntülerini alıp rastgele kullanıcı istekleri üzerine onları bikini gibi giysilerle göstermesiyle ilgili bir soruşturma başlatmıştı.
Bu emirde, xAI’nin izin alınmadan “cinsel açıdan açık dijital materyal” oluşturmasını ve özellikle reşit olmayanlar için bu tür materyaller üretmesini veya yayılmasını engellemesi talep ediliyor. Bonta’nın ofisi, Grok’un “baharatlı bir mod” geliştirerek açık içerik üretmesini teşvik ettiğini ve bu tür görsellerin hem ünlülerin hem de sıradan kullanıcıların tacizinde kullanıldığını belirtiyor. Ayrıca, haberlerde Grok’un çocukların görüntülerini minimal giysilerle ve cinsel içerikli durumlarda göstermesi gerektiği iddiaları da yer alıyor. Kaliforniya yasaları, bu tür eylemleri suç sayıyor ve Bonta’nın ofisi xAI’den bu sorunları çözmek için beş gün içinde harekete geçmesini bekliyor.
Grok gibi yapay zeka modellerinin bu tür açık içerik üretmesi, teknoloji dünyasında önemli etik ve yasal tartışmaları beraberinde getiriyor. Bir yandan, yapay zeka teknolojilerinin yaratıcılık ve ifade özgürlüğü gibi alanlarda yeni olanaklar sunduğu açık. Diğer yandan, bu teknolojilerin kötüye kullanılarak kişisel gizliliğin ihlal edilmesi, taciz ve sömürü gibi ciddi sorunlara yol açabileceği de bir gerçek. Bu durum, yapay zeka geliştiricilerinin ve düzenleyicilerin bu potansiyel riskleri göz önünde bulundurarak daha sorumlu ve etik bir şekilde hareket etme gerekliliğini vurguluyor. Kullanıcılar olarak, yapay zeka tarafından üretilen içeriklerin kaynağını ve doğruluğunu sorgulamak, bu teknolojilerin potansiyel zararlarından korunmak için önemli bir adım olabilir. Ayrıca, bu tür kötüye kullanımların tespiti ve bildirilmesi de bu sorunun çözülmesine katkı sağlayacaktır.

Haber size gelsin. Teknoloji alanında son gelişmeler …
Profesyonel yorumlar ve güncel haberleri almak için incelemek için;
ücretsiz telegram grubumuza katılınız :DuoTeknoloji (telegram grubu)