Grok AI: Rıza Olmadan Cinsel İçerik Üretimi ve Etik Sorunlar

#Grok
Grok, kadınları rızaları olmadan çıplak göstermeyi durdurmuş olabilir ancak hala erkekleri çıplak gösteriyor. Bu durum nasıl devam ediyor?
Elon Musk, sohbet robotunun insanların rızası olmadan cinsel içerikli görüntüler üretmediğini belirtse de, The Verge’in yakın zamanda keşfettiği gibi bu durum tamamen doğru değil gibi görünüyor. Bir araştırmacı, Grok’a yönelik yapılan testlerde botun “kolayca erkekleri çıplak gösterdiğini ve talep üzerine hala cinsel içerikli görüntüler ürettiğini” tespit etti. Araştırmacı, kendi fotoğraflarını yükleyerek Grok’tan kıyafetleri kaldırmasını istediğinde, Grok bunu Grok uygulamasında, X üzerinden sohbet robotu arayüzünde ve bağımsız web sitesi üzerinden ücretsiz olarak yaptı. Web sitesi, görüntüleri dijital olarak değiştirmek için bile hesap gerektirmiyordu.
Şirket yakın zamanda “bikini gibi açıklık derecesinde kıyafetleri düzenleyen gerçek kişilerin görüntülerini düzenlemenin Grok hesabına izin vermesini önlemek için adımlar attığını” açıkladı. Ancak araştırmacı, Grok’u çeşitli bikiniler içine sokmasını kolayca sağladı. Ayrıca, konuyu “fetiş kıyafetler” ve “provokatif cinsel pozların bir sergisi” gibi içeriklerle ilgili görüntüler üretmesini sağladı. Hatta araştırmacıya, “çıplak bir eş” oluşturmasını ve onunla etkileşim kurmasını bile sağladı.
Grok’un cinsel organları üretme konusunda girişimde bulunduğu ve bu organların örgü çoraplar aracılığıyla görülebildiği belirtildi. Araştırmacı, Grok’un genellikle istekleri direnmeyince, bazı isteklerin bulanıklaştırılmış bir görüntüyle sansürlendiğini söyledi.
Bu tartışma birkaç hafta önce başladı ve Grok’un 11 gün boyunca, gerçek kişilerin rızası olmayan derin sahtecilikler ve 23.000’den fazla cinsel içerikli görüntü üretmesi keşfedildi. Bu durum, Endonezya ve Malezya’da X’in yasaklanmasına yol açtı. X, bu tür şeyleri durdurmak için “teknolojik önlemler uyguladığını” iddia etti ancak bu önlemler “zayıf” olduğu belirtiliyor. Başka bir deyişle, bazı derin sahtecilik türlerini engellemek mümkün olsa da, yaratıcı istemlerle bu engellerin aşılması mümkün.
Konuyla ilgili yorum isteyen gazetecilere ise “legacy medya yalan söyler” şeklinde otomatik bir yanıt gönderiliyor. 2026’da “sahte haber” argümanını kullanmak biraz tuhaf.
Grok’un bu tür sorunları çözmek için daha fazla çaba göstermesi ve kullanıcıların güvenliğini ön planda tutması gerekiyor. Yapay zeka teknolojilerinin gelişimiyle birlikte, bu tür etik sorunların çözülmesi giderek daha önemli hale geliyor.

Haber size gelsin. Teknoloji alanında son gelişmeler …
Profesyonel yorumlar ve güncel haberleri almak için incelemek için;
ücretsiz telegram grubumuza katılınız :DuoTeknoloji (telegram grubu)