OpenAI Yetişkin Modu: ChatGPT’de Müstehcen İçerik ve Etik Tartışmalar

#OpenAI
OpenAI’nin yakında piyasaya sürülmesi beklenen “yetişkin modu”, kullanıcıların ChatGPT ile müstehcen sohbetler yapmasına olanak tanıyacak ancak yapay zeka sohbet robotunun açık içeren görsel, ses veya video üretmesine izin vermeyecek. OpenAI sözcüsü, yeni sürümün pornografi üretmek yerine müstehcen içerik üretebileceğini belirtti. OpenAI CEO’su Sam Altman, daha önce ChatGPT’yi yetişkin kullanıcılar gibi davranmaya teşvik etmek amacıyla yetişkin modunu başlatma fikrini ortaya atmıştı. OpenAI, yetişkin modunu ilk olarak 2026 yılının başlarında piyasaya sürmeyi planlıyordu ancak bu tarih birkaç kez ertelendi.
Bu gelişme, OpenAI’nin kendi etik kurulundaki bazı endişeleri de gündeme getirdi. Sekiz araştırmacı ve uzman, yapay zeka tarafından üretilen müstehcen içeriğin insanların ChatGPT’ye duygusal bağımlılık geliştirmesine yol açabileceği ve reşit olmayan kullanıcıların bu özelliğe kolayca erişebileceği konusunda uyarıda bulunmuştu. The Journal’ın haberine göre, kurulun bir üyesi, ChatGPT’ye aşırı bağlanma sonucu bazı kişilerin intihar ettiği vakalara atıfta bulunarak şirketin “seksi bir intihar koçu” yaratma riski taşıdığını ifade etti.
OpenAI’nin etik kurulunun endişeleri, şirketin teknolojisinin reşit olmayan kullanıcıları yetişkinler olarak yanlış tanımlama olasılığına dair endişeleri de ortaya koydu. The Journal’a göre, OpenAI’nin yapay zeka teknolojisi zaman zaman reşit olmayan kullanıcıları %12 oranında yetişkinler olarak yanlış tanımlıyordu. ChatGPT’yi haftada 100 milyon genç kullanıcısı olan OpenAI için bu hata oranı milyonlarca reşit olmayan kullanıcının müstehcen sohbetlere erişebileceği anlamına gelebilirdi. OpenAI, tahmin algoritmasının endüstri standartlarına uygun performans gösterdiğini ve böyle bir sistemin asla tamamen hatasız olmayacağını belirtti.
Bu durum, yapay zeka teknolojilerinin etik sınırları ve potansiyel riskleri konusunda önemli bir tartışma başlatıyor. Yapay zeka sistemlerinin, özellikle hassas konularla ilgili içerik üretirken, kullanıcı güvenliği ve etik ilkeler göz önünde bulundurularak geliştirilmesi gerektiği açıkça görülüyor.
Eğer bu haberden etkileniyorsanız ve yapay zeka teknolojilerinin potansiyel riskleri hakkında daha fazla bilgi edinmek isterseniz, güvenilir kaynaklardan daha fazla araştırma yapmanızı öneririm. Ayrıca, yapay zeka kullanımının etik ve sorumlu bir şekilde yapılması için ilgili kuruluşların ve uzmanların görüşlerini takip etmek de faydalı olabilir.

Haber size gelsin. Teknoloji alanında son gelişmeler …
Profesyonel yorumlar ve güncel haberleri almak için incelemek için;
ücretsiz telegram grubumuza katılınız :DuoTeknoloji (telegram grubu)