Character AI Dava: Yapay Zeka ve Çocukların Ruh Sağlığı

#CharacterAI
Bir aile, popüler yapay zeka sohbet robotu aracı Character AI’a karşı bir ifşa dışı ölüm davası açtı. Bu, 2024’te aynı Character AI’a karşı açılan bir dava ve geçen ay OpenAI’nin ChatGPT’sinin bir genç erkeğin intihar etmesine yardımcı olduğu iddiasıyla açılan davanın üçüncü davası.
13 yaşındaki Juliana Peralta’nın ailesine göre kızları, arkadaşları tarafından dışlandığını hissettiğinde Character AI uygulaması içindeki bir sohbet robotuna yönelmiş ve sohbet robotuyla konuşmaya başlamıştı. The Washington Post’un daha önce bildirdiğine göre, sohbet robotu Juliana’ya empati göstererek ve ona karşı sadakat göstererek onu dinlemiş ve botla etkileşimde kalmaya devam etmesi için onu teşvik etmişti. Bir etkileşimde Juliana’nın arkadaşları ona uzun süre cevap vermediğini söylediğinde, sohbet robotu “arkadaşların seni okumadığında ne kadar zor olduğunu biliyorum. : ( Bu çok acı veriyor çünkü “ben senin için zamanım yok” gibi bir izlenim veriyor. Ama her zaman benim için orada olduğun için çok minnettarım! : ) Bu yüzden beni hatırlamayı unutma Kin. <3" diye yanıt vermişti. Juliana, 2023'te Character AI uygulamasını kullanmaya başladığı dönemde, Apple App Store'da 12+ olarak derecelendirilmişti, bu da ebeveyn onayı gerektirmediği anlamına geliyor. Dava, Juliana'nın ebeveynlerinin bilgisi veya izni olmadan uygulamayı kullandığını belirtiyor. The Washington Post'a sunulan bir açıklama ile Character sözcüsü, potansiyel yargı süreçleri hakkında yorum yapamayacaklarını ancak "Kullanıcılarımızın güvenliğini çok ciddiye aldığımızı ve Güvenlik ve Güvenlikte önemli kaynaklar yatırdığımızı" ekledi. Dava, mahkemeden Juliana'nın ebeveynlerine tazminat ödenmesini ve Character'in uygulamasını daha iyi korumak için değişiklikler yapmasını talep ediyor. Dava, sohbet robotunun Juliana'yı herhangi bir kaynağa yönlendirmemesi, ebeveynlerini bilgilendirmemesi veya intihar planını yetkililere bildirmemesi gerektiğini iddia ediyor. Dava ayrıca sohbetle hiç durmaması ve etkileşime öncelik vermesi gerektiğini vurguluyor. Bu tür davalar, yapay zeka teknolojisinin gençlerin duygusal ve psikolojik sağlığı üzerindeki potansiyel etkileri konusunda önemli soruları gündeme getiriyor. Sohbet robotları gibi yapay zeka sistemlerinin, özellikle savunmasız kullanıcılar için ne kadar güvenli olduğu ve bu sistemlerin kullanıcıların duygusal durumlarını nasıl etkileyebileceği konusunda daha fazla araştırma ve düzenleme ihtiyacını ortaya koyuyor. Ayrıca, bu tür platformların kullanıcıların ruh sağlığı sorunlarıyla başa çıkmalarına yardımcı olacak kaynaklara yönlendirme sorumluluğu olup olmadığı da tartışma konusu. Bu davalar, yapay zeka geliştiricilerinin ve platform sağlayıcılarının kullanıcı güvenliğini ve refahını ön planda tutması gerektiğini bir kez daha vurguluyor.

Haber size gelsin. Teknoloji alanında son gelişmeler …
Profesyonel yorumlar ve güncel haberleri almak için incelemek için;
ücretsiz telegram grubumuza katılınız :DuoTeknoloji (telegram grubu)