Reddit Answers’ta AI Tehlikesi: Yanlış Tıbbi Tavsiyeler

#Reddit
Reddit Answers’in yapay zeka aracı, moderatörlerin devre dışı bırakamadığı veya görünümünden kaldıramadığı tehlikeli tıbbi tavsiyelerde bulunması üzerine moderatörler yapay zeka kontrolleri talep ediyor. Bir moderatör, Reddit Answers’ın kronik ağrı çeken kişilerin mevcut reçetelerini bırakıp yüksek dozda kratom kullanmalarını önerdiğini fark etti. Kratom, bazı eyaletlerde yasa dışı olan ve düzenlenmemiş bir maddedir. Moderatör, daha sonra Reddit Answers’a diğer tıbbi sorular sordu ve neonatal ateş tedavisi için potansiyel olarak tehlikeli tavsiyeler, bazı doğru adımlar ve kronik ağrı için heroin kullanımının önerildiği yanıtlar aldı. Sağlık odaklı alt topluluklardan birçok başka moderatör de orijinal gönderiye yanıt vererek, Reddit Answers’ın kendi topluluklarında yanlış veya tehlikeli bilgi sağladığında bunu nasıl devre dışı bırakabilecekleri veya işaretleyebilecekleri konusunda hiçbir yola sahip olmadıklarını belirtti. Reddit sözcüsü, Reddit Answers’ın bazı moderatör endişelerini gidermek için güncellendiğini ve artık duyarlı konulara ilişkin “İlgili Yanıtlar”ın gönderi detay sayfasında (veya konuşma sayfası olarak da bilinen) görünmeyeceğini açıkladı. Sözcü, bu değişikliğin kullanıcı deneyimini geliştirmek ve platform içinde uygun içerik görünürlüğünü sürdürmek için uygulandığını belirtti. Reddit, hangi konuların hariç tutulduğu hakkında ek bilgi almak için ulaşıldı ancak henüz yanıt alınamadı. Sözcü, Reddit Answers’ın “özel, karantinaya alınmış ve NSFW topluluklarındaki içerikleri, ayrıca bazı olgun konuları” hariç tuttuğunu belirtse de, yapay zeka aracının tıbbi bilgi sağlamak için yeterli donanıma sahip olmadığı açıkça görülüyor. Ayrıca, diğer Reddit kullanıcıları tarafından verilen alaycı, alaycı veya potansiyel olarak kötü tavsiyelerle başa çıkmak için de yetersiz kalıyor. Son güncellemeye ek olarak hassas konulara görünmemesi dışında, Reddit’in alt topluluklarda yapay zekanın nasıl veya ne zaman görüntüleneceğini kontrol etme konusunda herhangi bir araç sağlamayacağı görülüyor ve bu da zaten zor olan moderasyon görevini neredeyse imkansız hale getirebilir.
Yapay zeka teknolojileri giderek daha yaygın hale geldikçe, bu sistemlerin sağlığa ilişkin hassas konularda verdiği bilgilerin doğruluğu ve güvenilirliği büyük önem taşıyor. Reddit Answers gibi platformlarda yapay zeka tarafından üretilen tıbbi tavsiyelerin potansiyel olarak zararlı olabileceği açıkça görülüyor. Bu tür sistemlerin, özellikle de düzenlenmemiş veya yasa dışı maddelerle ilgili önerilerde bulunduğunda, kullanıcılar için ciddi riskler oluşturabileceği unutulmamalıdır. Yapay zeka araçlarının tıbbi tavsiye verme konusunda yetkin olup olmadığı ve bu tür konularda güvenilir bilgi sağlayıp sağlayamayacağı konusunda şüpheler bulunmaktadır. Bu nedenle, yapay zeka tarafından üretilen tıbbi bilgilere karşı eleştirel bir yaklaşım sergilemek ve her zaman güvenilir kaynaklardan doğrulamak önemlidir. Ayrıca, bu tür platformların yapay zeka tarafından üretilen içerikleri denetleme ve güvenli olmayan bilgilerin yayılmasını engelleme konusunda daha etkili mekanizmalar geliştirmesi gerekmektedir. Kullanıcıların da bu tür platformlarda verilen tıbbi tavsiyelere karşı dikkatli olması ve kendi sağlıkları hakkında önemli kararlar almadan önce mutlaka bir sağlık uzmanına danışması önerilir.

Haber size gelsin. Teknoloji alanında son gelişmeler …
Profesyonel yorumlar ve güncel haberleri almak için incelemek için;
ücretsiz telegram grubumuza katılınız :DuoTeknoloji (telegram grubu)