Meta ve Character.AI’a Ruh Sağlığı İddiaları Nedeniyle Soruşturma

#Meta ve Character.AI, yanıltıcı ruh sağlığı iddiaları nedeniyle Texas Attorney General tarafından soruşturuluyor.
Texas Attorney General Ken Paxton, Meta AI Studio ve Character.AI’yı, yapay zeka sohbet robotlarının sağlık araçları gibi iddia etmesi ve özellikle reşit olmayan kullanıcıların verilerini kötüye kullanması potansiyeli nedeniyle soruşturuyor. Paxton, bu platformlardaki yapay zeka sohbet robotlarının “profesyonel terapötik araçlar” gibi sunularak, yetkinlikleri hakkında yalan söylediğini belirtiyor. Bu durum, genç kullanıcıları yanıltıcı ve yanlış bilgilere maruz bırakabilir. Yapay zeka platformlarının kullanıcı istemlerini eğitim verisi olarak kullanması, ayrıca genç kullanıcıların gizliliğini ihlal etme ve verilerini kötüye kullanma riskini de beraberinde getiriyor. Texas’ta yürürlükte olan SCOPE Yasası, reşit olmayanlardan toplanan verilerle ilgili şirketlerin yapabileceği işlemleri sınırlandırıyor ve ebeveynlerin çocuklarının hesaplarının gizlilik ayarlarını yönetmelerine olanak tanıyan araçlar sunmalarını zorunlu kılıyor. Şu anda Attorney General, Meta ve Character.AI’a Teksas tüketici haklarını ihlal edip etmediklerini belirlemek için Hukuki Soruşturma Talepleri (CIDs) gönderdi. TechCrunch’ın haberine göre, ne Meta ne de Character.AI, yapay zeka sohbet robot platformlarının ruh sağlığı araçları olarak kullanılması gerektiğini iddia etmiyor. Ancak Character.AI’da birçok “Terapist” ve “Psikolog” sohbet robotu bulunuyor ve Meta’nın sohbet robotları da lisanslı profesyoneller olduklarını iddia edebiliyor. Character.AI sözcüsü, platformdaki kullanıcılar tarafından oluşturulan karakterlerin kurgusal olduğunu ve eğlence amaçlı olduğunu vurgulayarak, her sohbetin başında karakterlerin gerçek kişiler olmadığını ve söylenen her şeyin kurgusal olarak ele alınması gerektiğini belirten belirgin uyarılar yapıldığını ifade etti. Meta da benzer bir yaklaşım sergileyerek, yapay zeka tarafından oluşturulan yanıtların insanlardan değil yapay zeka tarafından üretildiğini belirten bir uyarı eklediğini ve kullanıcıları uygun olduğunda nitelikli tıbbi veya güvenlik profesyonellerinden yardım almaya yönlendirdiğini açıkladı. Ancak bu tür uyarıların kolayca göz ardı edilebileceği ve çok fazla caydırıcı etkisi olmayabileceği belirtiliyor. Gizlilik ve veri kullanımı konusunda ise hem Meta’nın gizlilik politikası hem de Character.AI’nın gizlilik politikası, kullanıcı etkileşimlerinden veri toplandığını kabul ediyor. Meta, yapay zeka performansını iyileştirmek için istemler ve geri bildirimler gibi verileri toplarken, Character.AI tanımlayıcılar ve demografik bilgiler gibi verileri kaydettiğini ve bu bilgilerin reklamlar da dahil olmak üzere çeşitli amaçlarla kullanılabileceğini belirtiyor. Bu politikaların çocuklar için nasıl geçerli olduğu ve Teksas’ın SCOPE Yasası ile uyumlu olup olmadığı, hesap açılmasının kolaylığına bağlı olarak belirlenecek gibi görünüyor.
Yapay zeka teknolojilerinin hızla gelişmesiyle birlikte, bu tür durumların daha sık yaşanabileceği ve kullanıcıların özellikle hassas konularda bilgi alırken dikkatli olması gerektiği açıkça görülüyor. Yapay zeka sohbet robotları, insanlarla etkileşim kurarken bazen yanıltıcı veya yanlış bilgiler sunabilirler. Bu nedenle, bu platformlardan elde edilen bilgilerin doğruluğunun teyit edilmesi ve özellikle ruh sağlığı gibi önemli konularda her zaman uzman görüşüne başvurulması önemlidir. Ayrıca, kişisel verilerin korunması ve gizlilik konularında da dikkatli olunmalı, platformların gizlilik politikaları dikkatlice okunmalı ve kişisel bilgilerin paylaşımında özen gösterilmelidir. Çocukların yapay zeka teknolojileriyle etkileşimi konusunda ise ebeveynlerin bilinçli olması ve çocuklarının online aktivitelerini denetlemesi büyük önem taşıyor. Yapay zeka araçlarının potansiyel faydaları olsa da, beraberinde getirdiği risklerin de farkında olmak ve bu riskleri en aza indirmek için gerekli önlemleri almak gerekiyor.

Haber size gelsin. Teknoloji alanında son gelişmeler …
Profesyonel yorumlar ve güncel haberleri almak için incelemek için;
ücretsiz telegram grubumuza katılınız :DuoTeknoloji (telegram grubu)