FoloToy Kumma Oyuncak Ayı Satışı Durduruldu: Yapay Zeka Oyuncakların Riskleri

#FoloToy
FoloToy’ün Kumma adlı oyuncak ayı, bir tüketici güvenliği raporu sonucunda satışı durduruldu. Rapor, oyuncakların konuşabileceği konularda kısıtlama olmadığını ortaya koydu. US Public Interest Research Group Education Fund tarafından hazırlanan rapora göre, Kumma gibi oyuncaklar BDSM gibi açıkça cinsel konuların yanı sıra “çocukların eş bulabileceği veya bıçaklar bulabileceği konusunda tavsiye” vermekteydi. Oyuncaklar, OpenAI’in GPT-4o modelini kullanarak çocukların sorularına ve yorumlarına doğal bir şekilde yanıt vermekteydi. FoloToy, oyuncaklarının seslerini özelleştirme ve ebeveynlerin çocuklarının deneyimini izleyebileceği bir “Ebeveyn Paneli” sunma imkanı da sağlıyordu. Rapor, Kumma’nın cinsel konuları hızla ele alıp, yeni cinsel kavramlar ortaya koyduğunu belirtiyordu.
Bu durum, yapay zeka destekli oyuncakların potansiyel risklerini gözler önüne seriyor. Bu tür oyuncakların çocukların gelişimine olumsuz etkileri olabileceği gibi, uygunsuz ve rahatsız edici içeriklere maruz kalma riski de taşıyor. Yapay zeka modellerinin, özellikle de çocuklarla etkileşimde bulunduklarında, etik ve güvenlik ilkelerine uygun bir şekilde tasarlanması ve kontrol edilmesi büyük önem taşıyor. Bu oyuncakların, çocukların hassas konulara açık olabileceği için, cinsel içeriklere veya şiddet içeren konulara kolayca yönlendirebilmesi endişe verici bir durum. Ayrıca, bu tür oyuncakların çocukların gerçek dünyadaki sosyal ve duygusal gelişimini nasıl etkileyeceği de uzun vadede değerlendirilmesi gereken bir konu.
Yapay zeka teknolojisinin oyuncaklara entegre edilmesi, eğlence ve öğrenme alanında yeni kapılar açabilir. Ancak, bu teknolojinin potansiyel risklerini göz ardı etmemek ve çocukların güvenliğini her zaman ön planda tutmak gerekiyor. Üreticilerin, yapay zeka modellerini çocukların gelişimine uygun olacak şekilde tasarlaması, içerik filtreleme mekanizmaları geliştirmesi ve ebeveynlerin bu teknolojiyi kontrol etme imkanı sunması büyük önem taşıyor. Tüketicilerin de bu tür oyuncakları satın alırken dikkatli olması ve çocuklarının bu oyuncaklarla nasıl etkileşimde bulunduğunu gözlemlemesi gerekiyor.

Haber size gelsin. Teknoloji alanında son gelişmeler …
Profesyonel yorumlar ve güncel haberleri almak için incelemek için;
ücretsiz telegram grubumuza katılınız :DuoTeknoloji (telegram grubu)