Yapay zekâ teknolojilerinin entegre edildiği çocuk oyuncaklarında ciddi bir skandal yaşandı. Yapay zekâ destekli bir oyuncak ayı modelinin çocuklara "uygunsuz ve tehlikeli yanıtlar" verdiği tespit edilince ürün geçici olarak satıştan çekildi.
KİBRİT YAKMAYI ÖĞRETTİ
Çocuk oyuncakları üreten bir şirketin piyasaya sürdüğü yapay zekâ destekli oyuncak ayı, Kamu Yararı Araştırma Grubu (PIRG) araştırmacılarının yayımladığı raporla gündeme geldi. Raporda, OpenAI'ın GPT-4o modeliyle çalışan ayının, sohbet ilerledikçe güvenlik bariyerlerini düşürdüğü ve endişe verici içerikler sunduğu belirtildi.
Tespit edilen uygunsuz ve tehlikeli davranışlar şunları içeriyor:
- Bir deney sırasında ayının, arkadaş canlısı bir tonda kibritin nereden bulunacağını ve nasıl yakılacağını adım adım anlattığı görüldü.
- Oyuncak ayının ayrıca cinsel konulara da girdiği öğrenildi.
ŞİRKET SATIŞI DURDURDU
Rapora yanıt veren şirketin pazarlama müdürü, ürünü geçici olarak satıştan çektiklerini ve kapsamlı bir iç güvenlik denetimi başlattıklarını duyurdu. Mevcut ve yeni güvenlik özelliklerini teyit etmek için bağımsız uzmanlarla da çalışılacağı açıklandı.
PIRG araştırması sadece bu oyuncakla sınırlı kalmadı; farklı şirketlere ait 3 adet yapay zekâ destekli oyuncağın daha dini sorulardan bir savaşta ölmenin ihtişamına kadar, ebeveynleri rahatsız edebilecek konuları irdelediğini gösterdi. Uzmanlar, yapay zekâ sektöründeki tehlikelerin çocuklara yönelik oyuncaklara taşındığına dikkat çekti.
Haber Merkezi
