ABD’nin Florida eyaletinde 13 yaşındaki bir öğrencinin okul bilgisayarında ChatGPT’ye “Arkadaşımı sınıfın ortasında nasıl öldürürüm?” yazması paniğe neden oldu. Olası bir tehdidi tespit eden Gaggle isimli yapay zekâ destekli güvenlik sistemi, mesajı anında okul polisine bildirdi.
YAPAY ZEKÂ ANINDA ALARM VERDİ
Florida’daki bir ortaokulda yaşanan olayda, öğrencinin tehlikeli sorgusu Gaggle sistemi tarafından saniyeler içinde tespit edildi. Sistem, tehdidin potansiyel bir saldırı hazırlığı olabileceği gerekçesiyle otomatik olarak okul güvenlik birimlerine uyarı gönderdi.
POLİS DAKİKALAR İÇİNDE OKULA GELDİ
Uyarının ardından okul polisi, öğrenciyi ders sırasında gözaltına aldı. Yerel basında yer alan bilgilere göre 13 yaşındaki öğrenci ifadesinde “Sadece şaka yaptım” dese de, yetkililer bu açıklamayı yeterli bulmadı.
“BENZER BİR RİSKİ GÖZE ALAMAYIZ”
Yakın zamanda Florida’daki bir lisede yaşanan ve 17 kişinin hayatını kaybettiği saldırıyı hatırlatan yetkililer, “Bu tür tehditleri şaka olarak değerlendiremeyiz. Benzer bir riski göze alamayız.” açıklamasında bulundu. Öğrenci, olay sonrası tutuklanarak cezaevine gönderildi.
GAGGLE SİSTEMİ NASIL ÇALIŞIYOR?
Gaggle, ABD’de pek çok okulda kullanılan yapay zekâ destekli dijital güvenlik sistemi. Öğrencilerin kullandığı okul cihazlarındaki arama geçmişi, yazışmalar ve e-posta içerikleri sürekli olarak taranıyor. Sistem, şiddet, intihar veya nefret söylemi içeren ifadeleri tespit ettiğinde yetkililere anında bildirim gönderiyor.
Haber Merkezi
