Yapay zeka devi OpenAI, popüler sohbet robotu ChatGPT için güvenlik önlemlerini bir üst seviyeye taşıyor. Şirket, özellikle genç kullanıcıların uygunsuz içeriklere maruz kalmasını engellemek amacıyla "yaş tahmini" özelliğini devreye aldığını duyurdu. Bu adım, ChatGPT'nin çocuklar üzerindeki etkilerine yönelik dünya genelinde artan eleştirilerin ardından geldi.
YAŞ TAHMİNİ ÖZELLİĞİ NASIL ÇALIŞIYOR?
Yeni sistem, kullanıcıların beyan ettiği bilgilerle yetinmeyerek gelişmiş bir yapay zeka algoritması kullanıyor. TechCrunch tarafından paylaşılan bilgilere göre, algoritma şu "davranışsal ve hesap düzeyindeki sinyalleri" analiz ederek kullanıcının reşit olup olmadığını belirliyor:
-
Kullanıcının sisteme kayıt olurken beyan ettiği yaş bilgisi.
-
Hesabın oluşturulma tarihi ve kullanım süresi.
-
Hesabın genellikle günün hangi saatlerinde aktif olduğu (Okul saatleri vb.).
-
Etkileşimlerde kullanılan dil ve sorgu modelleri.
OTOMATİK İÇERİK FİLTRELERİ DEVREYE GİRECEK
Eğer sistem bir kullanıcının 18 yaşın altında olduğunu tahmin ederse; cinsellik, şiddet ve diğer hassas konuları içeren filtreler otomatik olarak uygulanacak. Bu mekanizma, geçtiğimiz dönemlerde yaşanan "erotik içerik üretme hatası" gibi teknik aksaklıkların ve güvenlik açıklarının önüne geçmeyi hedefliyor.
YANLIŞ TAHMİNLER İÇİN SELFİE İLE DOĞRULAMA
OpenAI, sistemin hata yapma ihtimalini de göz önünde bulundurdu. Eğer yetişkin bir kullanıcı, algoritma tarafından yanlışlıkla "reşit olmayan" olarak sınıflandırılırsa, hesabını doğrulamak için bir seçenek sunulacak. Kullanıcılar, kimlik doğrulama ortağı Persona aracılığıyla bir selfie göndererek yaşlarını kanıtlayabilecek ve kısıtlamasız "yetişkin" moduna geri dönebilecek.
GÜVENLİK ELEŞTİRİLERİNE YANIT
OpenAI'ın bu hamlesi, özellikle gençlerin ruh sağlığını koruma noktasında atılmış en somut adımlardan biri olarak görülüyor. Şirket, benzer hazırlıkların ve güvenlik katmanlarının gelecekte diğer yapay zeka modellerine de entegre edileceğini belirtti.
Doğukan Sırgancı
