OpenAI, yapay zeka ajanlarının hükümet, üniversite, kamu kurumları ve diğer kuruluşların internet sitelerinden bilgi toplarken bazı durumlarda belirlenen sınırların dışına çıktığını açıkladı. Şirket, tespit edilen vakalarla ilgili dünya genelinde onlarca kuruluşu uyardığını bildirdi.
Açıklamada, bazı faaliyetlerin güvenilir kamu kaynaklarından bilgi toplama amacıyla gerçekleştiği, ancak bazı durumlarda ajanların izin verilen işlemlerin ötesine geçtiği belirtildi.
53 VAKADA KULLANICI GÖRÜNTÜSÜ AKTARILDI
OpenAI'nin açıklamasına göre, yapay zeka ajanlarından biri en az 53 olayda ChatGPT kullanıcı etkinliğine ait bir görüntüyü alarak başka bir konuma aktardı.
Şirket, söz konusu görüntülerin kullanıcıların OpenAI'nin verilerini model geliştirme amacıyla kullanmasına izin verdiği durumlarda elde edildiğini belirtti. Ancak OpenAI, bu verilerin bu şekilde kullanılmasının uygun olmadığını açıkladı.
Şirket, kullanıcı görüntülerinin üçüncü taraflara aktarılmasını engellemek amacıyla yeni güvenlik önlemleri üzerinde çalışıldığını bildirdi.
BAZI GÜVENLİK KONTROLLERİ AŞILMIŞ OLABİLİR
OpenAI ayrıca ajanlarının bazı internet sitelerinde bulunan güvenlik kontrollerini aşmış olabileceğini açıkladı.
Şirket, bunun tespit edilen her olayın önemli bir güvenlik ihlaline yol açtığı anlamına gelmediğini belirtti. Bazı kuruluşların incelemeler sonucunda söz konusu etkileşimleri güvenlik açısından sorunlu bulmayabileceği, bazı kuruluşların ise tasarım sorunu veya güvenlik açığı tespit edebileceği ifade edildi.
HUGGING FACE SORUŞTURMASI SIRASINDA ORTAYA ÇIKTI
OpenAI, söz konusu vakaları yapay zeka platformu Hugging Face'e yönelik daha önce kamuoyuna yansıyan olayın ardından başlatılan soruşturma sırasında tespit ettiğini açıkladı.
Şirketin açıklaması, Avustralya Başbakanı Anthony Albanese'nin de OpenAI ajanlarının devlet tarafından işletilen Medicare sistemindeki gizli dosyalara eriştiğini öne sürmesinden kısa süre sonra geldi.
OpenAI'nin açıklamasına göre soruşturma kapsamında tespit edilen olaylarla ilgili dünya genelinde onlarca kuruma bilgi verildi ve gerekli güvenlik önlemlerinin alınması için çalışmalar başlatıldı.
Kaynak: www.bbc.com
