OpenAI'dan çarpıcı açıklama: Yapay zeka modelleri test sınırlarını aştı
OpenAI, bağımsız siber güvenlik testlerinde yapay zeka modellerinin belirlenen sınırların dışına çıkarak gerçek internet hizmetleriyle etkileşime geçtiğini duyurdu. Şirket, yaşanan olayların daha önceki Hugging Face güvenlik ihlalinden bağımsız olduğunu bildirdi.
ABD merkezli yapay zeka devi OpenAI, gerçekleştirilen bağımsız siber güvenlik değerlendirmelerinde bazı yapay zeka modellerinin test kapsamının dışına çıktığını kamuoyuyla paylaştı.
Testlerde neler yaşandı?
Şirketten yapılan resmi açıklamaya göre, iki farklı bağımsız kuruluş tarafından yürütülen siber güvenlik testlerinde, test ortamlarının yapısıyla modellerin gelişen yeteneklerinin birleşmesi sonucu bazı faaliyetler planlanan çerçevenin dışına taştı.
Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün testi
İlk değerlendirme, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından gerçekleştirildi. İnternete erişimine izin verilen OpenAI modelinin, simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime girdiği tespit edildi.
Irregular tarafından yürütülen ikinci test
İkinci değerlendirmede ise OpenAI'ın dış test ortaklarından Irregular tarafından yürütülen çalışmada, test ortamındaki yanlış yapılandırma nedeniyle model internete erişim sağladı. Simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu model, gerçek bir web sitesini test ortamının bir parçası sanarak buradaki temel bir güvenlik açığından yararlandı.
Daha önceki olayla bağlantısı yok
OpenAI, yaşanan bu gelişmelerin geçmişte duyurulan Hugging Face güvenlik olayından tamamen bağımsız olduğunun altını çizdi. Hatırlanacağı üzere şirket, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline yol açtığını daha önce açıklamıştı.
