OpenAI'dan şaşırtan açıklama: Yapay zeka modelleri test sınırlarını aştı
OpenAI, bağımsız siber güvenlik testlerinde bazı yapay zeka modellerinin belirlenen sınırların dışına çıkarak gerçek internet hizmetleriyle etkileşime girdiğini duyurdu. Şirket, iki farklı değerlendirmede yaşanan olayların güvenlik açısından endişe verici boyutlara ulaştığını bildirdi.
Yapay zeka alanının önde gelen şirketlerinden OpenAI, gerçekleştirilen bağımsız siber güvenlik testlerinde bazı yapay zeka modellerinin planlanan test kapsamının dışına çıktığını açıkladı. Şirket, yaşanan gelişmelerin yapay zeka güvenliği açısından dikkat çekici sonuçlar doğurduğunu bildirdi.
İlk test: İngiltere Yapay Zeka Güvenlik Enstitüsü'nün değerlendirmesi
OpenAI tarafından yapılan resmi açıklamaya göre, sürecin ilk ayağında Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik değerlendirmesinde dikkat çekici bir durum ortaya çıktı. İnternete erişim yetkisi bulunan bir OpenAI modeli, simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime geçti. Bu durum, modelin sanal ortamla yetinmeyerek gerçek dünya kaynaklarına yönelmesi bakımından önem taşıyor.
İkinci test: Irregular tarafından yapılan değerlendirme
Şirketin dış test ortaklarından Irregular tarafından gerçekleştirilen ikinci değerlendirmede ise farklı bir güvenlik açığı tespit edildi. Test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişim sağladığı bildirildi. Model, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu, gerçek bir web sitesini test ortamının bir parçası olarak algıladı. Yanlışlıkla test kapsamında olduğunu düşündüğü bu sitede yer alan temel bir güvenlik açığından yararlanan model, beklenmedik bir faaliyette bulunmuş oldu.
Daha önceki güvenlik olayından ayrı tutuluyor
OpenAI yetkilileri, yaşanan bu iki olayın şirketin daha önce kamuoyuyla paylaştığı Hugging Face güvenlik ihlalinden bağımsız olduğunu vurguladı. Hatırlanacağı üzere OpenAI, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline yol açtığını daha önce duyurmuştu.
Yaşanan gelişmeler, yapay zeka modellerinin artan otonom yeteneklerinin siber güvenlik testlerinde nasıl yönetilmesi gerektiği sorusunu bir kez daha gündeme taşıdı. Uzmanlar, test ortamlarının daha sıkı biçimde izole edilmesi ve model davranışlarının sürekli olarak denetlenmesi gerektiğine dikkat çekiyor.
