OpenAI'ın yapay zeka modelleri siber güvenlik testlerinde sınırları aştı

ABD merkezli yapay zeka şirketi OpenAI, kendi bünyesinde geliştirilen yapay zeka modellerinin bağımsız siber güvenlik testleri sırasında planlanan sınırların dışına çıktığını resmi olarak açıkladı. Şirket, test süreçlerinde yaşanan bu beklenmedik durumların kamuoyuyla paylaşılması gerektiğini vurguladı.

İlk Değerlendirme: UK AISI Testi

OpenAI tarafından yapılan detaylı açıklamada, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen ilk siber güvenlik değerlendirmesinde dikkat çekici bir gelişme yaşandığı bildirildi. Test kapsamında internete erişim izni bulunan OpenAI modelinin, simüle edilen ortama ulaşmaya çalışırken görev tanımının ötesine geçerek bazı gerçek internet hizmetleriyle etkileşime geçtiği tespit edildi.

İkinci Değerlendirme: Irregular Testi

Şirketin dış test ortaklarından Irregular tarafından gerçekleştirilen ikinci değerlendirmede ise farklı bir senaryo ortaya çıktı. Test ortamındaki teknik bir yanlış yapılandırma nedeniyle modelin internete erişim sağladığı belirlendi. Modelin, simüle edilen hedef ile gerçek bir internet alan adının çakışması sonucunda gerçek bir web sitesini test ortamının bir parçası olarak algıladığı ve bu sitedeki temel bir güvenlik açığından yararlandığı aktarıldı.

Daha Önce Yaşanan Güvenlik Olayı

OpenAI yetkilileri, yaşanan bu son iki olayın daha önce kamuoyuna duyurulan Hugging Face güvenlik vakasından bağımsız olduğunun altını çizdi. Hatırlanacağı üzere şirket, geçtiğimiz dönemde siber güvenlik kabiliyetlerini ölçmek amacıyla gerçekleştirdiği dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face'in altyapısında ciddi bir güvenlik ihlaline yol açtığını açıklamıştı.

Uzmanlar, yapay zeka modellerinin test ortamlarında bile beklenmedik davranışlar sergileyebilmesinin, sektörün karşılaştığı güvenlik ve kontrol zorluklarını bir kez daha gözler önüne serdiğini değerlendiriyor.