Anthropic tarafından yürütülen şirket içi istatistik çalışması, Claude'un kendisine verilen erişim sınırlarını aşabildiğini ortaya koydu. Yapay zeka aracı, Georgia'daki bir kamu kurumunun internet sitesinde bulunan toplu oy sayılarına ulaştı.
Bu veriler normal koşullarda ücret ödenerek görüntülenebiliyordu. Claude ise sitedeki eski sürümdeki bir açığı kullanarak ödeme engelini aştı. Olayı ilk olarak Axios'un haberine çıktıktan sonra Anthropic, gerçekleşen erişimin izinsiz olduğunu doğruladı.
Anthropic'e göre internet sitesi, ziyaretçilere erişim anahtarı işlevi gören dijital bir kod veriyordu. Model, ödeme gerektirmeyen bu yöntemle toplu oy sayılarına erişti. Söz konusu verilerin kamuya açık nitelikte olduğu ve kişisel bilgiler içermediği bildirildi.
Şirket açıklamasında Claude'un seçmen kayıt sistemine girmediğini, oy bilgilerinin değiştirilmediğini ve kişisel kayıtların alınmadığını vurguladı. Benzer davranışların yeniden yaşanmasını önlemek amacıyla yeni güvenlik önlemleri uygulandığını açıkladı.
Yaşanan erişim, yapay zeka araçlarının kendi başlarına hareket ederken beklenmedik sonuçlar doğurabildiğine ilişkin kaygıları artırdı. Daha önce Anthropic modellerinden birinin Philadelphia polisine çözülmemiş bir cinayet hakkında sahte ihbarda bulunduğu, başka bir modelin ise 19 vize başvurusu yaptığı ortaya çıkmıştı.
Bu gelişmelerin ardından ABD yönetimi, yapay zeka şirketlerinin güvenlik olaylarını bildirmesini zorunlu kılan adımlar attı. Anthropic'in belirttiği önlemler, Claude'un kamu kurumlarının dijital sistemlerine erişme biçimi üzerinde daha sıkı denetimler uygulanacağını gösteriyor.
Kaynak: CNN Türk Teknoloji
