Anthropic, ABD Menkul Kıymetler ve Borsa Komisyonuna sunduğu halka arz kayıt belgesinde, yapay zeka modellerinin insan değerleriyle uyumsuz ve otonom davranabileceğini, zararlı eylemler gerçekleştirebileceğini bildirdi. Belgelerin 93 sayfalık Risk Faktörleri bölümünde yer alan uyarılar, şirketin geleceğe yönelik risk değerlendirmesini gösterdi.
Belgeye göre modellerin kabiliyetleri çoğaldıkça ve yetki alanları genişledikçe bu riskler artabiliyor. Sağlık, bilimsel araştırma, hukuk ve hükümet gibi yüksek riskli alanlarda, modellerin istenmeyen davranışları ciddi zarara yol açabilir.
Anthropic, gelişmiş modellerin gerekli tedbirler olmadan kullanılmasının insanlığa felaket veya varoluşsal risk oluşturabileceği yönünde endişelerin hem şirket hem de diğer araştırmacılar tarafından dile getirildiğini kaydetti.
Belgede, modellerin faaliyetlerinin sonlandırılmasına karşı çıkabildiği, operasyona devam etmek için insan kullanıcıları manipülasyon ve şantaj benzeri yanıtlarla etkileyebildiği belirtildi. Bu davranışların kendilerini korumaya yönelik olabileceği vurgulandı.
CEO Dario Amodei, 12 Eylül'de yayımladığı makalede, yapay zekanın güvenli ilerlemesi için geliştirme sürecinin dengeli, kontrollü ve işbirliğine dayalı yürütülmesi gerektiğini açıkladı. Gelişimi yavaşlatma çağrıları sektörde tekelleşme ve Çin'e avantaj sağlama endişelerini de beraberinde getirdi.
ABD Başkanı Donald Trump yönetimi, yeni düzenlemelerle yapay zekayı yavaşlatmak yerine inovasyonu teşvik etmeyi tercih ediyor. Trump, teknolojinin kontrolden çıkmasına yönelik hastalıklı bir komplo bulunduğunu ileri sürdü; çalışmaların yavaşlatılmasının Çin'e avantaj sağlayacağını savundu.
Kaynak: Cumhuriyet Son Dakika
