New York Valisi Kathy Hochul, çocukların yapay zeka sohbet botlarından yararlanmasını sınırlandıran yeni bir yasayı 28 Ekim'de imzaladı. Tüketicilere sunulan yapay zeka modellerine yönelik kapsamlı düzenlemelerden biri olarak değerlendirilen yasa, sohbet botu işleten şirketlere yeni yükümlülükler getiriyor.
Düzenleme, yapay zeka sohbet botlarını işleten şirketlerin kullanıcıların yaşını doğrulamasını ve 18 yaşından küçük kullanıcılara sunulan bazı özellikleri kısıtlamasını gerektiriyor. Böylece çocukların bu sistemlerle kurduğu ilişkilerin belirli kurallar çerçevesinde sınırlandırılması hedefleniyor.
Yasayla, sohbet botlarının çocukların sistemi insan, canlı ya da insani duygulara sahip bir varlık olarak görmesine yol açabilecek içerikler üretilmesi yasaklanıyor. Çocuklara kişisel veya profesyonel ilişki kurulduğu, sistemlerinin bir otorite figürü olduğu veya yapay zeka tarafından üretilen görüşlerin kişisel görüş gibi sunulduğu izlenimleri verecek içeriklere de izin verilmeyecek.
Hochul, düzenlemenin çocukların duygusal ve fiziksel sağlıklarına ilişkin hassas bilgilerin sohbet botları tarafından saklanmasını önleyeceğini belirtti. Vali, çocukların arkadaş, erkek arkadaş ya da kız arkadaş gibi davranan sohbet botlarına erişiminin sınırlandırılacağını açıkladı.
New York teknoloji sektörünü temsil eden Tech:NYC, yasadaki bazı ifadelerin belirsiz olduğunu savundu. Kuruluş, düzenlemenin çocukları internet ortamında güvende tutarken öğrenmelerine ve kariyerlerine hazırlanmalarına yardımcı olabilecek araçlardan uzaklaştırmaması gerektiğini bildirdi. OpenAI ve Anthropic ise yasayla ilgili yorum taleplerine yanıt vermedi.
Çocukların medya ve teknoloji kullanımına yönelik ebeveynlere rehberlik eden kâr amacı gütmeyen Common Sense Media ise düzenlemeyi destekledi. Kuruluş, bazı yapay zeka sohbet botlarının çocuklar ve gençler için tehlikeli, hatta ölümcül olabilecek özellikler sunduğunu kaydetti. New York'ta bu tür özelliklerin yasaklanmasının çocukların güvenliğine katkı sağlayacağı değerlendirildi.
Kaynak: Habertürk
