Anthropic şirketi, ABD Kongresi'ne, ileri düzey yapay zekâ modellerinin piyasaya sürülmesinin veya kullanılmasının mahkeme kararıyla engellenmesine olanak tanıyan bir yapay zekâ güvenliği yasa tasarısı sundu; haber infohub.kz sitesinde yer aldı.
Belgeye göre devlet kurumları yalnızca 50'den fazla kişinin ölümü ya da ağır yaralanması veya 1 milyar doları aşan maddi zarar tehdidi doğuran, öngörülebilir ve yakın bir felaket riski bulunduğunda müdahale edebilecek.
Şirketin önerisi, yapay zekâ sistemlerini engelleme konusundaki münhasır yetkiyi federal bir hâkimin kararıyla ABD Ticaret Bakanlığı'na veriyor. Bu kapsamda diğer federal kurumların ve eyaletlerin sinir ağlarının sürümlerini kendi başlarına kısıtlaması yasaklanacak.
Anthropic temsilcileri, belgenin şirketin ileri düzey yapay zekâyla çalışma konusundaki kendi yaklaşımını yansıttığını ve sektörün devlet tarafından düzenlenmesine makul bir yaklaşım sunduğunu belirtti.
Yasa tasarısı uzmanlar ve hak savunucuları arasında tartışma yarattı. Eleştirmenler, devletin müdahalesi için öngörülen eşiğin çok yüksek olduğuna dikkat çekerek sistem devreye alınmadan önce olası can kaybı sayısının doğru şekilde tahmin edilmesindeki güçlüklere işaret ediyor. Ayrıca tek tek eyaletlerin eylemlerine getirilen kısıtlamaların, yapay zekâ güvenliği alanındaki yerel mevzuatı zayıflatabileceği ve denetim sürecini aşırı merkezileştirebileceği vurgulanıyor.