Anthropic şirketinin CEO'su Dario Amodei, "We Must Pace the Frontier" başlıklı bir makale yayımlayarak teknoloji sektörüne yapay zeka kapasitesini artırma hızını bilinçli olarak düşürme çağrısında bulundu. Girişimin yöneticisine göre, yapay zeka alanındaki hızlı ilerleme, bilim insanlarının oluşturulan modelleri kontrol etme ve güvenliklerini sağlama yeteneğini aşmaya başladı. Bu haber infohub.kz sitesi tarafından bildirildi.
Amodei'nin planı üç temel adımı içeriyor. Birincisi, şirketler bağımsız dış değerlendiricilere (örneğin METR kuruluşu) kendi iç sistemlerine ve eğitim süreçlerine çalışan statüsünde sürekli erişim sağlamalı. Anthropic bu önlemi tek başına uygulamaya başladığını duyurdu. İkincisi, demokratik ülkelerdeki laboratuvarlar ortak güvenlik standartlarının geliştirilmesine katkıda bulunmalı. Üçüncü adım ise çipler üzerindeki ihracat kısıtlamalarını korurken ve model ağırlıklarının çalınmasına karşı koruma sağlarken otoriter rejimlerle işbirliğini de kapsayan küresel koordinasyonu öngörüyor.
Amodei'nin girişimi BT sektöründe geniş yankı uyandırdı. OpenAI CEO'su Sam Altman bağımsız uzmanların dahil edilmesi fikrini alenen desteklerken, girişimci Elon Musk da gelişim hızının kontrol edilmesi gerektiğini kabul etti.
Anthropic yöneticisinin açıklaması, şirketin Nasdaq borsasına açılma hazırlıkları ve otonom yapay zeka ajanlarının kontrolsüz davranışlarına ilişkin son olayların gölgesinde geldi.