Yapay sinir ağları geliştiren Anthropic şirketinden iki eski çalışan, yapay zekanın hızlı gelişimi nedeniyle kamuoyunu alarma geçirdi. Araştırmacılar, insanlığın sonuçlara hazırlanmadan önce teknoloji üzerindeki kontrolünü kaybedebileceğinden endişe ediyor, infohub.kz sitesi bildiriyor.
Anthropic'in güvenlik araştırma ekibinin eski başkanı Joe Benton, Claude sohbet botunun geliştiricisinden ayrıldığını ve kâr amacı gütmeyen METR kuruluşuna geçtiğini açıkladı.
«Geçen hafta Anthropic'ten ayrıldım, METR'e katılıp yapay zeka risklerinin yerinde değerlendirilmesiyle ilgilenmek için», — dedi Joe Benton.
METR, ileri modellerin yeteneklerini araştırıyor ve yapay zekanın toplum için ciddi bir tehdit oluşturmaya ne zaman başlayabileceğini belirlemeye çalışıyor. NBC'ye verdiği röportajda Benton, özellikle teknolojinin gelişme hızından korktuğunu itiraf etti, Reuters aktarıyor.
«Yapay zekanın çok hızlı gelişmeye başlayabileceği ve şimdi düşünmezsek gerekli önlemleri almaya vaktimizin olmayacağı beni endişelendiriyor», — dedi Benton.
Ancak en büyük yapay zeka şirketlerinden birinin içinden gelen endişe verici itiraflar bununla sınırlı kalmadı. Birkaç gün sonra, daha önce OpenAI'de de çalışan Jacob Coxon, Anthropic'ten ayrıldığını duyurdu.
Araştırmacı, her iki şirketi de kendini geliştiren bir süper zeka yaratma yarışında tehlikeli olmakla suçladı. Ona göre geliştiriciler, modelleri kontrol altında tutmanın güvenilir bir yolu olmamasına rağmen yeteneklerini artırmaya devam ediyor.
«Hiçbir şirket sorumlu davranmıyor. Doğrudan kendini geliştiren süper zekaya doğru koşuyorlar ve hayatlarımızla oynuyorlar», — yazdı Coxon.
İleri yapay zeka yaratımında doğrudan yer alan uzmanların, insanlığın yok olması senaryosunu önümüzdeki yıllarda ciddi olarak değerlendirdiğini iddia ediyor.
«Yapay zekayı yaratan insanlar, onun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor. Bu bir pazarlama hilesi değil», — ekledi araştırmacı.
Coxon yapay zeka sektöründen tamamen ayrıldı, Benton ise teknoloji güvenliğiyle bağımsız bir kuruluşta çalışmaya devam edecek. Ancak her iki uzmanın Anthropic'ten iki gün içinde ayrıldığı yönündeki haberler doğru değil: Benton kararını 2 Eylül'de, Coxon ise 8 Eylül'de bildirdi.