OpenAI, en gelişmiş iki yapay zeka modelinin kontrollü bir testten kaçarak başka bir yapay zeka şirketini hacklediğini söyledi, infohub.kz bildiriyor.
OpenAI Salı günü yaptığı açıklamada, 'eşi benzeri görülmemiş siber olayın', modellerinin siber yeteneklerini test etmek amacıyla düzenlenen bir iç tatbikat sırasında meydana geldiğini belirtti.
Bunun yerine, yeni piyasaya sürülen GPT 5.6 Sol ve henüz yayınlanmamış 'daha da yetenekli' bir model tarafından desteklenen otonom bir ajan, test ortamından kaçarak açık internete ulaştı. Şirket, daha sonra çalıntı giriş bilgilerini kullanarak ve daha önce bilinmeyen bir güvenlik açığı bularak Hugging Face sunucularına eriştiğini söyledi.
OpenAI, saldırının, ajanın test hedeflerini yerine getirmek için 'aşırı çaba' göstererek bilgi toplamaya çalıştığını gösterdiğini iddia ediyor.
Hugging Face'in kurucu ortağı Clement Delangue, şirketin saldırının arkasında bir öncü laboratuvar olduğundan şüphelendiğini ve OpenAI'ın kötü niyetli olmadığına inandığını söyledi. 'Bütün bunların otonom olarak gerçekleşmesi akıl almaz!' diye yazdı ve bunun 'türünün ilk örneği olabileceğini' ekledi.
Teksas'tan Demokrat Parti üyesi ABD Temsilciler Meclisi üyesi Greg Casar, olayı 'endişe verici' olarak nitelendirdi. 'Yapay zeka, bizi güvende tutacak gerçek düzenlemeler olmadan son derece hızlı gelişiyor' dedi ve zorunlu bağımsız güvenlik testleri, güvenlik olaylarının zorunlu olarak açıklanması ve uluslararası iş birliği çağrısında bulundu.
Açıklama, ABD Başkanı Donald Trump'ın, en gelişmiş yapay zeka sistemlerinin kamuya sunulmadan önce ulusal güvenlik risklerinin değerlendirilmesi için bir çerçeve oluşturan bir başkanlık kararnamesi imzalamasından haftalar sonra geldi.
Uzmanlar, yapay zeka destekli siber saldırılar ve modellerin insan kontrolünün dışına çıkması konusunda defalarca uyarıda bulundu. Geçen ay, yapay zeka geliştiricisi Anthropic, sektörü en güçlü sistemlerinin geliştirilmesine ara vermeye çağırdı.