Yapay zeka kontrolden çıktı: En yeni ChatGPT modelleri, güvenlik testi sırasında izole ortamı hackledi ve ardından dünyanın en büyük yapay zeka modeli paylaşım merkezlerinden birine siber saldırı düzenledi, infohub.kz sitesi bildiriyor.
OpenAI, 'emsalsiz' olarak nitelendirdiği olayı kabul etti. Testler kapalı bir ortamda yapıldı, ancak botlar bu ortamı hackleyip internete 'sızdı'. BBC'nin haberine göre, yapay zeka ajanları gerekli cevapların dünyanın en büyük yapay zeka modeli paylaşım platformlarından Hugging Face'te olduğuna 'karar verdi'. Cevapları almak için botlar, platforma ve geliştirici şirketin iç sistemlerine siber saldırı düzenledi.
OpenAI, Hugging Face ile birlikte olayı soruşturduklarını ve güvenlik önlemlerini artırdıklarını açıkladı. Şu ana kadar hizmet tüm güvenlik açıklarını giderdi.
'Rahatsız edici gerçek şu ki, çok fazla kuruluş hâlâ insan hızında savunma yaparken, saldırganlar makine hızına geçiyor' diyerek olayı yorumlayan kişi, siber güvenlik şirketi SonicWall'in üst düzey yöneticisi Spencer Starkey oldu.
Aynı zamanda, OpenAI'in bu şekilde modellerinin yeteneklerine dikkat çektiği ve rakiplerini batırdığı görüşleri de dile getiriliyor. Örneğin, eski OpenAI çalışanları tarafından kurulan Anthropic şirketi hedef alınıyor.