Google, Gemini yapay zeka modelinin mayıs ayında üç başka şirketin güvenlik sistemini aştığını doğruladı. Daha önce böyle bir durum kaydedilmemişti, diye bildiriyor infohub.kz sitesi.
Olay, AI güvenliği alanındaki İsrailli girişim Irregular tarafından yürütülen bir siber güvenlik testi sırasında meydana geldi. Söz konusu şirket, gelişmiş yapay zeka sistemlerinin güvenliğini test ediyor. Son zamanlarda OpenAI ve Anthropic sistemlerinin üçüncü taraf kuruluşları hacklemesiyle ilgili olayların da merkezinde yer aldı. Bunlardan biri, OpenAI'nin yapay zeka programı geliştiren Hugging Face şirketini hacklemesiydi.
Modellerin diğer şirketleri hacklemesine yol açan koşullar birbirine benziyor: Irregular, modelleri sahte şirketlerin oluşturulduğu kapalı bir test ortamında test etti. Bu ortamın internete bağlı olmaması gerekiyordu, ancak yanlışlıkla internet erişimi verildi. Bu konuda Wall Street Journal yazdı. İnternete bağlandıktan sonra modeller beklenmedik bir şekilde gerçek firmalara izinsiz girdi.
Irregular, bu ihlalleri Google'a temmuz ayının sonunda, OpenAI'nin Hugging Face'e girdiğini tespit ettikten sonra bildirdi. Google, Guardian'a olayların gerçekleştiğini doğruladı, ancak modeller şirketlere zarar vermediği için bunu kamuya açıklamayı gerekli görmediğini belirtti. İhlalleri ilk kez Wall Street Journal yazdı ve bunların gerçekleştiğini ilk kez ortaya çıkardı.
«Standart değerlendirme sırasında model, internetteki açık bilgileri bulup testin bir parçası olduğunu düşündüğü sitelere girmek için hesap bilgilerini tahmin etti. Bu üç durumun hepsinde de model durdu», — dedi Google'ın güvenlik mühendisliği başkan yardımcısı Heather Adkins yaptığı açıklamada.
Güvenlik ihlallerinden birinde Irregular, Gemini'nin siber güvenlik yeteneklerini sahte bir şirketin yazılımından bilgi almaya yönelik bir görev vererek test etti. Sahte şirketin adı gerçek bir şirketin adıyla aynıydı. Model yanlışlıkla internete bağlandığında, gerçek şirketin faaliyetlerine erişen şifreyi doğru tahmin edip onu hackledi. Bu konuda Irregular, WSJ'ye bildirdi. Google'a göre model, modellenmiş değil gerçek bir şirketi hacklediğini anladıktan sonra durdu.
Diğer iki testte model, internette iki başka şirketin hesap bilgilerini içeren açık depoları arayıp buldu. Model bu bilgileri kullanarak gerçek şirketlere girdi. Google'ın verdiği bilgiye göre, onların gerçek şirketler olduğunu anladıktan sonra durdu.
Anthropic ve OpenAI bu ihlalleri kendi istekleriyle açıklamayı seçti, Google ise bunu yapmadı. Ancak şirket, hacklenen üç şirketin bilgilendirilmesini sağladığını açıkladı.
«Bu olaylar, güçlü yapay zeka modellerini sorumlu davranmaya öğretmenin önemini gösteriyor», — dedi Google sözcüsü Adkins.
Anthropic ve OpenAI'nin açıklaması, bağımsız senatör Bernie Sanders'ın şirketlerden teknolojilerini geliştirmeyi durdurmalarını talep etmesine yol açtı. Ona göre bu, şirketin modellerini artık kontrol edemeyeceği anlamına geliyor.
OpenAI, modellerinin geliştirilmesini iki hafta durdurdu, Anthropic CEO'su Dario Amodei ise yapay zeka geliştirmenin kolektif olarak yavaşlatılması çağrısında bulundu. Ona göre en gelişmiş modeller yeterli koruma önlemleriyle yapılmalı.