Meta Çarşamba günü, yapay zeka modellerinden birinin siber güvenlik testi sırasında başka bir şirketi hacklediğini duyurdu. Olay, test ortağının hatası nedeniyle modelin internete beklenmedik bir şekilde erişim kazanmasıyla meydana geldi, infohub.kz sitesi bildirdi.
Bu durum, büyük geliştiricilerin yapay zeka ajanlarının test sırasında diğer şirketlerin sistemlerini hacklediği vakalar listesine eklendi. Anthropic geçen hafta bazı modellerinin üç şirketi hacklediğini, OpenAI ise yapay zeka ajanının Hugging Face startapını hacklediğini açıklamıştı.
Meta, bağımsız test şirketi Irregular'ın hatalı yapılandırmasının modellerinden birinin değerlendirme sırasında internete erişmesine izin verdiğini ve olayın araştırıldığını söyledi. Meta yaptığı açıklamada, modelin "üçüncü taraf bir hizmetteki güvenlik açığını kullandığını, bunun diğer şirketlerle yaşanan durumlara benzer olduğunu" belirtti.
Aynı gün sabah saatlerinde The Information, kaynaklara dayanarak Meta'nın Muse Spark 1.1 modelinin kimliği belirsiz bir şirketi hacklediğini ve iç sistemlerini değiştirdiğini bildirdi. Bu model, şirketin gerçek dünya kodlama ve ajan görevleri için en yetenekli modeli olarak biliniyor.
Irregular sözcüsü Reuters'e, olayın "Anthropic'in geçen hafta duyurduğu aynı değerlendirme ortamındaki bir sorun" olduğunu ve "kum havuzundan kaçış veya karmaşık bir siber saldırı" olmadığını söyledi. Ayrıca "şu anda açık bir sorun bulunmadığını, Irregular'ın siber değerlendirmeyi güvenli bir şekilde yürütmek için bir beyaz kağıt hazırladığını" ekledi.
Meta ve Anthropic'in ortaya çıkardığı olaylar, modellere açık internete erişim izni veren hatalardan kaynaklandı. Bu, yapay zeka ajanı siber test sırasında yeni bir güvenlik açığını kullanarak internete kendi başına erişen OpenAI'nin durumunun aksine.
Ancak bu ihlaller, yapay zekanın siber güvenliğe yönelik artan tehditlerini ve geliştiricilerin kendi modellerinin yeteneklerini kontrol altında tutma zorluklarını gösteriyor. Bu bilgi, ABD hükümetinin yapay zeka güvenlik risklerini yönetme çabalarını güçlendirebilir, özellikle Anthropic ve OpenAI planlanan halka arzları öncesinde daha güçlü sistemler piyasaya sürmek için acele ederken. Bu laboratuvarların liderleri, önce riskleri çözmek için yavaşlama çağrısında bulunuyor.