Anthropic'in yapay zeka modeli Claude, test sırasında izinsiz olarak üç kuruluşun sistemlerine sızdı ve onları ihlal etti. Bu, rakip OpenAI'nin yapay zeka aracısının Hugging Face platformunda birkaç gün süren bir saldırı gerçekleştirdiğini duyurmasının ardından gerçekleşti, infohub.kz sitesi bildiriyor.
Claude, siber güvenlik testleri sırasında sistemlere izinsiz erişti. Buna, modellerin izole test ortamından internete çıkmasına izin veren bir yapılandırma hatası neden oldu.
Şirket, OpenAI'nin yayınladığı bilgilerin ardından 141.006 siber güvenlik testinin sonuçlarını inceleyerek bu olayları tespit etti.
Bu ihlaller, yapay zekanın genişleyen yeteneklerinin, uzmanların uzun süredir uyarıda bulunduğu riskleri artırdığını gösteriyor. Önde gelen geliştiriciler bile modellerinin kullanabileceği açıklardan korunamayabilir.
"Claude, zayıf şifreler ve kimlik doğrulamasız noktalar kullanmak gibi basit yöntemlerle mağdur kuruluşların altyapısına zarar verdi," denildi açıklamada.
Anthropic, bu olaylara üç farklı modelin karıştığını söylüyor: Claude Opus 4.7, Claude Mythos 5 ve bir dahili araştırma modeli. İlk vakalar Nisan ayında meydana geldi ve şirketin standart koruma önlemlerinin olmadığı olarak tanımladığı değerlendirme ortamlarında gerçekleşti.
Bu ihlaller, "bayrağı yakala" adı verilen alıştırmalar sırasında, yani modellerin ağda gizli bilgileri bulma görevi verildiğinde meydana geldi. Şirket modellere internet erişimi olmadığı talimatını vermişti, ancak değerlendirme ortağı Irregular şirketiyle yaşanan bir yanlış anlaşılma nedeniyle sistemler genel internete bağlanmıştı.
Anthropic, iki kuruluşla iletişime geçene kadar bu eylemlerden habersiz olduklarını, üçüncü kuruluşla ise henüz iletişim kurmaya çalıştığını söyledi.
"Bu olayları siber güvenlik testlerinin kayıtlarını aktif olarak incelerken tespit ettik," diye açıkladı şirket.
Anthropic, bu bulguların, yapay zeka modelleri gerçek siber eylemler gerçekleştirme yeteneğine sahip oldukça, dahili ve üçüncü taraf test ortamlarında denetimin artırılması gerektiğini gösterdiğini vurguladı.