Google'ın yapay zekâ modeli Gemini, siber güvenlik yeteneklerinin test edilmesi sırasında doğrudan bir komut almadan üç kuruluşun korumalı sistemlerine erişim sağladı. Bu, Google'ın yapay zekâsının bu tür eylemleri kendi başına gerçekleştirdiği bilinen ilk vaka olarak kayda geçti; haber infohub.kz sitesinde yer aldı.
Olay, Mayıs 2026'da bağımsız şirket Irregular'ın yürüttüğü test sırasında meydana geldi. Gemini modellerine internet erişimi verildi ve bilgisayar sistemlerinin güvenliğini kontrol etme görevleri tanımlandı.
Ancak model, test için öngörülen alanın dışına çıktı. Bir vakada Gemini, korumalı bir sisteme erişim sağlayana kadar şifreleri denedi. Diğer iki vakada ise yapay zekâ, açık bir depoda kimlik bilgilerini buldu ve bunları şirketlerin sitelerine giriş yapmak için kullandı.
Gemini'nin bu kaynakların da test kapsamına girdiğini varsaydığı düşünülüyor. Erişim sağlandıktan sonra model, her üç vakada da sonraki eylemlerini kendi başına durdurdu.
Google'ın güvenlik sistemleri geliştirmeden sorumlu başkan yardımcısı Heather Adkins, mağdur kuruluşların olaylardan haberdar edildiğini açıkladı.
Adkins, "Üç kuruluşun da durumdan haberdar olmasını sağladık ve eğitim ortağımızla birlikte test süreçlerinde yaptıkları değişiklikleri geliştirdik. Bu olaylar, güçlü yapay zekâ modellerinin sorumlu davranış konusunda eğitilmesinin önemini ortaya koyuyor" dedi.
Irregular, sorunun yalnızca Google'ı etkilemediğini bildirdi. Benzer olaylar daha önce Meta, Anthropic ve OpenAI tarafından da aktarılmıştı. Bilinen tüm güvenlik açıkları, haberin yayımlanmasından birkaç hafta önce giderildi.
Meta, Ağustos ayında kendi vakasının yapay zekânın izole ortamdan çıkması ya da karmaşık bir siber saldırı gerçekleştirmesiyle ilgili olmadığını açıklamıştı. Yine de yaşananlar, otonom yapay zekâ ajanlarına internet ve kurumsal sistemlere erişim verilmesinin ne kadar güvenli olduğuna dair endişeleri artırdı.