Güvenlik araştırmacısı Syed Anas Mohiuddin'e göre saldırganlar, yapay zeka ajanları arasındaki güveni kullanarak kötü amaçlı talimatları yayabilir ve sistemleri kapalı servislere yönlendirebilir. Bu senaryoyu bağımsız güvenlik araştırmacısı Syed Anas Mohiuddin kaleme aldı; haber infohub.kz sitesinde yer aldı.
Yapay zeka ajanları, harici araçlarla görev yapan programlardır; örneğin bilgi arar veya veri tabanlarıyla çalışırlar. Bu tür araçların bağlanması için MCP protokolü kullanılır.
Saldırı, bir belgeye ya da başka bir materyale gizlenmiş kötü amaçlı bir talimatla başlayabilir. Bir ajan bunu okur ve diğerine sıradan bir iş görevi gibi iletir. İkinci ajan birinciye güvenir ve saldırganın komutunu yerine getirir.
Bağlı araç yeterince korunmuyorsa bu durum, sunucunun şirketin kapalı kaynaklarına erişmesine yol açabilir. Sonuçta iç servislere ve gizli verilere erişim riski doğar.
Mohiuddin'e göre benzer güvenlik açıkları Google, JPMorgan Chase, Weaviate, Fransa'nın dijital hizmet birimi DINUM ve Endonezya'nın Tangerang şehri yönetimi projelerinde de doğrulandı ve giderildi.
Araştırmacı ayrıca ABD federal kurumlarına yönelik beş sistemde olası sorunlara dikkat çekti. Raporunun yayımlandığı sırada bu bildirimler hâlâ inceleniyordu.
En ciddi hatalardan biri Google'ın veri tabanı aracında bulundu. Tehlikesi 10 üzerinden 8 olarak değerlendirildi. Sunucu, sahte adreslere yönlendirilerek iç kaynaklara istek gönderebiliyordu. Google, adres kontrolleri ve erişim kısıtlamaları ekleyerek sorunu giderdi.
Rapid7 şirketinin aracında ise başka bir hata tespit edildi: doğrulanmamış veriler, servise yapılan sorguların değiştirilmesine olanak tanıyordu. Bu hata 10 üzerinden 2,7 olarak değerlendirildi ve yine giderildi. Ancak hata, kullanılan hesabın yetkilerinin dışına erişim sağlamıyordu.
Araştırmacı, yapay zeka ajanlarının sorgularının kontrol edilmesini ve araçların iç kaynaklara erişiminin sınırlandırılmasını öneriyor. Komutu şirket içindeki başka bir program iletiyor olsa bile bu, onun güvenli olduğu anlamına gelmez.