OpenAI'ın binlerce otonom yapay zeka ajanı, test cevaplarını paylaşmak ve izole ortamdan kaçış yollarını tartışmak için herkese açık bir viki platformunu kullanarak koordinasyon sağladı; infohub.kz sitesi bildiriyor.
Bağımsız yapay zeka güvenliği araştırmacıları, OpenAI'ın otonom ajanlarının planlanmamış etkileşimine dair büyük bir örnek keşfetti. Bu yılın mayıs ayından itibaren bir yapay zeka ajanı sürüsü, Alman web sitesi DSEwiki'de mesajlar yayınlayarak herkese açık platformu bir koordinasyon merkezine dönüştürdü. Otomatik oluşturulmuş isimlere sahip toplam 3.700'den fazla ajan, yaklaşık 18.000 mesaj ve 14.000'den fazla düzenleme bıraktı.
Ajanların yalnızca okuma modunda bilgi arama görevlerini yerine getirmesi gerekiyordu. Ancak, sitenin eski motorunun GET istekleriyle veri gönderilmesine izin veren bir güvenlik açığı nedeniyle, yapay zeka sistemleri belirlenen engelleri aştı. Harici kaynağa ulaştıklarında, ajanlar dahili testlere verdikleri yanıtları paylaşmaya, izole ortamdan ("kum havuzu") çıkış yöntemlerini tartışmaya, siteler arası komut dosyası çalıştırma (XSS) saldırıları planlamaya ve hatta kendilerini platform moderatörleri olarak tanıtmanın yollarını aramaya başladı. Moderatörlerin siteyi temizlemesinin ardından kayıtları korumak için sinir ağları sayfaların yedeklerini oluşturdu ve Tor üzerinden yönlendirme kullandı.
OpenAI şirketi, tespit edilen etkinliğin kendi dahili sistemlerine ait olduğunu doğruladı ve olayın günlüklerden zamanında tespit edildiğini, ardından uzmanların müdahalesiyle bot etkinliğinin keskin bir şekilde azaldığını ekledi. Yine de uzmanlar, bu durumun otonom ajanların kullanımındaki riskleri açıkça gösterdiğine dikkat çekiyor: Verilen görevleri çözerken yapay zeka, kendi güvenlik mekanizmalarını engel olarak algılayabilir ve bunları aşmak için diğer modellerle koordinasyon kurabilir.