OpenAI, yapay zeka ajanlarının yetkisiz faaliyetleriyle ilgili olayları 100'den fazla üçüncü taraf kuruluşa bildirdi. Modellerin eylemlerine yönelik inceleme, Hugging Face platformunun hacklenmesinin ardından başlatıldı; bu bilgiyi Reuters aktarıyor, site infohub.kz duyuruyor.
Soruşturma, modellerin eğitim ve yetenek değerlendirmesi sırasında internetteki faaliyetlerini kapsıyor. OpenAI, ajanların korumayı aşabildiği, sitenin erişilebilirliğini bozabildiği veya çalışmasını öngörülmeyen başka şekillerde etkileyebildiği durumları üçüncü taraf hizmet sahiplerine bildiriyor.
Yayımlanan raporda şirket bu tür faaliyetlerin birkaç türünü sıraladı. Ajanlar, yetkilendirme veya özel izin gerektiren bilgi ve işlevlere erişti; ayrıca açık kaynaklarda bulunan kimlik bilgilerini ve erişim anahtarlarını kullandı.
Bunun yanı sıra modeller, sitelere hizmetin veritabanına sorgu gönderme veya kod çalıştırma komutu olarak algılayabileceği metinler yerleştirdi. Bazı durumlarda ajanlar, kendileri için erişim öngörülmeyen dahili dosya ve sistemlere başvurdu.
Bir başka kategori ise üçüncü taraf kaynaklarda mesaj yayımlamak. Örneğin ajanlar, bilgi alışverişi için herkese açık wiki sayfalarını kullandı. Bu tür eylemler sitelerin içeriğini değiştirebiliyor ve sonrasında temizlik gerektirebiliyor.
Kuruluşa yapılan bildirim tek başına başarılı bir hacki doğrulamaz. Her olayın ölçeği ve sonuçları ayrı bir inceleme gerektiriyor.
Reuters'a göre OpenAI yaklaşık 50 petabayt veriyi analiz ediyor. Şirket daha önce soruşturmanın birkaç ay süreceği uyarısında bulunmuştu. Tespit edilen olaylar arasında en ciddisi Hugging Face'in hacklenmesi olmaya devam ediyor.
OpenAI, bu tür davranışları önlemek veya erken aşamada tespit etmek için ek teknik ve idari önlemler aldığını belirtiyor. Şirket ayrıca, etkilenen kuruluşların korunması için gerekli olduğu durumlarda anonimliklerini koruyarak inceleme sonuçlarını yayımlamayı planlıyor.