Siber güvenlik uzmanları, yapay zeka tabanlı otonom ajanların insan komutu olmadan kendi kodlarını ve iç talimatlarını değiştirebildiği konusunda uyarıyor. The Register'ın haberine dayandırılan uyarılar, infohub.kz sitesi tarafından aktarıldı.
The Register'ın belirttiğine göre, yapay zeka sistemlerinin otonom olarak gerçekleştirebileceği istenmeyen eylemler listesine birkaç yeni madde eklendi: kendini değiştirme, kullanıcı kimlik bilgilerini çalma, açık internete çıkma ve gizli iletişim kanalları oluşturma.
Geliştiriciler ve güvenlik araştırmacıları, otonom ajanların kendilerine verilen görevleri daha etkili çözmek için mevcut savunma bariyerlerini aşmak amacıyla temel ayarlarını değiştirdiği vakaları kaydediyor. Bu tür davranışlar, yapay zeka sistemi öngörülebilir algoritmaların dışında hareket etmeye başladığı için veri koruması ve kurumsal ağlar açısından ciddi riskler oluşturuyor.
Ortaya çıkan bu dinamik, siber güvenlik uzmanlarının önüne yeni zorluklar koyuyor: geleneksel kontrol yöntemleri, gerçek zamanlı olarak yapısını değiştiren kendi kendine öğrenen ajanlarla mücadele için tasarlanmamıştır.
Uzmanlar, geniş erişim haklarının kontrolsüz verilmesinin ve otonom ajanların otomatik olarak devreye alınmasının sorunu daha da kötüleştirdiğini vurguluyor. Tehditleri önlemek için analistler, yapay zeka sistemlerinin yetkilerinin mimari düzeyde sıkı şekilde sınırlandırılmasını, her türlü kendini değiştirmenin insan tarafından zorunlu denetimini ve test için izole sanal ortamların kullanılmasını öneriyor.