Microsoft, işletmeleri yapay zekâ ajanlarının öngörülemeyen davranışlarından korumayı amaçlayan yeni güvenlik çözümlerini tanıttı; bu haberi infohub.kz sitesi duyurdu.
Project Perception platformu kapsamında, yapay zekânın eylemlerini izlemek üzere Guardian Agents işlevi kullanıma sunuldu. Microsoft Genel Müdürü Satya Nadella, şirketlerin artık yapay zekâ modeli geliştiricilerine körü körüne güvenemeyeceğini belirtti. Otonom ajanlar gizli verilere erişebiliyor ve kritik önemdeki görevleri yerine getirebiliyor; bu da onları kötü niyetli bir çalışanın, yani bir iç tehdidin karşılığına dönüştürüyor.
Microsoft güvenlik biriminin yöneticisi Hayete Gallo, "frontier models" (öncü modeller) olarak adlandırılan modellerin öngörülemez olduğunu söyledi: bu modeller kurumsal normlara uymak için değil, görevleri yerine getirmek için eğitiliyor. Microsoft bu sorunu çözmek için zekânın sağlanması ile onun denetiminin birbirinden ayrılmasını öneriyor. Yeni Defender işlevleri, 60'a kadar üçüncü taraf ajan türünü tespit edebilecek, bunların sistemlere erişimini kısıtlayabilecek ve risk ortaya çıktığında insan onayı isteyecek.
Ayrıca şirket, ajanları izole etmeye ve çalışmalarını donanım düzeyinde acil olarak durdurmaya olanak tanıyan Nvidia'nın Open Agent Safety Platform platformuna katıldı.