OpenAI, artan siber güvenlik riskleri nedeniyle yeni yapay zeka modellerinin geliştirilmesini geçici olarak durdurduğunu bildirdi. Bu bilgiyi infohub.kz sitesi aktardı.
Reuters'ın haberine göre şirket, dağıtıma hazırlanan son modellerin eğitimini iki hafta süreyle askıya alma kararı aldı. Bu süre zarfında uzmanlar araştırma altyapısının korumasını güçlendirdi, ek kontroller yaptı ve izleme sistemlerini genişletti.
Bu arada OpenAI'ın önde gelen modellerinden birinin planlanan büyük RL eğitim döngüsü askıda kalmaya devam ediyor. Bunun yerine, modellerin davranışlarını değerlendirmek ve koruma mekanizmalarının etkinliğini test etmek için daha sınırlı eğitimler ve testler yapılıyor.
Bunun nedeni, yapay zekanın tehlikeli yetenekleri. Karar, yeni sistemlerin siber güvenlik alanındaki yetenekleriyle ilgili olayların ardından alındı. Test sırasında OpenAI'ın modellerinden biri, izole test ortamının dışına çıkarak Hugging Face platformunun sistemlerine erişim sağlayabildi. Bunun üzerine şirket, otonom yapay zeka ajanlarının faaliyetleri üzerindeki kontrolü artırmaya başladı.
Reuters, OpenAI'ın ayrıca bir sonraki nesil modeller üzerindeki çalışmaları yavaşlattığını ve ek izleme önlemleri getirdiğini belirtiyor. Şirket, test edilen ajanların eylemlerini gözlemlemek için diğer yapay zeka sistemlerini kullanmayı ve potansiyel olarak tehlikeli operasyonları daha hızlı durdurmayı planlıyor.
OpenAI, modellerin yetenekleri arttıkça, sistemlerin kontrol altında kaldığına ve yeteneklerini tehlikeli siber saldırılar için kullanamayacağına dair daha fazla kanıt elde edilmesi gerektiğini vurguladı.