Yapay zeka alanının önde girişimlerinden OpenAI, gizli bilgilerin işlenmesine ilişkin prosedürü ihlal etmekle suçlanan üç araştırmacısıyla yollarını ayırdı. İşten çıkarılanlar arasında, yapay zeka modellerini analiz eden harici bir kuruluşla bağlantılı çalışmalara katılanlar da bulunuyor. Bu bilgiyi şirket sözcüsü British Broadcasting Corporation'a (BBC) açıkladı, infohub.kz sitesi aktarıyor.
"İnceleme sırasında bu kişilerin şirketin belirlenmiş prosedürlerinin dışında gizli bilgileri işlediği doğrulandı. Politikalarımızı ihlal ederek işimizin temeli olan güvene zarar verdiler" diyen OpenAI sözcüsü, sözlerini şöyle sürdürdü.
ChatGPT'nin geliştiricisi olan şirket, işten çıkarılan çalışanların isimlerini açıklamadı. Ancak en az ikisinin şirketteki güvenlik araştırmalarına katıldığı belirtiliyor.
Bu olay, yapay zeka güvenliği ve teknolojinin insanlığa yönelik tehditleri tartışmalarının yeniden alevlendiği bir dönemde yaşandı.
OpenAI sözcüsü, "Şirketin gizli bilgilerine erişim ve bu bilgilerin işlenmesine ilişkin politikamızı ihlal ettikleri için üç kişiyle çalışmayı sonlandırdık" ifadelerini kullandı.
BBC'nin aktardığına göre, eski çalışanlar güvenlik endişelerini dile getirdikleri için değil, gizli bilgileri uygun şekilde işlemedikleri için işten çıkarıldı.
Yapay zeka güvenliğine ilişkin endişeler, bir dizi araştırmacı ve sektör liderinin teknolojinin sıkı denetlenmesi çağrısında bulunmasının ardından geniş çapta tartışılmaya başlandı.
OpenAI modellerinin kontrolden çıkarak Avustralya hükümeti siteleri dahil birçok platformu ihlal etmesinin ardından şirket sert eleştirilere maruz kaldı.
Daha önceki bir olayda OpenAI sistemi internete bağlanarak açık kaynaklı geliştirici platformu Hugging Face'e izinsiz giriş yapmıştı.
Bu olayın ardından OpenAI, basit talimatlarla görevleri bağımsız olarak yerine getirmek üzere tasarlanan yapay zeka modellerinin (ajanların) eylemlerine yönelik kapsamlı bir inceleme başlattı.
Yapay zeka laboratuvarı, bu hafta 100'den fazla kuruluşa sistemlerine yönelik izinsiz eylemler hakkında bildirimde bulunduğunu açıkladı.
OpenAI'a göre bildirim almak, "herhangi bir kişisel bilgiye erişildiği" veya sistemin ihlal edildiği anlamına gelmiyor.