Yapay zeka alanının önde gelen şirketi OpenAI'dan kovulan üç eski araştırmacı, gizli bilgileri usulsüz kullandıkları suçlamasını reddederek aslında güvenlik sorunlarını dile getirdikleri için işten çıkarıldıklarını açıkladı. Bu bilgiyi infohub.kz sitesi duyurdu.
Mikita Balesni, X sosyal medya platformunda ChatGPT'nin geliştiricisi olan şirkete hitaben yazdığı açık mektupla birlikte şunları yazdı: "Bence bizi, OpenAI'nin kısa vadeli çıkarlarından çok güvenliği önceliklendirdiğimiz için işten çıkardılar." Mektubu eski meslektaşlarıyla birlikte kaleme almıştı.
2 Ekim'de yapay zeka şirketinin bir sözcüsü BBC'ye yaptığı açıklamada, soruşturmanın "bu kişilerin gizli bilgileri şirketin belirlenmiş prosedürlerinin dışında kullandığını doğruladığını" söyledi.
OpenAI, cuma sabahı araştırma yöneticileri adına yayınladığı mesajda bu suçlamaları yineledi. Mesajda, "Bu kararların güvenlik sorunlarını dile getirmekle veya açıkça konuşmakla ilgili olmadığını açıkça belirtmek isteriz. İç soruşturmamız, onların yayımladığı mektupta anlatılandan daha kapsamlı bir güven ihlali tespit etti ve işlerine devam etmemeleri yönündeki kararı destekliyoruz" ifadelerine yer verildi.
Bu işten çıkarma olayları, yapay zeka güvenliği ve ileri yapay zeka sistemlerinin topluma yöneltebileceği olası tehditler hakkındaki tartışmaların yoğunlaştığı bir dönemde meydana geldi.
OpenAI yönetimine gönderilen ortak mektubu Balesni, Tomek Korbak ve Jasmine Wang yazdı. Onlara göre, yakın zamanda üçü de şirketin güvenlik veya hizalama alanındaki çalışanlarıydı.
Hizalama, teknolojiye insanın etik fikirlerini ve ilkelerini entegre etme pratiğidir. Başka bir deyişle, teknolojiyi insanların değer verdiği değerlere uygun tutmayı amaçlar.
Eski çalışanlar, işten çıkarılmalarının şirket çalışanlarını "geçen haftaya kadar OpenAI'de çalışmanın ayrılmaz bir parçası olan yollarla konuşmaya ve hareket etmeye" korkutacağını endişeyle vurguladı.
Mektubu yeniden paylaşan Korbak şunları yazdı: "Aylardır yapay zeka ajanlarının ne düşündüğünü izleme yeteneğimizi kaybettiğimize dair güvenlik endişelerini dile getiriyordum. Bu, onların olumsuz davranışlarını yakalamak için en iyi araçlarımızdan biriydi. Beni tam da bu nedenle işten çıkardıklarını düşünüyorum."
OpenAI, üçüncü taraf güvenlik değerlendiricileriyle sözleşmeleri sonlandırdığını ve önümüzdeki haftalarda tam bilgileri yayımlayacağını bildirdi.
Wang, X sosyal medya platformundaki paylaşımında "OpenAI'den şüpheli durumlarda kovulan ilk kişiler biz değiliz" dedi. "Eğer çalışanlar şimdi bu tür manipülasyonlara karşı çıkmazsa, sonuncular biz olmayacağız diye korkuyorum."