Kâr amacı gütmeyen OpenAI Foundation vakfı, yönetim kuruluna şirketin çok ötesinde tanınan bir ismi ekledi: yapay zeka hizalanması ve güvenliği alanında araştırmacı olan Paul Christiano kurul üyeliğine getirildi. Bu haberi TechCrunch yazdı, infohub.kz sitesi aktarıyor.
Christiano, vakıf yönetim kurulundaki görevinin yanı sıra OpenAI'nin güvenlik ve emniyet komitesinde de yer aldı. Bu karar, kamuoyunun ve düzenleyicilerin ileri düzey dil modellerinin kontrolü ve güvenliği konularına artan ilgisi zemininde alındı.
Paul Christiano daha önce OpenAI'de model hizalama grubunun başındaydı. Bugün popüler sinir ağlarının geliştirilmesinde kullanılan insan geri bildirimine dayalı pekiştirmeli öğrenme (RLHF) yönteminin gelişimine yaptığı kilit katkı onun adıyla anılıyor.
Bilim insanı sonrasında Alignment Research Center (ARC) adlı araştırma kuruluşunu kurdu ve Amerikan Yapay Zeka Güvenliği Enstitüsü'nde (CAISI) danışman olarak görev yaptı.
Christiano, kontrol edilemeyen yapay zekanın potansiyel riskleri ve insanüstü zekanın gelişmesi halinde insanlık için varoluşsal bir tehdit olasılığı konusundaki uyarılarıyla tanındı.
Gözlemciler, güvenlik alanında saygın bir uzmanın göreve getirilmesinin OpenAI'nin kurumsal yönetimini güçlendirmesi ve şirketin güçlü yapay zekanın gelişimiyle bağlantılı riskleri önleme politikasına duyulan güveni geri getirmesi gerektiğini belirtiyor.