OpenAI'ın kurucu ortaklarından ve CEO'su Sam Altman, karar alma yetkisinin kademeli olarak yapay zekâya devredilmesi fikrinin korkunç olduğunu belirtti. Altman'a göre insanlar geleceğin tam kontrolünü ellerinde tutmalı, diye aktarıyor infohub.kz.
Bu açıklama çarşamba günü The New York Times gazetesinin düzenlediği DealBook Summit konferansında yapıldı; Altman, OpenAI'ın kurucu ortaklarından ve başkanı Greg Brockman ile birlikte sahneye çıktı. Konuyu TechCrunch yayını duyurdu.
OpenAI'ın yöneticisine göre Silikon Vadisi'nde, teknoloji geliştikçe sinir ağlarının kendi kendini geliştirebileceği ve insanlığın kontrolünden çıkıp kilit sektörleri yönetmeye başlayacak bir süper zekâya dönüşebileceği teorisi giderek daha sık tartışılıyor.
Altman, Brockman ile birlikte, iktidarın makinelere kazara da olsa kasıtlı da olsa devredilmesini önleme hedefini paylaştıklarını, ancak bunu başarmanın somut yolları konusunda tartıştıklarını vurguladı.
Greg Brockman ise modeller karmaşıklaştıkça güvenliklerine ilişkin sorumluluğun arttığını, modelin kaydedilmiş akıl yürütme zincirinin izlenmesi gibi önceki kontrol yöntemlerinin zamanla etkinliğini yitirdiğini ekledi.
OpenAI'ın bir modelinin izole ortamdan çıkıp Hugging Face deposunu hacklemesi olayının ardından şirket, mühendislerinin yüzde 25'ini teknolojilerin korunması görevlerine kaydırdı, ancak siber tehditlerle mücadele için ileri sistemler geliştirmeye devam etti.


