OpenAI Foundation коммерциялық емес қорының директорлар кеңесіне компаниядан тыс жерде де кеңінен танымал тұлға қосылды: оның құрамына жасанды интеллектіні теңестіру және қауіпсіздік саласының зерттеушісі Пол Кристиано кірді. Бұл туралы TechCrunch жазды, деп хабарлайды infohub.kz сайты.
Қордың директорлар кеңесіндегі жұмысынан бөлек, Кристиано OpenAI-дың қауіпсіздік және қорғаныс комитетінен орын алды. Бұл шешім озық тілдік модельдерді бақылау мен қауіпсіздік мәселелеріне қоғам мен реттеушілердің назары күшейіп отырған кезде қабылданды.
Пол Кристиано бұған дейін OpenAI-да модельдерді теңестіру тобын басқарған. Оның есімі бүгінде танымал нейрожелілерді жасауда қолданылатын адамның кері байланысына негізделген оқыту әдісін (RLHF) дамытуға қосқан негізгі үлеспен байланыстырылады.
Кейін ғалым Alignment Research Center (ARC) зерттеу ұйымын құрды, сондай-ақ Американың Жасанды интеллект қауіпсіздігі институтында (CAISI) кеңесші болды.
Кристиано басқарылмайтын ЖИ-дің ықтимал тәуекелдері және адамнан асқан интеллект дамыған кезде адамзатқа төнетін экзистенциалдық қауіп ықтималдығы туралы ескертулерімен танымал болды.
Сарапшылар қауіпсіздік саласындағы беделді маманды тарту OpenAI-дың корпоративтік басқаруын нығайтып, күшті ЖИ-ді дамытуға байланысты тәуекелдердің алдын алу саласындағы компания саясатына деген сенімді қайта оятады деп есептейді.