Некоммерческий фонд OpenAI Foundation пополнил свой совет директоров фигурой, известной далеко за пределами компании: в его состав вошел Пол Кристиано — исследователь в области выравнивания и безопасности искусственного интеллекта. Об этом пишет TechCrunch, сообщает сайт infohub.kz.
Помимо работы в совете директоров фонда, Кристиано занял место в комитете по безопасности и защищенности OpenAI. Это решение принято на фоне усиления внимания общественности и регуляторов к вопросам контроля и безопасности передовых языковых моделей.
Пол Кристиано ранее возглавлял группу по выравниванию моделей в OpenAI. Именно с его именем связывают ключевой вклад в развитие метода обучения с подкреплением на основе обратной связи от человека (RLHF), который сегодня применяется при создании популярных нейросетей.
В дальнейшем ученый основал исследовательскую организацию Alignment Research Center (ARC), а также выступал советником в американском Институте безопасности искусственного интеллекта (CAISI).
Кристиано получил известность благодаря предупреждениям о потенциальных рисках неуправляемого ИИ и вероятности экзистенциальной угрозы для человечества при развитии надчеловеческого интеллекта.
Наблюдатели отмечают, что привлечение авторитетного специалиста по безопасности должно укрепить корпоративное управление OpenAI и вернуть доверие к политике компании в сфере предотвращения рисков, связанных с развитием сильного ИИ.