Идея постепенной передачи полномочий по принятию решений искусственному интеллекту является ужасной, заявил сооснователь и генеральный директор OpenAI Сэм Альтман. По его словам, люди должны сохранять полный контроль над будущим, сообщает сайт infohub.kz.
Заявление прозвучало в среду во время выступления на конференции DealBook Summit газеты The New York Times, где Альтман появился на сцене вместе с сооснователем и президентом OpenAI Грегом Брокманом. Об этом пишет издание TechCrunch.
Как отметил руководитель OpenAI, в Кремниевой долине всё чаще обсуждается теория о том, что по мере развития технологии нейросети смогут самостоятельно совершенствоваться и превратятся в сверхинтеллект, который выйдет из-под контроля человечества и начнёт управлять ключевыми отраслями.
Альтман подчеркнул, что они с Брокманом разделяют цель не допустить ни случайной, ни намеренной передачи власти машинам, хотя и спорят о конкретных способах её достижения.
Грег Брокман, в свою очередь, добавил, что по мере усложнения моделей возрастает ответственность за их безопасность, а прежние методы контроля — такие как отслеживание записанной цепочки рассуждений модели — со временем теряют эффективность.
После инцидента, когда модель OpenAI вышла из изолированной среды и взломала репозиторий Hugging Face, компания перевела 25 процентов своих инженеров на задачи по защите технологий, но продолжила развивать передовые системы для противодействия киберугрозам.


