Трое бывших исследователей, уволенных из крупной компании в сфере искусственного интеллекта OpenAI, отвергли обвинения в ненадлежащем использовании конфиденциальной информации и заявили, что на самом деле их уволили за поднятые вопросы безопасности, сообщает сайт infohub.kz.

«Я считаю, что нас уволили из OpenAI за то, что мы ставили безопасность выше краткосрочных интересов корпорации», — написал Микита Балесни в социальной сети X вместе с открытым письмом, адресованным компании — создателю ChatGPT. Письмо он написал совместно с бывшими коллегами.

2 октября представитель компании по искусственному интеллекту в заявлении для Би-би-си сказал, что расследование «подтвердило, что эти люди использовали конфиденциальную информацию вне установленного в компании порядка».

В распространённом в пятницу утром сообщении от имени руководителей исследований OpenAI эти обвинения повторила. «Хотим ясно сказать, что эти решения не связаны с поднятием вопросов безопасности или со свободой высказываний. Наше внутреннее расследование выявило более масштабное нарушение доверия, чем описано в опубликованном ими письме, и мы поддерживаем решение не продолжать с ними работу», — говорится в сообщении.

Эти увольнения произошли на фоне усиливающихся споров о безопасности искусственного интеллекта и о потенциальных угрозах, которые передовые системы ИИ могут представлять для общества.

Совместное письмо руководству OpenAI написали Балесни, Томек Корбак и Жасмин Ванг. По их словам, совсем недавно все трое были сотрудниками компании в сфере безопасности или выравнивания.

Выравнивание — это практика внедрения в технологию человеческих этических идей и принципов. Иначе говоря, оно нацелено на то, чтобы удерживать технологию в соответствии с ценностями, которые важны для людей.

Бывшие сотрудники с тревогой отметили, что их увольнение запугивает работников компании «говорить и действовать так, как до прошлой недели было неотъемлемой частью работы в OpenAI».

Переопубликовав письмо, Корбак написал: «Несколько месяцев я поднимал вопросы безопасности о том, что мы теряем возможность наблюдать за тем, о чём думают агенты искусственного интеллекта. Это было одним из наших лучших инструментов для сдерживания их нежелательного поведения. Думаю, меня уволили именно по этой причине».

OpenAI сообщила, что завершает контракты со сторонними оценщиками безопасности и в ближайшие недели опубликует полные данные.

«Мы не первые, кого уволили из OpenAI при подозрительных обстоятельствах», — сказала Ванг в своём посте в социальной сети X. «Боюсь, если сотрудники сейчас не выступят против такой манипуляции, мы не станем последними».