Неконтролируемый искусственный интеллект может породить «кремниевую форму жизни», способную конкурировать с человечеством. Об этом предупредил Мустафа Сулейман, возглавляющий подразделение искусственного интеллекта компании Микрософт, сообщает сайт infohub.kz.

Выступая в четверг в программе «Today», Сулейман предостерег компании, которые продолжают создавать системы ИИ, способные ставить собственные цели, зарабатывать деньги и владеть имуществом. По его словам, это равносильно «посеву поистине новой кремниевой формы жизни», которая «как бы хорошо ни относилась к человечеству, неизбежно будет конкурировать с нами за ресурсы».

Комментарии Сулеймана для Би-би-си прозвучали после его эссе, опубликованного в начале этой недели. В нем он критиковал подход компании Антропик к обучению своей модели искусственного интеллекта под названием Клод, однако похвалил главу компании Дарио Амадея и его команду, назвав их «интеллектуально честными людьми».

В эссе он критиковал Антропик за обучение ИИ человеческим качествам. Эта практика называется антропоморфизацией. По его словам, это создает впечатление, будто у Клода есть собственные желания, ценности и самосознание.

Он также предупредил об опасности того, что технологические компании, рассматривая технологию как человека, могут создать нечто неуправляемое.

«Искусственный интеллект не обладает сознанием, — писал он. — Они не чувствуют, не накапливают опыт, не страдают. У них нет врожденных желаний или внутренних мотивов. Они — движки, завершающие последовательности, внутренне пустые, предназначенные для выполнения инструкций и достижения целей, поставленных людьми».

Вопрос о том, насколько автономными должны быть системы ИИ, все больше раскалывает отрасль.

Говоря с Би-би-си о предстоящем саммите по ИИ, Сулейман призвал к «выравниванию» для создания технологии, которая должна быть «подчинена» человечеству. Выравнивание — это область, цель которой — привить искусственному интеллекту этические идеи и принципы человека. Иными словами, она направлена на то, чтобы удерживать технологию в соответствии с ценностями, которые ценят люди.

«Я думаю, хорошая новость в том, что каждый человек будет крайне заинтересован в том, чтобы системы, которые мы все создаем и которые используются в каждой стране мира, были безопасными, контролируемыми и подчиненными человечеству, — сказал он. — Все должно быть выровнено».

Микрософт создал свою команду суперинтеллекта в октябре 2025 года. Компания, как и ее конкурент Антропик, стремится к разработке передового искусственного интеллекта.

Комментарии Сулеймана отражают первый проект «Кодекса гуманистического искусственного интеллекта» Микрософт. Это опубликованное в понедельник «учебное пособие» о том, как компания разрабатывает ИИ, и оно предлагает идею «гуманистического суперинтеллекта».

Как сказано в кодексе, это — «чрезвычайно продвинутый искусственный интеллект, который всегда работает на людей, остается в рамках ограничений и находится под контролем человека».

Взгляд компании на «гуманистический» ИИ отражает главную задачу, стоящую перед технологией: как сделать ее мощнее, не лишая ценностей, которым она должна служить.

Дополнительную информацию подготовил Генри Мур.