Сразу два бывших сотрудника компании Anthropic, занимающейся разработкой нейросетей, публично забили тревогу из-за стремительного развития искусственного интеллекта. Исследователи опасаются, что человечество может потерять контроль над технологией раньше, чем успеет подготовиться к последствиям, сообщает сайт infohub.kz.

Бывший руководитель исследовательской команды по безопасности Anthropic Джо Бентон сообщил, что покинул разработчика чат-бота Claude и перешел в некоммерческую организацию METR.

«На прошлой неделе я ушел из Anthropic, чтобы присоединиться к METR и заниматься встроенной оценкой рисков ИИ», — сообщил Джо Бентон.

METR исследует возможности передовых моделей и пытается определить, когда искусственный интеллект может начать представлять серьезную угрозу для общества. В интервью NBC Бентон признался, что особенно опасается скорости, с которой развивается технология, передает Reuters.

«Меня беспокоит, что искусственный интеллект может начать развиваться слишком быстро и мы не успеем принять необходимые меры, если не задумаемся об этом уже сейчас», — заявил Бентон.

Однако на этом тревожные признания изнутри одной из крупнейших ИИ-компаний не закончились. Через несколько дней об уходе из Anthropic объявил Джейкоб Коксон, ранее работавший и в OpenAI.

Исследователь обвинил обе компании в опасной гонке за созданием самоулучшающегося сверхинтеллекта. По его словам, разработчики продолжают наращивать возможности моделей, несмотря на отсутствие надежного способа удержать их под контролем.

«Ни одна из компаний не действует ответственно. Они несутся прямо к самоулучшающемуся сверхинтеллекту и играют нашими жизнями», — написал Коксон.

Он утверждает, что специалисты, непосредственно участвующие в создании продвинутого ИИ, всерьез допускают сценарий уничтожения человечества уже в ближайшие годы.

«Люди, создающие ИИ, искренне верят, что он может убить всех нас к концу десятилетия. Это не маркетинговый трюк», — добавил исследователь.

Коксон полностью покинул ИИ-индустрию, тогда как Бентон продолжит заниматься безопасностью технологии в независимой организации. При этом сообщения о том, что оба специалиста ушли из Anthropic за два дня, неточны: Бентон сообщил о своем решении 2 сентября, а Коксон — 8 сентября.