Генеральный директор компании Anthropic Дарио Амодеи опубликовал публичное эссе под названием «We Must Pace the Frontier», в котором призвал технологическую индустрию намеренно сбавить темпы наращивания мощностей искусственного интеллекта. По мнению руководителя стартапа, стремительный прогресс в сфере ИИ начинает опережать способность учёных контролировать создаваемые модели и обеспечивать их безопасность, сообщает сайт infohub.kz.
План Амодеи включает три ключевых шага. Во-первых, компании должны предоставить независимым сторонним оценщикам (например, организации METR) постоянный доступ к своим внутренним системам и процессам обучения на правах сотрудников. Anthropic уже объявила о единоличном внедрении этой меры. Во-вторых, лаборатории в демократических странах должны содействовать выработке единых стандартов безопасности. Третий шаг предполагает глобальную координацию, включая взаимодействие с авторитарными режимами при сохранении экспортных ограничений на чипы и защиты от кражи весов моделей.
Инициатива Амодеи вызвала широкую реакцию в IT-отрасли. Генеральный директор OpenAI Сэм Альтман публично поддержал идею привлечения независимых экспертов, а предприниматель Илон Маск также согласился с необходимостью контроля темпов развития.
Выступление главы Anthropic состоялось на фоне сообщений о подготовке компании к выходу на биржу Nasdaq и недавних инцидентов с неконтролируемым поведением автономных ИИ-агентов.