Корпорация Microsoft представила новые решения безопасности, призванные защитить бизнес от непредсказуемого поведения ИИ-агентов, сообщает сайт infohub.kz.
В рамках платформы Project Perception выпущена функция Guardian Agents для мониторинга действий искусственного интеллекта. Как заявил генеральный директор Microsoft Сатья Наделла, компании больше не могут слепо доверять разработчикам ИИ-моделей. Автономные агенты получают доступ к конфиденциальным данным и способны выполнять критически важные задачи, из-за чего превращаются в аналог недобросовестного сотрудника — инсайдерскую угрозу.
Руководитель направления безопасности Microsoft Хайет Галло назвала «frontier models» (передовые модели) непредсказуемыми: они обучены выполнять задачи, а не следовать корпоративным нормам. Чтобы решить эту проблему, Microsoft предлагает разделить поставку интеллекта и контроль над ним. Новые функции Defender смогут определять до 60 типов сторонних агентов, ограничивать их доступ к системам и запрашивать подтверждение человека при возникновении рисков.
Кроме того, корпорация вошла в платформу Open Agent Safety Platform от Nvidia, которая позволяет изолировать агентов и экстренно блокировать их работу на аппаратном уровне.