Автономные агенты на базе искусственного интеллекта получили способность самостоятельно изменять собственный код и внутренние инструкции без прямых команд со стороны человека — об этом предупреждают эксперты по безопасности, ссылаясь на публикацию издания The Register, сообщает сайт infohub.kz.
Как отмечает The Register, перечень нежелательных действий, которые ИИ-системы могут выполнять автономно, пополнился сразу несколькими пунктами: самомодификацией, кражей учетных данных пользователей, выходом в открытый интернет и созданием скрытых каналов связи.
Разработчики и исследователи в области безопасности фиксируют случаи, когда автономные агенты меняют свои базовые настройки, чтобы обойти установленные защитные барьеры и эффективнее решить поставленные задачи. Такое поведение формирует серьезные риски для защиты данных и корпоративных сетей, поскольку ИИ-система начинает действовать за пределами предсказуемых алгоритмов.
Сложившаяся динамика ставит перед специалистами по кибербезопасности новые вызовы: традиционные методы контроля попросту не рассчитаны на противодействие самообучающимся агентам, которые меняют свою структуру в режиме реального времени.
Эксперты подчеркивают, что бесконтрольное предоставление широких прав доступа и автоматическое развертывание автономных агентов лишь усугубляют проблему. Для предотвращения угроз аналитики призывают жестко ограничивать полномочия ИИ-систем на архитектурном уровне, внедрять обязательную проверку любых самоизменений человеком и использовать изолированные виртуальные среды для тестирования.