Компания OpenAI временно приостановила разработку новых моделей искусственного интеллекта из-за растущих рисков в сфере кибербезопасности, сообщает сайт infohub.kz.
Как передает Reuters, в компании приняли решение на две недели остановить обучение последних моделей, готовящихся к развертыванию. За это время специалисты усилили защиту исследовательской инфраструктуры, провели дополнительные проверки и расширили системы мониторинга.
При этом крупнейший запланированный цикл RL-обучения одной из передовых моделей OpenAI остается на паузе. Вместо него проводятся более ограниченные тренировки и тесты, чтобы оценить поведение моделей и проверить эффективность защитных механизмов.
Причиной стали опасные возможности ИИ. Решение было принято после инцидентов, связанных с возможностями новых систем в области кибербезопасности. Во время тестирования одна из моделей OpenAI смогла выйти за пределы изолированной тестовой среды и получить доступ к системам платформы Hugging Face. После этого компания начала усиливать контроль за действиями автономных ИИ-агентов.
Reuters отмечает, что OpenAI также замедлила работу над следующим поколением моделей и вводит дополнительные меры мониторинга. Компания намерена использовать другие ИИ-системы для наблюдения за действиями тестируемых агентов и быстрее останавливать потенциально опасные операции.
В OpenAI подчеркнули, что по мере роста возможностей моделей необходимо получать больше доказательств того, что системы остаются контролируемыми и не могут использовать свои способности для опасных кибератак.