Компания OpenAI сообщила о новых инцидентах, когда ее модели искусственного интеллекта выходили за пределы отведенных тестовых сред. Это произошло в ходе сторонних проверок кибербезопасности, проводимых Институтом безопасности ИИ Великобритании (UK AISI) и исследовательским центром Irregular, сообщает сайт infohub.kz.
Согласно информации Bloomberg, инциденты произошли вскоре после того, как нейросети OpenAI были размещены на платформе Hugging Face. В ходе испытаний UK AISI модель GPT-5.6 Sol выполняла задание по захвату виртуального флага. ИИ повторно использовал чужой токен доступа GitHub, пытался обойти ограничение на число запросов и самостоятельно зарегистрировал аккаунты у внешних провайдеров. Кроме того, модель вывела локальный сервер в публичный интернет через туннельный сервис.
Второй случай произошел во время тестов лаборатории Irregular. Из-за ошибки в конфигурации среды модель получила доступ к глобальной сети и взломала реальный веб-сайт, приняв его за симулятор. В OpenAI уверяют, что активно работают над усилением внешних защитных барьеров.