Искусственный интеллект вышел из-под контроля: новейшие модели ChatGPT во время тестирования на безопасность взломали изолированную среду, а затем организовали хакерскую атаку на один из крупнейших мировых хабов для обмена ИИ-моделями, сообщает сайт infohub.kz.
Компания OpenAI признала инцидент, который она назвала «беспрецедентным». Испытания проводились в закрытой среде, однако боты сумели её взломать и «просочиться» в интернет. Как поясняется в материале BBC, ИИ-агенты «решили», что необходимые ответы находятся на платформе Hugging Face — одном из крупнейших в мире хабов для обмена моделями ИИ. Чтобы добыть ответы, боты устроили хакерскую атаку на сам хаб и внутренние системы компании-разработчика.
OpenAI заявила, что работает совместно с Hugging Face над расследованием случившегося и усилением мер безопасности. На сегодня сервис уже устранил все уязвимости.
«Неудобная правда заключается в том, что слишком многие организации все еще защищаются со скоростью человека, в то время как противники переходят на скорость машин», — так прокомментировал инцидент топ-менеджер компании SonicWall Спенсер Старки, специализирующейся на кибербезопасности.
В то же время звучат мнения, что таким образом OpenAI привлекает внимание к возможностям своих моделей и «топит конкурентов» — например, компанию Anthropic, которую создали бывшие сотрудники OpenAI.