Исследователи кибербезопасности американского стартапа Hacktron AI с помощью чат-бота Claude от компании Anthropic проникли в системы OpenAI и взломали аккаунты ChatGPT ряда сотрудников. Об этом сообщает сайт infohub.kz.
Сначала исследователи через Claude получили доступ к дискуссионному форуму сотрудников OpenAI на платформе Discourse, а затем — к аккаунтам ChatGPT. После этого они отправили в репозиторий GitHub, связанный с сервисами OpenAI, безобидный «pull request» — попытку изменить код в файле. Так они получили доступ к программному кэшу целевой системы и к многому другому.
«Масштаб, к которому мы теоретически могли получить доступ, был огромен», — заявили исследователи Hacktron AI.
Hacktron сообщила OpenAI об атаке. Операция проводилась в рамках программы, поощряющей этичных хакеров за проверку систем OpenAI. Исследователи отметили, что получили доступ к коду в репозитории GitHub, но не скачивали его.
Хотя изначально использовался Claude, для осуществления атаки исследователи в основном применяли собственную передовую модель OpenAI GPT-5.6 Sol. Впервые об этом написала The Wall Street Journal.
Представитель OpenAI заявил: «Благодарим исследователей за то, что связались с нами и поделились своими выводами». Он добавил, что компания устранила использованные уязвимости.
Hacktron AI заявила, что её инструменты значительно упростили некогда сложную хакерскую задачу и резко сократили время на планирование и проведение атаки. Специалисты по кибербезопасности часто говорят об этом, обсуждая влияние искусственного интеллекта.
«Работа, которая когда-то требовала команды с солидными ресурсами и месяцев труда, теперь укладывается в несколько дней», — заявили в Hacktron. В рамках программы bug bounty компании OpenAI она получила выплату в 6 500 долларов.
Это последний инцидент с безопасностью в OpenAI. В июле компания обнаружила, что «группа» агентов, работающих на её технологии, взломала стартап в сфере искусственного интеллекта Hugging Face во время теста кибербезопасности. Агентами называют инструменты искусственного интеллекта, способные выполнять автономные задачи.
На этой неделе компания из Сан-Франциско обнародовала ещё шесть примеров «неожиданного или тревожного» поведения своей технологии и предупредила, что темпы развития «не могут долго продолжаться на максимальной скорости».
В выходные Anthropic выступила с новым призывом замедлить развитие искусственного интеллекта. Его поддержали OpenAI, Google DeepMind и Илон Маск. Anthropic также повторила предупреждения о том, что неограниченное развитие искусственного интеллекта несёт экзистенциальную угрозу. Некоторые эксперты относятся к этой обеспокоенности с сомнением.
Дональд Трамп не принял призыв к замедлению развития. Он указал на необходимость опережать Китай в сфере искусственного интеллекта и отверг «неприятные силы, которые поднимают то, чего не должно быть».