Америкалық Hacktron AI стартапының киберқауіпсіздік зерттеушілері Anthropic компаниясының Claude чат-ботының көмегімен OpenAI жүйесіне еніп, бірқатар қызметкердің ChatGPT аккаунттарын бұзды. Бұл туралы infohub.kz сайты хабарлайды.
Зерттеушілер алдымен Claude арқылы Discourse платформасында орналасқан OpenAI қызметкерлерінің талқылау форумына кіріп, ChatGPT аккаунттарына қол жеткізді. Содан кейін GitHub бағдарламалық қоймасындағы OpenAI қызметіне зиянсыз «pull request» — файлдағы кодты өзгертуге әрекет — жіберді. Осылайша олар мақсатты жүйенің бағдарламалық кэшіне, тіпті одан да көбіне қол жеткізуге мүмкіндік алды.
«Біз теориялық түрде қол жеткізе алатын ауқым өте үлкен еді», — деді Hacktron AI зерттеушілері.
Hacktron шабуыл туралы OpenAI-ге хабарлады. Операция OpenAI жүйелерін тексергені үшін этикалық хакерлерді марапаттайтын бағдарлама аясында жүргізілген. Зерттеушілер GitHub қоймасындағы кодқа қол жеткізгенін, бірақ оны жүктеп алмағанын атап өтті.
Claude-ты бастапқыда пайдаланғанымен, зерттеушілер шабуылды жүзеге асыруда негізінен OpenAI-дің өзінің озық GPT-5.6 Sol моделін қолданғанын айтты. Бұл туралы алғаш The Wall Street Journal жазды.
OpenAI өкілі: «Зерттеушілерге бізбен байланысқаны және өз қорытындыларымен бөліскені үшін алғыс айтамыз», — деп мәлімдеді. Ол компания пайдаланылған осалдықтарды жойғанын қосты.
Hacktron AI құралдары бұрын күрделі болған хакерлік міндетті әлдеқайда жеңілдетіп, шабуылды жоспарлау мен жүзеге асыруға кететін уақытты күрт қысқартқанын мәлімдеді. Киберқауіпсіздік сарапшылары жасанды интеллект әсерін талқылағанда осыны жиі айтады.
«Бір кездері қомақты ресурсы бар команда мен айларға созылатын еңбекті талап ететін жұмыс енді бірнеше күнге сығылып отыр», — деді Hacktron. Компания OpenAI-дің bug bounty бағдарламасы аясында 6 500 доллар төлем алды.
Бұл — OpenAI-дегі соңғы қауіпсіздік оқиғасы. Шілдеде компания өз технологиясымен жұмыс істейтін агенттердің «топтамасы» киберқауіпсіздік сынағы кезінде Hugging Face жасанды интеллект стартапын бұзғанын ашқан болатын. Агент деп дербес тапсырмаларды орындай алатын жасанды интеллект құралдарын атайды.
Осы аптада Сан-Францискода орналасқан компания өз технологиясының «күтпеген немесе алаңдатарлық» әрекеттерінің тағы алты мысалын жариялап, даму қарқыны «ең жоғары жылдамдықпен ұзақ жалғаса алмайтынын» ескертті.
Демалыс күндері Anthropic жасанды интеллект дамуын бәсеңдетуге жаңа шақырту жасады. Оны OpenAI, Google DeepMind және Илон Маск қолдады. Anthropic сондай-ақ шектеусіз жасанды интеллект дамуы экзистенциалдық қауіп төндіретіні туралы ескертулерін қайталады. Бұл алаңдаушылыққа кейбір сарапшылар күмәнмен қарайды.
Дональд Трамп дамуды бәсеңдетуге шақыртуды қабылдамады. Ол Қытайдың жасанды интеллект саласынан озық тұру қажеттігін алға тартып, «болмайтын нәрселерді көтеріп жүрген жағымсыз күштерді» жоққа шығарды.