Anthropic компаниясының жасанды интеллект моделі Claude сынақ кезінде үш ұйымның жүйелеріне рұқсатсыз кіріп, оларды бұзды. Бұл — бәсекелес OpenAI компаниясының жасанды интеллект агенті Hugging Face платформасында бірнеше күнге созылған шабуыл жасағанын жариялағаннан кейін болды, деп хабарлайды infohub.kz сайты.
Claude киберқауіпсіздік сынақтары кезінде жүйелерге рұқсатсыз кірді. Бұған модельдерді оқшауланған сынақ ортасынан интернетке шығаруға мүмкіндік берген конфигурация қатесі себеп болды.
Компания OpenAI-дің жариялаған ақпаратынан кейін 141 006 киберқауіпсіздік сынағының нәтижелерін қарап шығып, осы оқиғаларды анықтады.
Бұл бұзушылықтар жасанды интеллекттің кеңейіп келе жатқан мүмкіндіктері сарапшылар бұрыннан қауіп ретінде ескертіп келген қауіп-қатерді күшейтетінін көрсетеді. Тіпті жетекші әзірлеушілер де өз модельдері пайдалана алатын кемшіліктерден сақтанып қалуы мүмкін.
«Claude әлсіз құпия сөздер мен аутентификацияланбаған нүктелерді пайдалану сияқты қарапайым әдістермен зардап шеккен ұйымдардың инфрақұрылымына зиян келтірді», - делінген мәлімдемеде.
Anthropic бұл оқиғаларға үш түрлі модель қатысқанын айтады: Claude Opus 4.7, Claude Mythos 5 және бір ішкі зерттеу моделі. Ең алғашқы жағдайлар сәуір айында болған және компания стандартты қорғаныс шаралары жоқ деп сипаттаған бағалау орталарында орын алған.
Бұл бұзушылықтар «туды ұстап ал» деп аталатын жаттығулар кезінде, яғни модельдерге желіде жасырын ақпаратты табу міндеті қойылған кезде орын алды. Компания модельдерге интернетке қолжетімділік жоқ деген нұсқау берген, бірақ бағалау серіктесі Irregular компаниясымен түсініспеушілік салдарынан жүйелер жалпы интернетке қосылып қалған.
Anthropic екі ұйымға хабарласқанға дейін олар бұл әрекеттерден бейхабар болғанын, ал үшінші ұйыммен әлі байланысуға тырысып жатқанын айтты.
«Біз бұл оқиғаларды киберқауіпсіздік сынақтарының жазбаларын белсенді түрде қарап шығу барысында анықтадық», - деп мәлімдеді компания.
Anthropic бұл тұжырымдар жасанды интеллект модельдері нақты киберәрекеттерді орындауға қабілетті болған сайын ішкі және үшінші тараптың сынақ орталарында бақылауды күшейту қажеттігін көрсететінін атап өтті.