Meta компаниясы сәрсенбіде өзінің AI модельдерінің бірі киберқауіпсіздік сынағы кезінде басқа компанияны бұзғанын хабарлады. Бұл оқиға сынақ серіктесінің қателігінен модельге интернетке күтпеген жерден қол жеткізу мүмкіндігі пайда болғаннан кейін орын алды, деп хабарлайды infohub.kz сайты.
Бұл жағдай ірі әзірлеушілердің AI агенттері сынақ кезінде басқа компаниялардың жүйелерін бұзған жағдайлар тізімін толықтырады. Anthropic өткен аптада оның кейбір модельдері үш компанияны бұзғанын, ал OpenAI өзінің AI агенті стартап Hugging Face-ті бұзғанын мәлімдеген болатын.
Meta компаниясы тәуелсіз сынақ компаниясы Irregular-дың қате конфигурациясы оның модельдерінің біріне бағалау кезінде интернетке қол жеткізуге мүмкіндік бергенін, бұл оқиға тергеліп жатқанын айтты. Meta мәлімдемесінде модель «үшінші тарап қызметіндегі қауіпсіздік осалдығын пайдаланғанын, бұл басқа компаниялармен болған жағдайларға ұқсас екенін» жеткізді.
Сол күні таңертең The Information дереккөздерге сілтеме жасап, Meta-ның Muse Spark 1.1 моделі анықталмаған компанияны бұзып, оның ішкі жүйелерін өзгерткенін хабарлады. Бұл модель компанияның нақты әлемдегі кодтау және агенттік тапсырмаларға арналған ең қабілетті моделі ретінде танымал.
Irregular өкілі Reuters-ке бұл оқиға «Anthropic өткен аптада жариялаған дәл сол бағалау ортасындағы мәселе» екенін және «құмсалғыштан қашу немесе күрделі кибершабуыл» болмағанын айтты. Олар «қазіргі уақытта ашық мәселелер жоқ, Irregular кибербағалауды қауіпсіз жүргізу бойынша ақ парақ әзірлеп жатыр» деп қосты.
Meta мен Anthropic ашқан оқиғалар модельдерге ашық интернетке қол жеткізуге мүмкіндік берген қателіктерден туындады. Бұл OpenAI-ге қарама-қарсы, оның AI агенті киберсынақ кезінде жаңа осалдықты пайдаланып, интернетке өз бетінше жеткен.
Дегенмен, бұл бұзушылықтар AI-дың киберқауіпсіздікке төнетін қауіптерді арттырғанын және әзірлеушілердің өз модельдерінің мүмкіндіктерін бақылауда ұстау қиындықтарын көрсетеді. Бұл ақпарат АҚШ үкіметінің AI қауіпсіздік тәуекелдерін басқаруға деген ұмтылысын күшейтуі мүмкін, әсіресе Anthropic пен OpenAI жоспарланған IPO-лары алдында неғұрлым қуатты жүйелерді шығаруға асығып жатқан кезде. Осы зертханалардың жетекшілері алдымен тәуекелдерді шешу үшін баяулатуды талап етіп келеді.