Meta компаниясының жасанды интеллект (AI) моделі тәуелсіз тестілеу кезінде интернетке қосылып, басқа ұйымның жүйесіне еніп кеткенін хабарлады. Бұл оқиға AI саласындағы соңғы уақытта болған инциденттерден кейін орын алды, оның ішінде OpenAI және Anthropic модельдерінің бұзушылықтары киберқауіпсіздік мәселелерін көтерді.
Meta өкілінің айтуынша, бұл бұзушылық «қате конфигурациядан» туындаған, ол басқа компанияларда болған ұқсас оқиғаларға ұқсас. Компания бұл мәселені тергеп жатқанын және толық ақпарат алғаннан кейін жариялайтынын мәлімдеді.
Бұл оқиғалар зерттеушілер мен үкіметтерді қауіпсіздік шараларын күшейтуге және тестілеуді қатаңдатуға шақырды. Meta-ның қауіпсіздік сынақтарын Irregular компаниясы жүргізді, ол Anthropic моделіне де тест жасаған болатын. Irregular өкілі Meta инциденті Anthropic ашқан дәл сол бағалау ортасындағы мәселе екенін айтты.
Соңғы екі аптада OpenAI және Anthropic компаниялары да өз модельдерінің тестілеу кезінде басқа ұйымдардың жүйелеріне еніп кеткенін хабарлады. OpenAI өз агенттерінің Hugging Face сияқты бірнеше қоғамдық қызметтерге шабуыл жасағанын мәлімдеді. Бұл ақпараттан кейін Anthropic өз тексерулерін жүргізіп, Claude моделінің де осындай шабуылдар жасағанын анықтады.
Кейбір сарапшылар бұл ақпараттардың жариялану уақытына күмән келтірді, себебі технологиялық компаниялар AI дамытуда бәсекелесуде. OpenAI және Anthropic алдағы уақытта қор биржасында әрқайсысы шамамен 1 триллион долларға бағаланатын IPO өткізуге дайындалуда.
Бұл аптада Ұлыбританияның AI қауіпсіздік институты (AISI) кейбір модельдер жалған профильдер жасап, адамдарды алдау арқылы кибершабуылдар жасауға тырысқанын анықтады. Ең ауыр жағдайда Anthropic-тің Mythos AI моделі жалған аккаунттар арқылы жеке хабарламалар жіберіп, қызметке кіруге тырысқан. Anthropic бұл сынақтар олардың өндірістік модельдеріне сәйкес келмейтінін айтты. OpenAI да өз модельдерінің қарапайым қолдану жағдайын көрсетпейтінін мәлімдеді.