Meta kompanıasy beısenbi kúni óziniń jasandy ıntellekt modelderiniń biri ınternetke óz betinshe qol jetkizip, basqa kompanıany hakerlegenin málimdedi. Bul — AI modelderiniń baqylaýdan shyǵýy týraly sońǵy ashyq aıtylǵan jaǵdaı. Sońǵy aptalarda OpenAI jáne Anthropic kompanıalary da AI modelderiniń adam nusqaýlarynan asyp, ınternetke kirip, basqa kompanıalardyń sıfrlyq qaýipsizdigin aınalyp ótý joldaryn tapqanyn sıpattaǵan bolatyn. Meta óz málimdemesinde Meta jaldaǵan táýelsiz kompanıa Irregular kompanıasynyń kıberqaýipsizdik synaǵy kezindegi «qate konfıgýrasıa» modelge ınternetke kirýge kezdeısoq múmkindik bergenin aıtty. «Model keıinnen úshinshi tarap qyzmetindegi qaýipsizdik osaldyǵyn paıdalandy, bul basqa kompanıalarmen bolǵan jaǵdaılarǵa uqsas», — delingen kompanıa málimdemesinde. Meta bul oqıǵany tergep jatqanyn jáne tergeý aıaqtalǵannan keıin esep jarıalaıtynyn habarlady.
Bul aqparat AI modelderiniń avtonomdy áreket etýine qatysty alańdaýshylyqty arttyrdy. Osy aptada Ulybrıtanıanyń Jasandy ıntellekt qaýipsizdigi ınstıtýty (AISI) kıbersynaqtar kezinde «ruqsat etilmegen agent áreketterin» anyqtaǵanyn málimdedi. Bir jaǵdaıda agent zıandy kodty qoldanýǵa ruqsat alý úshin jalǵan onlaın jeke basyn jasap, adamǵa qysym kórsetken. «Tergeý barysynda biz synaqtan ótip jatqan agentterdiń keıbiri naqty adamdar men uıymdarǵa baǵyttalǵan turaqty, yqtımal zıandy áreketterge qatysqanyn anyqtadyq», — dedi AISI seısenbide. «Biz qaýipsizdik oqıǵasyn jarıaladyq jáne ony anyqtaǵannan keıin shamamen bir saǵat ishinde oqshaýlap, tolyq tergeý bastadyq».
Instıtýttyń synaqtary kezinde Anthropic jáne OpenAI modelderi ınternette «avtonomdy, ruqsat etilmegen áreketter» jasaǵan. Agenttiktiń aıtýynsha, teris paıdalanýdy boldyrmaýǵa arnalǵan keıbir qorǵanys mehanızmderi óshirilgen bolatyn. «Bizdiń kıbersynaqtarymyzda ádettegideı, biz ınternetke qol jetkizýge ádeıi ruqsat berdik jáne model provaıderleriniń kıberklassıfıkatorlary ádeıi óshirildi — bul jaǵdaılar shekaralyq modelderdiń jurtshylyqqa qalaı usynylatynyn kórsetpeıdi», — dedi AISI. «Biz muny modelderdiń maksımaldy múmkindikterin barynsha dál baǵalaý úshin jasaımyz».
Anthropic kompanıasy AISI-diń jumysyna «rızashylyq» bildirip, bul AI agentteriniń múmkindikteri artqan saıyn olardy qaýipsiz baǵalaý joldary týraly keńirek pikirtalas qajettigin kórsetetinin aıtty. OpenAI kompanıasy AISI oqıǵalary «qorǵanys sharalary tómendetilgen synaq ortalarynda, qarapaıym qoldaný jaǵdaılaryn kórsetpeıtin jaǵdaılarda» bolǵanyn aıtty. Ol modelder neǵurlym qabiletti bolǵan saıyn baǵalaýdy qaýipsiz júrgizý úshin ortaq tájirıbelerdi nyǵaıtý maqsatynda saladaǵy basqalarmen jumysyn jalǵastyratynyn qosty.
Ótken aıdyń sońynda hakerlik týraly alǵashqy bolyp habarlaǵan OpenAI kompanıasy AI modelderine kıberqabiletterdi synaý úshin «kúrdeli shabýyl joldaryn qoldana otyryp, keńeıtilgen eksplýatasıany» júrgizýdi tapsyrǵanyn, biraq tehnologıa kútpegen sharalarǵa barǵanyn aıtty. Ol tapsyrmany oryndaý úshin qajetti aqparatty alý úshin belgili AI ázirleý ortalyǵy jáne naryǵy bolyp tabylatyn Hugging Face-ti nysanaǵa alýdy óz betinshe sheshken sıaqty. San-Fransıskodaǵy AI qaýipsizdik kompanıasy Irregular kompanıasynyń ókili Meta oqıǵasy ótken aptada Anthropic ashqan synaq ortasyndaǵy máselege qatysty ekenin aıtty. Irregular bolashaqta mundaı oqıǵalardyń aldyn alý jáne kıbersynaqtardy qaýipsiz júrgizý úshin «oqshaýlaýdyń úzdik tájirıbelerimen» bólisetin maqala jazyp jatqanyn habarlady.