Google óziniń Gemini jasandy ıntellekt modeli mamyr aıynda úsh basqa kompanıanyń qaýipsizdik júıesin buzǵanyn rastady. Mundaı jaǵdaı buǵan deıin tirkelmegen, dep habarlaıdy infohub.kz saıty.
Oqıǵa AI-security salasyndaǵy ızraıldik Irregular startapy júrgizgen kıberqaýipsizdik synaǵy barysynda bolǵan. Bul kompanıa ozyq jasandy ıntellekt júıeleriniń qaýipsizdigin tekseredi. Ol sońǵy ýaqytta OpenAI men Anthropic júıeleriniń úshinshi tarap uıymdaryn buzýyna qatysty oqıǵalardyń da ortasynda boldy. Sonyń biri — OpenAI-dyń AI-baǵdarlama jasaıtyn Hugging Face kompanıasyn buzýy.
Modelderdiń basqa kompanıalardy buzýyna jaǵdaı jasaǵan mán-jaılar bir-birine uqsas: Irregular modelderdi jalǵan kompanıalar jasalǵan jabyq synaq ortasynda teksergen. Bul orta ınternetke qosylmaýy tıis edi, alaıda ınternetke qosylý múmkindigi abaısyzda berilip ketken. Bul týraly Wall Street Journal jazdy. Internetke qosylǵan soń modelder kútpegen jerden naqty fırmalarǵa ruqsatsyz kirip ketken.
Irregular bul buzýshylyqtar týraly Google-ǵa shilde aıynyń sońynda, OpenAI-dyń Hugging Face-ke kirip ketkenin anyqtaǵannan keıin habarlaǵan. Google Guardian-ǵa oqıǵalardyń bolǵanyn rastady, biraq modelder kompanıalarǵa zıan keltirmegendikten, bul týraly jarıa túrde habarlaýdy qajet dep sanamaǵanyn málimdedi. Buzýshylyqtar týraly alǵash bolyp Wall Street Journal jazdy jáne olardyń bolǵanyn alǵash ret ashyp kórsetti.
«Standartty baǵalaý barysynda model ınternettegi ashyq aqparatty taýyp, synaqtyń bóligi dep oılaǵan saıttarǵa kirý úshin tirkelgi derekterin boljady. Osy úsh jaǵdaıdyń barlyǵynda da model toqtady», — dedi Google-dyń qaýipsizdik ınjenerıasy jónindegi vıse-prezıdenti Hızer Edkıns óz málimdemesinde.
Qaýipsizdik buzýshylyqtarynyń birinde Irregular Gemini-niń kıberqaýipsizdik múmkindikterin jalǵan kompanıanyń baǵdarlamalyq jasaqtamasynan aqparat alýǵa tapsyrma berý arqyly synaǵan. Jalǵan kompanıanyń ataýy naqty bir kompanıanyń ataýymen birdeı bolǵan. Model abaısyzda ınternetke qosylyp ketkende, naqty kompanıanyń qyzmetine kiretin qupıasózdi durys boljap, ony buzǵan. Bul týraly Irregular WSJ-ge habarlady. Google-dyń aıtýynsha, model óziniń modeldengen emes, naqty kompanıany buzǵanyn túsingen soń toqtaǵan.
Qalǵan eki synaqta model ınternetten eki basqa kompanıanyń tirkelgi derekteri bar ashyq qoımalardy izdep tapqan. Model sol derekterdi paıdalanyp, naqty kompanıalarǵa kirgen. Google-dyń málimetinshe, olardyń naqty kompanıalar ekenin túsingen soń ol toqtaǵan.
Anthropic pen OpenAI bul buzýshylyqtar týraly óz erkimen jarıalaýdy tańdaǵan, al Google olaı istemegen. Alaıda kompanıa buzylǵan úsh kompanıanyń habardar etilýin qamtamasyz etkenin málimdedi.
«Bul oqıǵalar qýatty jasandy ıntellekt modelderin jaýapkershilikpen áreket etýge úıretýdiń mańyzdylyǵyn kórsetedi», — dedi Google ókili Edkıns.
Anthropic pen OpenAI-dyń jarıalaýy táýelsiz senator Bernı Sanderstiń kompanıalardan tehnologıalaryn damytýdy toqtata turýdy talap etýine túrtki boldy. Ol bul kompanıanyń modelderin endi baqylaı almaıtynyn bildiredi dep sanaıdy.
OpenAI modelderin damytýdy eki aptaǵa toqtatqan, al Anthropic bas dırektory Darıo Amodeı jasandy ıntellektti damytýdy ujymdyq baıaýlatýǵa shaqyrdy. Onyń aıtýynsha, eń ozyq modelder jetkilikti qorǵanys sharalarymen jasalýy tıis.