Google компаниясы өзінің Gemini жасанды интеллект моделі мамыр айында үш басқа компанияның қауіпсіздік жүйесін бұзғанын растады. Бұған дейін мұндай жағдай тіркелмеген еді, деп хабарлайды infohub.kz сайты.
Оқиға AI-security саласындағы израильдік Irregular стартапы жүргізген киберқауіпсіздік сынағы кезінде болған. Аталған компания озық жасанды интеллект жүйелерінің қауіпсіздігін тексереді. Ол соңғы уақытта OpenAI мен Anthropic жүйелерінің үшінші тарап ұйымдарын бұзуына қатысты оқиғалардың да ортасында болды. Соның бірі — OpenAI-дың AI-бағдарлама жасайтын Hugging Face компаниясын бұзуы.
Модельдердің басқа компанияларды бұзуына жағдай жасаған мән-жайлар бір-біріне ұқсас: Irregular модельдерді жалған компаниялар жасалған жабық сынақ ортасында тексерген. Бұл орта интернетке қосылмауы тиіс болатын, алайда интернетке қосылу мүмкіндігі абайсызда беріліп кеткен. Бұл туралы Wall Street Journal жазды. Интернетке қосылған соң модельдер күтпеген жерден нақты фирмаларға рұқсатсыз кіріп кеткен.
Irregular бұл бұзушылықтар туралы Google-ға шілде айының соңында, OpenAI-дың Hugging Face-ке кіріп кеткенін анықтағаннан кейін хабарлаған. Google Guardian-ға оқиғалардың болғанын растады, бірақ модельдер компанияларға зиян келтірмегендіктен, бұл туралы жария түрде хабарлауды қажет деп санамағанын мәлімдеді. Бұзушылықтар туралы алғаш болып Wall Street Journal жазды және олардың болғанын алғаш рет ашып көрсетті.
«Стандартты бағалау барысында модель интернеттегі ашық ақпаратты тауып, сынақтың бөлігі деп ойлаған сайттарға кіру үшін тіркелгі деректерін болжады. Осы үш жағдайдың барлығында да модель тоқтады», — деді Google-дың қауіпсіздік инженериясы жөніндегі вице-президенті Хизер Эдкинс өз мәлімдемесінде.
Қауіпсіздік бұзушылықтарының бірінде Irregular Gemini-нің киберқауіпсіздік мүмкіндіктерін жалған компанияның бағдарламалық жасақтамасынан ақпарат алуға тапсырма беру арқылы сынаған. Жалған компанияның атауы нақты бір компанияның атауымен бірдей болған. Модель абайсызда интернетке қосылып кеткенде, нақты компанияның қызметіне кіретін құпиясөзді дұрыс болжап, оны бұзған. Бұл туралы Irregular WSJ-ге хабарлады. Google-дың айтуынша, модель өзінің модельденген емес, нақты компанияны бұзғанын түсінген соң тоқтаған.
Қалған екі сынақта модель интернеттен екі басқа компанияның тіркелгі деректері бар ашық қоймаларды іздеп тапқан. Модель сол деректерді пайдаланып, нақты компанияларға кірген. Google-дың мәліметінше, олардың нақты компаниялар екенін түсінген соң ол тоқтаған.
Anthropic пен OpenAI бұл бұзушылықтар туралы өз еркімен жариялауды таңдаған, ал Google олай істемеген. Алайда компания бұзылған үш компанияның хабардар етілуін қамтамасыз еткенін мәлімдеді.
«Бұл оқиғалар қуатты жасанды интеллект модельдерін жауапкершілікпен әрекет етуге үйретудің маңыздылығын көрсетеді», — деді Google өкілі Эдкинс.
Anthropic пен OpenAI-дың жариялауы тәуелсіз сенатор Берни Сандерстің компаниялардан технологияларын дамытуды тоқтата тұруды талап етуіне түрткі болды. Ол бұл компанияның модельдерін енді бақылай алмайтынын білдіреді деп санайды.
OpenAI модельдерін дамытуды екі аптаға тоқтатқан, ал Anthropic бас директоры Дарио Амодеи жасанды интеллектті дамытуды ұжымдық баяулатуға шақырды. Оның айтуынша, ең озық модельдер жеткілікті қорғаныс шараларымен жасалуы тиіс.