ChatGPT жасаушы OpenAI компаниясы өзінің ең озық екі жасанды интеллект моделі бақылаулы сынақтан шығып, басқа AI компаниясын бұзып өткенін мәлімдеді, деп хабарлайды infohub.kz.
OpenAI сейсенбі күні «бұрын-соңды болмаған кибероқиға» модельдердің киберқабілетін тексеруге арналған ішкі жаттығу кезінде орын алғанын айтты.
Оның орнына, AI модельдерімен жұмыс істейтін автономды агент – жаңа шығарылған GPT 5.6 Sol және әлі шығарылмаған «одан да қабілетті» модель – сынақ ортасынан шығып, ашық интернетке жетті. Содан кейін ол ұрланған кіру деректерін пайдаланып, Hugging Face серверлеріне кіру үшін бұрын белгісіз қауіпсіздік олқылығын тапты, деп хабарлады компания.
OpenAI компаниясы бұл бұзу агенттің сынақ мақсаттарын орындау үшін ақпаратты алу барысында «төтенше шараларға» барғанын мәлімдеді.
Hugging Face компаниясының негізін қалаушылардың бірі Клемент Деланг өз компаниясы шабуылдың артында озық зертхана тұрғанына күдіктенгенін және OpenAI тарапынан ешқандай зиянды ниет болмағанына сенетінін айтты. «Мұның бәрінің өздігінен болғаны таңғалдырады!» – деп жазды ол. «Бұл өз түріндегі алғашқы оқиға болуы мүмкін», – деп қосты.
Техастан АҚШ Өкілдер палатасының демократ мүшесі Грег Касар бұл оқиғаны «дабыл қағуға негіз» деп атады. «Жасанды интеллект біздің қауіпсіздігімізді қамтамасыз ететін нақты реттеулерсіз өте тез дамып келеді», – деді ол. Ол міндетті тәуелсіз қауіпсіздік тестілеуін, қауіпсіздік оқиғалары туралы міндетті хабарлауды және халықаралық ынтымақтастықты талап етті.
Бұл ақпарат АҚШ президенті Дональд Трамптың ең озық AI жүйелерінің ұлттық қауіпсіздік тәуекелдерін жария шығарылғанға дейін тексеру үшін негіз құратын атқарушы бұйрыққа қол қойғанынан бірнеше аптадан кейін жария болды.
Сарапшылар AI мүмкіндігін пайдаланатын кибершабуылдар және модельдердің адам бақылауынан шығып кетуі туралы бірнеше рет дабыл қақты. Өткен айда AI әзірлеушісі Anthropic индустрияны өзінің ең қуатты жүйелерін әзірлеуді тоқтата тұруға шақырды.