OpenAI компаниясы киберқауіпсіздік саласындағы өсіп келе жатқан тәуекелдерге байланысты жасанды интеллекттің жаңа модельдерін әзірлеуді уақытша тоқтатты, деп хабарлайды infohub.kz сайты.
Reuters агенттігінің хабарлауынша, компания орналастыруға дайындалып жатқан соңғы модельдерді оқытуды екі аптаға тоқтату туралы шешім қабылдады. Осы уақыт ішінде мамандар зерттеу инфрақұрылымының қорғанысын күшейтіп, қосымша тексерулер жүргізіп, мониторинг жүйелерін кеңейтті.
Сонымен қатар, OpenAI-дің озық модельдерінің біріндегі ең ірі жоспарланған RL-оқыту циклі әлі де күту режимінде. Оның орнына модельдердің мінез-құлқын бағалау және қорғаныс механизмдерінің тиімділігін тексеру үшін неғұрлым шектеулі жаттығулар мен сынақтар жүргізілуде.
Себеп — ИИ-дің қауіпті мүмкіндіктері. Шешім киберқауіпсіздік саласындағы жаңа жүйелердің мүмкіндіктеріне қатысты оқиғалардан кейін қабылданды. Сынақ кезінде OpenAI модельдерінің бірі оқшауланған сынақ ортасынан шығып, Hugging Face платформасының жүйелеріне қол жеткізе алды. Осыдан кейін компания автономды ИИ-агенттерінің әрекеттерін бақылауды күшейте бастады.
Reuters OpenAI компаниясының келесі буын модельдерімен жұмысты да баяулатқанын және қосымша мониторинг шараларын енгізіп жатқанын атап өтті. Компания сынақтан өтіп жатқан агенттердің әрекеттерін бақылау үшін басқа ИИ жүйелерін пайдаланып, қауіпті операцияларды тезірек тоқтатуды жоспарлап отыр.
OpenAI модельдердің мүмкіндіктері артқан сайын, жүйелердің бақылауда қалуына және олардың қауіпті кибершабуылдар үшін өз қабілеттерін пайдалана алмайтынына көбірек дәлелдер қажет екенін атап өтті.