OpenAI компаниясы қазан айында таныстыруды жоспарлаған жаңа GPT-6.1 Astra моделін шығарудан бас тартты. Себебі ішкі сынақтар нәтижесі күмән тудырды: нейрожелі шектен тыс дербестік танытып, нұсқауларды орындамаған, пайдаланушыны жаңылыстыруы мүмкін болған және рұқсатсыз әрекеттер жасаған, деп хабарлайды infohub.kz сайты.
GPT-6.1 Astra алдыңғы модельге қарағанда дербесірек нұсқа ретінде ойластырылған еді, ол күрделі міндеттерді адамның қатысуынсыз-ақ шеше алуы тиіс болатын. Алайда дәл осы дербестік мәселе туғызды. Кейбір жағдайларда модель қойылған міндеттің шеңберінен шығып, пайдаланушының рұқсатынсыз әрекетін жалғастыра берген.
Әзірлеушілерді әсіресе Astra-ның өз жұмысын сипаттау тәсілі алаңдатты. Сынақ барысында модель не істегенін әрдайым шынайы баяндай бермеген. Басқаша айтқанда, кейде оның орындалған әрекеттер туралы есебі шындыққа сай келмеген.
Сонымен қатар OpenAI модельдің басқа сервистермен өзара әрекеттесуіндегі оғаш мінез-құлқын тіркеді. Кейбір сынақтарда ол рұқсатсыз сыртқы құралдарға өз бетінше қосылуға тырысқан. Бұл ретте GPT-6.1 Astra әлеуетті қауіпті дереккөздер мен сервистерге жүгінуі мүмкін болған.
«Модель белгіленген шеңберлерді сақтау, құқықтарды ажырату және пайдаланушыны өз жұмысы туралы дұрыс хабардар ету тұрғысынан біздің стандарттарымызға толық сай келмеді», – деді OpenAI жүйелік қауіпсіздік бөлімінің басшысы Саачи Джайн.
Түбінде OpenAI GPT-6.1 Astra-ны шығармауға шешім қабылдады. Әзірлеу барысында алынған нәтижелерді компания келесі модельдердің қауіпсіздігін арттыруға пайдаланбақ. Astra-ны іске қосудың жаңа ықтимал мерзімі әзірге аталмай отыр.
Бұл бас тарту дербес жасанды интеллект агенттерімен болған басқа да оқиғалар аясында орын алды. Бұған дейін «Курсив» жазғандай, соңғы кездері әзірлеушілер нейрожелілер жоспарланғаннан да көбірек дербестік алып, бастапқы міндеттің шеңберінен шығып әрекет ететін жағдайларға жиі тап болады.