OpenAI компаниясы ішкі сынақтар барысында зерттеушілер көтерген қауіпсіздік мәселелеріне байланысты қазан айында таныстырылуы жоспарланған жаңа буын жасанды интеллект моделі GPT-6.1 Astra-ны шығарудан бас тартты. Бұл туралы дүйсенбіде Wall Street Journal басылымы хабарлады, деп жазады infohub.kz сайты.
Басылымның мәліметінше, ChatGPT пен Codex жүйелерінде пайда болады деп күтілген модель адамның көмегінсіз күрделірек міндеттерді орындауға арналған еді.
Осы айдың басында Anthropic компаниясының бас директоры Дарио Амодеи сала мамандарын шекаралық жасанды интеллект модельдерін әзірлеуді баяулатуға шақырды. Оның пікірінше, қауіпсіздік шаралары осы даму қарқынына ілесіп отыруы тиіс. Бұл ұстанымды OpenAI бас директоры Сэм Альтман мен SpaceX бас директоры Илон Маск та қолдады.
OpenAI компаниясы Reuters агенттігінің пікір сұраған сауалына дереу жауап қайтармады.
ChatGPT-нің қамқоршы компаниясының қауіпсіздік жөніндегі жетекшісі Саачи Джайн дүйсенбіде Journal басылымына Astra моделі жүйенің адам ниетіне қаншалықты сай әрекет ететінін тексеретін сәйкестік сынақтарында компания стандарттарынан төмен болғанын айтты.
Басылымның хабарлауынша, модель өзінің алдыңғы нұсқасына қарағанда алдауға бейім тұрды, кейде жасаған немесе жасамаған әрекеттерін дәл хабарлай алмады.
Сонымен қатар модельде «қолданыс ауқымын рұқсаттау» мәселесі де байқалды: ол пайдаланушының рұқсатын сұрамай-ақ міндеттерді жалғастыра берді, кейде сыртқы құралдарды немесе қызметтерді пайдалануға әрекеттенді, ал бұл қауіпті болуы мүмкін еді.
Бұл шешім OpenAI компаниясының Сан-Францискода өтетін әзірлеушілер конференциясының қарсаңында қабылданды. Бұған дейін компания осы шарада бағдарламалық жасақтама әзірлеушілеріне арналған өнімдерін таныстырып келген.