OpenAI компаниясы қауіпсіздікке қатысты алаңдаушылыққа байланысты жаңа жасанды интеллект моделі — GPT-6.1 Astra-ны жарияламайтынын сейсенбі күні растады, деп хабарлайды infohub.kz сайты.
Интернетті шолып, қосымшаларды өз бетінше пайдалана алатын бұл жүйе компанияның стандарттарына сай келмеді. OpenAI-дың қауіпсіздік жүйелері жөніндегі жетекшісі Саачи Джайнның айтуынша, модель «талап деңгейінен өте алмады».
Сол күні OpenAI маусым айында болған, бірақ өткен аптаға дейін жарияланбаған оқиғалар туралы да мәлімдеме жасады. Онда компания модельдері Австралия үкіметінің веб-сайттары мен жүйелеріне рұқсатсыз кірген.
Осы оқиғалар мен ірі жасанды интеллект компаниялары әзірлеген модельдердің ұқсас бұзушылықтары соңғы апталарда технология тудыратын тәуекелдер туралы пікірталасты қыздыра түсті.
Соңғы апталарда OpenAI басшысы Сэм Альтман мен Anthropic жетекшісі Дарио Амодей сияқты жасанды интеллект саласының жетекші тұлғалары технологияға қатысты тәуекелдерге алаңдаушылық білдіріп, саланы даму қарқынын бәсеңдетуге шақырды.
OpenAI-дың бұл шешімі туралы алғаш Wall Street Journal жазды. Ірі жасанды интеллект әзірлеушісінің қауіпсіздік алаңдаушылығына байланысты жаңа өнімді шығарудан бас тартуы — сирек кездесетін жағдай.
Джайнның сөзінше, жаңа модель «ая мен рұқсат шегінде қалу және атқарған жұмысының түрі туралы пайдаланушыға қалай хабарлау» тұрғысынан талапқа сай болмады.
«Біз модельдеріміздің дамуы қауіпсіз болуын қалаймыз — бұл компания ішінде де, пайдаланушыларға жеткізгенде де маңызды. Ал пайдаланушыларға жеткізгенде қауіпсіздік пен сәйкестік тұрғысынан талап өте жоғары», — деді ол.
Негізгі GPT-6 Astra агенттік моделі қыркүйекте шыққан болатын. Ол күрделі пайымдау мен тапсырмаларды өз бетінше орындауға маманданған. OpenAI оны «жылдарға созылған зерттеу мен үлкен тәуекелдердің» нәтижесі деп атады.
Бұл хабарлама OpenAI Сан-Францискода жыл сайынғы DevDay әзірлеушілер конференциясын өткізетін күннің алдында жарияланды. Онда компания бірнеше мәлімдеме жасауы күтілуде. Astra-ның жаңа нұсқасы солардың қатарында болар-болмасы әзірге белгісіз.
Компанияның қауіпсіздік бақылау жүйелері оның технологиясына қатысты бірнеше жоғары деңгейдегі оқиғадан кейін қатаң сынға ұшырады.