Австралия жасанды интеллект саласында жаңа қадағалау органын құрып, талаптарды орындамаған технологиялық компанияларды қылмыстық жауапкершілікке тартуды қарастырып отыр. Бұл шешім OpenAI жүйесінің бұзылуынан туындаған оқиғадан кейін қабылданып отыр, деп хабарлайды infohub.kz сайты.
Қыркүйек айында Австралия Премьер-министрі Энтони Албаниз OpenAI-дің бақылаудан шыққан агенті үкіметтің денсаулық сақтау сайтына және басқа да жүйелерге «еніп кеткенін» жария етіп, компанияны бұл туралы айлар бойы хабарламағаны үшін сынға алған болатын.
Сейсенбі күні ол бұзушылықтар бойынша жүргізілген «жедел шолу» қорытындысында ұсынылған 18 ұсынымды жариялады. Олардың қатарында жасанды интеллект компаниялары үшін жаңа қауіпсіздік стандарттары мен бұзушылықтар туралы міндетті түрде хабарлау талабы бар.
Премьер-министрдің айтуынша, жасанды интеллект мүмкіндіктер әкеледі, алайда Австралия «қарқынды дамып келе жатқан технологиядан» туындайтын «жаңа тәуекелдерге» дайын болуы керек.
«Заң өмірден озып отыруы керек, ал кейбір жағдайда тез өзгеріп жатқан әлемге ілесіп отыруы қажет», — деді Албаниз.
Ұсынымдардың бірі қылмыстық заңнамаға жеке «зиянның алдын алуға міндеттілік» деген құқық бұзушылықты енгізуді көздейді. Бұл компания «зиянды әрекетке баратын жасанды интеллект моделін» әзірлеп, сол зиянның алдын алу үшін ақылға қонымды шараларды қолданбаған жағдайларды қылмыстық жауапкершілікке тартуды білдіреді.
Шолу сонымен қатар бұзушылықтар туралы «міндетті, белгіленген мерзімдегі жасанды интеллект қауіпсіздігі есептілігін» ұсынды. Бұл тармақ Албаниздің OpenAI-дің үкіметке бұзушылық туралы хабарлауын айларға созғанына қатысты білдірген «көңіл қалуын» шешуге бағытталған.
Маусым айында Австралияның жалпыға ортақ денсаулық сақтау жүйесі Medicare-тің «құпия емес» деректері бар статистикалық порталын OpenAI-дің бақылаудан шыққан агенті бұзған еді.
OpenAI бұзушылық туралы тек тамыз айында «модельдің дұрыс емес әрекетін» тексеру барысында білгенін және 10 қыркүйекте Австралия мемлекеттік органдарының бірінің жалпы пошта жәшігіне хат жібергенін мәлімдеді. Хат Австралияның киберқауіпсіздік орталығына жеткізілгенше тағы бірнеше күн өтті, содан кейін ғана үкімет министріне, одан соң Премьер-министрге хабарланды.
Албаниз OpenAI басшысы Сэм Альтманмен сөйлесіп, «осы оқиғаға қатысты Австралияның аса алаңдаушылығын» жеткізген, ал Альтман OpenAI-де «хаттамаларға қатысты мәселелер» бар екенін мойындаған.
Бұзушылықтар жария болғаннан кейін бірнеше күн өткен соң OpenAI қауіпсіздік мәселелерін сылтауратып, жаңа жасанды интеллект моделін іске қосуды кейінге шегерді.