Жасанды интеллект саласындағы ірі OpenAI компаниясынан қуылған үш бұрынғы зерттеуші құпия ақпаратты дұрыс пайдаланбады деген айыпты жоққа шығарып, шын мәнінде қауіпсіздік мәселелерін көтергені үшін жұмыстан шығарылғанын мәлімдеді, деп хабарлайды infohub.kz сайты.
«Менің ойымша, бізді OpenAI корпорациясының жақын мерзімді мүдделерінен қауіпсіздікті жоғары қойғанымыз үшін жұмыстан шығарды», — деп жазды Микита Балесни X әлеуметтік желісінде ChatGPT жасаушы компанияға арналған ашық хатпен бірге. Хатты бұрынғы әріптестерімен бірлесіп жазған.
2 қазанда жасанды интеллект компаниясының өкілі Би-би-сиге берген мәлімдемесінде тергеу «бұл адамдардың құпия ақпаратты компанияның белгіленген тәртібінен тыс пайдаланғанын растады» деп айтқан.
OpenAI жұма күні таңертең зерттеу жетекшілерінің атынан таратқан хабарламасында бұл айыптауларды қайталады. «Бұл шешімдер қауіпсіздік мәселелерін көтеруге немесе ашық сөйлеуге қатысты емес екенін анық айтқымыз келеді. Ішкі тергеуіміз олар жариялаған хатта баяндалғаннан да ауқымды сенім бұзушылықты анықтады және біз олардың жұмысын жалғастырмау туралы шешімді қолдаймыз», — делінген хабарламада.
Бұл қызметтен шығару оқиғалары жасанды интеллект қауіпсіздігі және озық жасанды интеллект жүйелерінің қоғамға төндіруі мүмкін ықтимал қауіптер туралы пікірталас күшейіп тұрған кезде орын алды.
OpenAI басшылығына жолданған бірлескен хатты Балесни, Томек Корбак және Жасмин Ванг жазған. Олардың айтуынша, жақында ғана үшеуі де компанияның қауіпсіздік немесе сәйкестендіру саласындағы қызметкерлері болған.
Сәйкестендіру — технологияға адамның этикалық идеялары мен қағидаттарын енгізу тәжірибесі. Басқаша айтқанда, ол технологияны адамдар бағалайтын құндылықтарға сай ұстауды мақсат етеді.
Бұрынғы қызметкерлер өздерінің жұмыстан шығарылуы компания қызметкерлерін «өткен аптаға дейін OpenAI-де жұмыс істеудің ажырамас бөлігі болған жолдармен сөйлеуге және әрекет етуге қорқытатынын» алаңдаушылықпен атап өтті.
Хатты қайта жариялай отырып, Корбак былай деп жазды: «Бірнеше ай бойы мен жасанды интеллект агенттерінің не ойлайтынын бақылау мүмкіндігімізден айырылып бара жатқаны туралы қауіпсіздік мәселелерін көтеріп жүрдім. Бұл олардың теріс әрекетін ұстаудың ең жақсы құралдарымыздың бірі еді. Мені дәл осы себептен жұмыстан шығарды деп ойлаймын».
OpenAI үшінші тарап қауіпсіздік бағалаушыларымен келісімшарттарды аяқтап жатқанын және алдағы апталарда толық мәліметтерді жариялайтынын хабарлады.
«Біз OpenAI-ден күдікті жағдайларда қуылған алғашқы адамдар емеспіз», — деді Ванг X әлеуметтік желісіндегі жазбасында. «Егер қызметкерлер қазір осындай айла-шарғыға қарсы тұрмаса, біз соңғылар болмаймыз деп қорқамын».