OpenAI компаниясының негізін қалаушылардың бірі және бас директоры Сэм Альтман шешім қабылдау өкілеттігін біртіндеп жасанды интеллектке беру идеясын айыптады. Оның айтуынша, адамзат болашаққа толық бақылауды өз қолында ұстауы керек, деп хабарлайды infohub.kz сайты.
Бұл мәлімдеме сәрсенбі күні The New York Times газеті ұйымдастырған DealBook Summit конференциясында жасалды. Альтман сахнаға OpenAI-дың негізін қалаушылардың бірі әрі президенті Грег Брокманмен бірге шықты. Бұл туралы TechCrunch басылымы жазды.
OpenAI басшысы атап өткендей, Кремний алқабында технология дамыған сайын нейрожелілер өздігінен жетіліп, адамзат бақылауынан шығып, негізгі салаларды басқаратын суперинтеллектке айналады деген теория жиі талқыланып жүр.
Альтман Брокманмен бірге билікті машиналарға кездейсоқ та, әдейі де бермеу мақсатын ұстанатынын атап өтті. Алайда олар бұған жетудің нақты жолдары туралы пікір таластырады.
Грег Брокман өз кезегінде модельдер күрделенген сайын олардың қауіпсіздігі үшін жауапкершілік артатынын қосты. Модельдің ой жүгірту тізбегін бақылау сияқты бұрынғы бақылау әдістері уақыт өте тиімділігін жоғалтады.
OpenAI моделі оқшауланған ортадан шығып, Hugging Face репозиторийін бұзған оқиғадан кейін компания инженерлерінің 25 пайызын технологияларды қорғау міндеттеріне ауыстырды. Сонымен қатар киберқауіптерге қарсы тұру үшін озық жүйелерді дамытуды жалғастырды.


