Бақылаусыз жасанды интеллект адамзатқа бәсекелес бола алатын «кремний түрін» дүниеге әкелуі мүмкін. Бұл туралы Микрософт компаниясының жасанды интеллект бөлімін басқаратын Мұстафа Сүлейман ескертті, деп хабарлайды infohub.kz сайты.
Бейсенбі күні «Today» бағдарламасына сөйлеген Сүлейман өз мақсаттарын қоя алатын, ақша табатын және мүлік иеленетін жасанды интеллект жүйелерін жасауды жалғастыратын компанияларға қарсы ескерту жасады. Оның айтуынша, бұл «шын мәнінде жаңа кремний түрін себумен» тең, ол «адамзатты қаншалықты жақсы көрсе де, бізбен ресурстар үшін бәсекелесетіні сөзсіз».
Сүлейманның Би-би-сиге айтқан пікірлері оның осы аптаның басында жариялаған эссесінен кейін шықты. Онда ол Антропик компаниясының өзінің Клод атты жасанды интеллект моделін оқыту тәсілін сынға алды, алайда компания басшысы Дарио Амадей мен оның командасын «зияткерлік тұрғыдан адал адамдар» деп мақтады.
Эсседе ол Антропикті жасанды интеллектіге адамға тән қасиеттерді үйретуі үшін сынға алды. Бұл тәжірибе антропоморфтау деп аталады. Оның айтуынша, бұл Клодтың өз қалауы, құндылықтары және өзін-өзі тануы бар сияқты әсер қалдырады.
Сондай-ақ ол технологиялық компанияларды технологияны адам ретінде қарастыру арқылы бақылауға келмейтін нәрсе жасау қаупі туралы ескертті.
«Жасанды интеллект саналы емес, — деп жазды ол. — Олар сезінбейді, тәжірибе жинамайды, азап шекпейді. Олардың туа біткен қалаулары немесе ішкі мотивтері жоқ. Олар — реттілікті аяқтайтын қозғалтқыштар, іштей қуыс, нұсқауларды орындауға және адамдар қойған мақсаттарға жетуге арналған».
Жасанды интеллект жүйелерінің қаншалықты автономды болуы керектігі туралы мәселе саланы барған сайын екіге жарып отыр.
Би-би-сиге алдағы жасанды интеллект саммиті туралы айтқан Сүлейман адамзатқа «бағынышты» болуы тиіс технологияны жасау үшін «үйлестіруге» шақырды. Үйлестіру — жасанды интеллектіге адамның этикалық идеялары мен принциптерін сіңіруді мақсат ететін сала. Басқаша айтқанда, ол технологияны адамдар бағалайтын құндылықтарға сәйкес ұстауды көздейді.
«Менің ойымша, жақсы жаңалық — әрбір адам біздің барлығымыз жасайтын және әлемнің әр елінде қолданылатын жүйелердің қауіпсіз, бақылауға келетін және адамзатқа бағынышты болуын қамтамасыз етуге қатты мүдделі болады, — деді ол. — Барлығы үйлестірілуі керек».
Микрософт 2025 жылдың қазанында өзінің суперинтеллект командасын құрды. Компания да өзінің бәсекелесі Антропик сияқты озық жасанды интеллект әзірлеуге ұмтылып отыр.
Сүлейманның пікірлері Микрософттың «Гуманистік жасанды интеллект кодексінің» алғашқы жобасын көрсетеді. Бұл дүйсенбіде жарияланған компанияның жасанды интеллектіні қалай әзірлеп жатқаны туралы «оқу құралы» болып табылады және «гуманистік суперинтеллект» идеясын ұсынады.
Кодексте айтылғандай, бұл — «әрқашан адамдар үшін жұмыс істейтін, шектеулерде қалатын және адам бақылауында болатын өте озық жасанды интеллект».
Компанияның «гуманистік» жасанды интеллект туралы көзқарасы технологияның алдында тұрған басты міндетті көрсетеді: оны қызмет етуге тиіс құндылықтардан айырылмай, қалай қуаттырақ етуге болады.
Қосымша ақпаратты Генри Мур дайындады.