Нейрожелі әзірлеумен айналысатын Anthropic компаниясының екі бұрынғы қызметкері жасанды интеллекттің қарқынды дамуына байланысты дабыл қақты. Зерттеушілер адамзат салдарға дайындалып үлгермей жатып, технологияны бақылаудан айырылып қалуы мүмкін деп қауіптенеді, деп хабарлайды infohub.kz сайты.
Anthropic-тің қауіпсіздік жөніндегі зерттеу тобының бұрынғы жетекшісі Джо Бентон Claude чат-ботын әзірлеушіден кетіп, METR коммерциялық емес ұйымына ауысқанын мәлімдеді.
«Өткен аптада мен Anthropic-тен кетіп, METR-ге қосылып, ЖИ тәуекелдерін кіріктірілген бағалаумен айналысуды шештім», — деді Джо Бентон.
METR озық модельдердің мүмкіндіктерін зерттеп, жасанды интеллект қоғамға қашан нақты қауіп төндіре бастайтынын анықтауға тырысады. NBC-ге берген сұхбатында Бентон технологияның даму жылдамдығынан ерекше қорқатынын мойындады, деп жазады Reuters.
«Жасанды интеллект тым жылдам дамып кетуі мүмкін, ал біз қазірден ойланбасақ, қажетті шараларды қолданып үлгермейміз деп алаңдаймын», — деді Бентон.
Алайда ірі ЖИ-компаниялардың бірінің ішінен шыққан алаңдатарлық мәлімдемелер мұнымен бітпеді. Бірнеше күннен кейін Anthropic-тен кеткенін бұрын OpenAI-де жұмыс істеген Джейкоб Коксон да жариялады.
Зерттеуші екі компанияны да өзін-өзі жетілдіретін суперинтеллект жасау жолындағы қауіпті жарысқа кінәлады. Оның айтуынша, әзірлеушілер модельдерді бақылауда ұстаудың сенімді жолы жоқ болса да, олардың мүмкіндіктерін ұлғайта беруде.
«Екі компанияның ешқайсысы жауапкершілікпен әрекет етпейді. Олар өзін-өзі жетілдіретін суперинтеллектке қарай ұмтылып, біздің өмірімізбен ойнап отыр», — деп жазды Коксон.
Ол озық ЖИ жасауға тікелей қатысып жүрген мамандар адамзаттың жақын жылдарда жойылуы мүмкіндігін шындап жіберіп отыр деп тұжырымдайды.
«ЖИ жасап жүрген адамдар оның осы онжылдықтың соңына дейін бәрімізді өлтіруі мүмкін екеніне шын жүректен сенеді. Бұл — маркетингтік айла емес», — деп қосты зерттеуші.
Коксон ЖИ-индустриясынан толық кетті, ал Бентон технология қауіпсіздігімен тәуелсіз ұйымда айналыса береді. Айтпақшы, екі маманның да Anthropic-тен екі күннің ішінде кеткені туралы хабарламалар шындыққа сәйкес келмейді: Бентон өз шешімін 2 қыркүйекте, ал Коксон 8 қыркүйекте мәлімдеген.