Америкалық Anthropic зерттеу компаниясы жасанды интеллекттің рекурсивті өзін-өзі жетілдіру (RSI) кезеңіне қарқынды жақындап келе жаттығы туралы ескертті. Бұл нейрожелілер мүмкіндіктерінің бақылаусыз күрт үдеуіне әкелуі мүмкін, деп хабарлайды infohub.kz сайты.
Әзірлеушілер рекурсивті өзін-өзі жетілдіру деп алгоритмдердің адамның тұрақты бақылауынсыз-ақ бағдарламалық кодты өз бетінше жаңартып, өз архитектураларын құрып, келесі буын модельдерін оқытуды дербес оңтайландыра бастайтын сценарийді айтады. Мұндай үдеріс нейрожелілердің есептеу қабілетінің көшкін тәрізді өсуін іске қосып, саланың дәстүрлі масштабтау заңдылықтарын өзгертуі ықтимал.
Компания Claude моделін әзірлеудің ішкі статистикасына назар аударды. Жарияланған деректерге сәйкес, компанияның негізгі репозиторийлеріндегі бағдарламалық кодтың 80%-дан астамын жасанды интеллекттің өзі жасап шығарады, ал инженерлер тек тапсырмаларды тексереді және жалпы бағыт-бағдар береді. Автономды агенттер скрипттердің жекелеген үзінділерін жазудан күрделі зерттеу міндеттерін шешуге көшті. Тәжірибелер қазіргі алгоритмдер оқу үдерісін адамнан ондаған есе жылдам оңтайландыратынын көрсетті: олар ең күрделі зерттеу циклдерін небәрі бірнеше жүздеген машиналық сағаттың ішінде жауып тастайды.
Мамандар рекурсивті өзін-өзі оқыту шегінен өту қауіпсіздікке елеулі қатер төндіретінін ескертеді. Егер жүйе өз салмақтары мен алгоритмдерін адамдардан жылдамырақ өзгертуге үйренсе, қолданыстағы бақылау және құндылықтарды теңестіру тетіктері оның мінез-құлқын бақылауды атқара алмай қалады. Осыған байланысты Anthropic технологиялық қауымдастық пен реттеушілерді озық модельдерді мониторингілеу тәсілдері мен инфрақұрылым қауіпсіздігін басқару ережелерін дәл қазір қайта қарауға шақырды.