Жасанды интеллект (ЖИ) саласындағы «tokenmaxxing» тренді, яғни токендерді барынша көп пайдалану, қазір шегіне жетті. Жұмыс орындары ЖИ-ді бәріне қолданып, шығындардың өскенін, бірақ өнімділіктің соған сай артпағанын байқауда. Бұл туралы Moody's Ratings компаниясының ЖИ талдау бөлімінің басшысы Винсент Гусдорфтың жаңа есебінде айтылған, деп хабарлайды infohub.kz сайты.
Tokenmaxxing деп аталатын құбылыс – OpenAI-дің ChatGPT және Anthropic-тің Claude сияқты өнімдерінен барынша көп ЖИ генерацияланған жұмыс алуға ұмтылу. Бұл тренд технологиялық салада көктемде әуесқойлық тудырған еді, бірақ жазда кері реакция басталды.
Гусдорфтың айтуынша, ЖИ-мен қажетсіз нәрсені жасау оңай. Ол: «Шоттар келе бастағанда, адамдар бұл жаңа құралдардың өте қымбат екенін және оларды ақылмен пайдалану керектігін түсінді», – деді.
Бірнеше ай бұрын Кремний алқабының басшылары жоғары токен тұтынуды жоғары өнімді қызметкерлердің белгісі ретінде насихаттады. OpenAI бас директоры Сэм Алтман мамыр айында tokenmaxxing стартаптарынан не көрінетініне қызығушылық танытқан. Nvidia бас директоры Дженсен Хуан: «Егер сіздің 500 000 долларлық инженеріңіз 250 000 долларлық токендерді жағып жатпаса, бірдеңе дұрыс емес», – деген. Facebook-тің ата-ана компаниясы Meta іштегі бәйгеде токен пайдалануды марапаттаған.
Microsoft бас директоры Сатья Наделла tokenmaxxing тәуелділік тудыруы мүмкін екенін мойындап, клиенттердің ЖИ үшін екі рет төлейтінін ескертті: бірінші – токендерге, екінші – меншікті деректерін беру арқылы.
Palantir бас директоры Алекс Карп одан әрі барып, бірдеңе «түбегейлі дұрыс емес» екенін айтты. Ол американдық бизнестердің құндылық жасамайтын токендерге көп ақша төлеуге ашулы екенін жеткізді.
Bain & Company басқарушы кеңесшісі Джуэ Ван компаниялардағы токен шығындары екі айда бір еселеніп жатқанын айтты. Мысалы, бір әзірлеушіге айына 200 доллардан 20 000 әзірлеушіге көбейткенде, бұл басшылар жоспарламаған үлкен сомаға айналады.
Сондықтан компаниялар ЖИ модельдерін бағыттау (routing) құралдарын іздей бастады: қарапайым сұраныстар арзанырақ үлгілерге жіберіліп, күрделі тапсырмалар қуаттырақ модельдерге бағытталады. Джуэ Ван Claude Opus 4.6 сияқты қуатты модельді хаттар жазуға пайдаланудың қажеті жоқ екенін атап өтті.
Бұл ретте Қытайлық стартаптардың ашық бастапқы кодты модельдері (Moonshot-тың Kimi және Zhipu-дің GLM) арзан балама ұсынады. Олар АҚШ-тың үздік модельдерінің мүмкіндіктеріне жақын, бірақ бағасы бірнеше есе төмен. Mozilla бас технологиялық директоры Раффи Крикорян: «Бұл tokenmaxxing-ті біршама алға жылжытуы мүмкін, бірақ жалпы сала оның ақымақтық екенін түсінеді», – деді.
Крикорян бұл трендті бұрынғы бағдарламалық қамтамасыз ету компанияларының код жолдарының санын өнімділік өлшемі ретінде пайдалануымен салыстырды. «Менің ойымша, tokenmaxxing дәл сол үлгімен дамып жатыр және біз бір жылдан кейін оған күлетін боламыз», – деп қорытындылады ол.