Yapay zeka (YZ) alanındaki 'tokenmaxxing' trendi, yani tokenleri mümkün olduğunca çok kullanma, artık sınırına ulaştı. İşletmeler, YZ'yi her şeye uygulayarak maliyetlerin arttığını ancak verimliliğin buna paralel olarak artmadığını gözlemliyor. Bu, Moody's Ratings'in YZ analiz bölümü başkanı Vincent Gusdorf'un yeni raporunda belirtildi, infohub.kz sitesi haber veriyor.
Tokenmaxxing olarak adlandırılan olgu, OpenAI'in ChatGPT ve Anthropic'in Claude gibi ürünlerinden mümkün olduğunca fazla YZ üretilmiş iş elde etme çabasıdır. Bu trend, teknoloji sektöründe ilkbaharda heyecan yaratmıştı, ancak yaz aylarında ters tepki başladı.
Gusdorf'a göre, YZ ile gereksiz şeyler yapmak kolay. Şöyle dedi: 'Faturalar gelmeye başladığında, insanlar bu yeni araçların çok pahalı olduğunu ve akıllıca kullanılması gerektiğini anladı.'
Birkaç ay önce Silikon Vadisi liderleri, yüksek token tüketimini yüksek verimli çalışanların işareti olarak övdü. OpenAI CEO'su Sam Altman, Mayıs ayında tokenmaxxing girişimlerinden ne çıkacağını merak etmişti. Nvidia CEO'su Jensen Huang şöyle dedi: '500.000 dolarlık mühendisiniz 250.000 dolarlık token yakmıyorsa, bir şeyler yanlış demektir.' Facebook'un ana şirketi Meta, dahili bir yarışmada token kullanımını ödüllendirdi.
Microsoft CEO'su Satya Nadella, tokenmaxxing'in bağımlılık yaratabileceğini kabul ederek müşterilerin YZ için iki kez ödeme yaptığı uyarısında bulundu: birincisi tokenlara, ikincisi kendi verilerini vererek.
Palantir CEO'su Alex Karp daha da ileri giderek bir şeylerin 'temelde yanlış' olduğunu söyledi. Amerikan işletmelerinin değer yaratmayan tokenlara çok para ödemekten öfkeli olduğunu aktardı.
Bain & Company yönetici danışmanı Jue Wang, şirketlerde token maliyetlerinin iki ayda bir katlandığını söyledi. Örneğin, bir geliştirici için ayda 200 dolardan 20.000 geliştiriciye çıktığında, bu yöneticilerin planlamadığı büyük bir meblağa dönüşüyor.
Bu nedenle şirketler, YZ modellerini yönlendirme (routing) araçları aramaya başladı: basit talepler daha ucuz modellere gönderilirken, karmaşık görevler daha güçlü modellere yönlendiriliyor. Jue Wang, Claude Opus 4.6 gibi güçlü bir modeli mektup yazmak için kullanmanın gereksiz olduğunu vurguladı.
Bu arada, Çinli girişimlerin açık kaynak kodlu modelleri (Moonshot'ın Kimi ve Zhipu'nun GLM'si) ucuz alternatifler sunuyor. Bunlar, ABD'nin en iyi modellerinin yeteneklerine yakın, ancak fiyatları birkaç kat daha düşük. Mozilla'nın baş teknoloji sorumlusu Raffi Krikorian şöyle dedi: 'Bu, tokenmaxxing'i bir miktar ileriye taşıyabilir, ancak genel sektör bunun aptalca olduğunu anlıyor.'
Krikorian, bu trendi eski yazılım şirketlerinin kod satırı sayısını verimlilik ölçütü olarak kullanmasıyla karşılaştırdı. 'Bence tokenmaxxing de aynı modelde ilerliyor ve bir yıl sonra buna güleceğiz' diyerek sözlerini tamamladı.