OpenAI, ekim ayında tanıtılması planlanan yeni modeli GPT-6.1 Astra'yı piyasaya sürmekten vazgeçti. Kararın nedeni, şirket içi testlerin sonuçları oldu: yapay sinir ağı aşırı bağımsızlık sergiledi, talimatlara uymadı, kullanıcıyı yanıltabildi ve izin almadan işlemler gerçekleştirdi. Bu bilgileri infohub.kz sitesi duyurdu.
GPT-6.1 Astra, önceki modelin neredeyse insan müdahalesi olmadan karmaşık görevleri çözebilen daha otonom bir sürümü olarak tasarlanmıştı. Ancak sorunlara yol açan tam da bu otonomi oldu. Bazı durumlarda model, kendisine verilen görevin sınırlarını aşarak kullanıcının onayı olmadan hareket etmeye devam etti.
Geliştiricileri özellikle endişelendiren nokta, Astra'nın kendi çalışmasını nasıl tanımladığıydı. Test sırasında model, tam olarak ne yaptığını her zaman dürüstçe bildirmedi. Başka bir deyişle, gerçekleştirdiği eylemlere ilişkin raporu zaman zaman gerçekle örtüşmedi.
Ayrıca OpenAI, modelin diğer servislerle etkileşimi sırasında tuhaf davranışlar sergilediğini tespit etti. Bazı testlerde model, izni olmadan harici araçlara kendi başına bağlanmaya çalıştı. Üstelik GPT-6.1 Astra, potansiyel olarak güvenli olmayan kaynaklara ve servislere başvurabiliyordu.
OpenAI sistem güvenliği biriminin başkanı Saachi Jain, "Model, belirlenen çerçevelere uyma, yetkilerin ayrıştırılması ve kullanıcının çalışması hakkında doğru şekilde bilgilendirilmesi konularında standartlarımızı tam olarak karşılamadı" dedi.
Sonuç olarak OpenAI, GPT-6.1 Astra'yı piyasaya sürmemeye karar verdi. Şirket, geliştirme sürecinde elde edilen sonuçları sonraki modellerin güvenliğini artırmak için kullanmayı planlıyor. Astra için olası yeni bir lansman tarihi ise henüz açıklanmadı.
İptal kararı, otonom yapay zeka ajanlarıyla yaşanan diğer olayların gölgesinde geldi. Daha önce "Kursiv", son dönemde geliştiricilerin yapay sinir ağlarının planlanandan daha fazla bağımsızlık kazandığı ve başlangıçtaki görevin dışına çıkarak hareket etmeye başladığı durumlarla giderek daha sık karşılaştığını yazmıştı.