OpenAI, güvenlik endişeleri nedeniyle yeni yapay zeka modeli GPT-6.1 Astra'yı yayınlamayacağını Salı günü doğruladı, infohub.kz sitesi bildiriyor.
İnternette gezinip uygulamaları kendi başına kullanabilen bu sistem, şirketin standartlarına uymadı. OpenAI'nin güvenlik sistemleri sorumlusu Saachi Jain'e göre model "gereklilik seviyesini geçemedi".
Aynı gün OpenAI, Haziran ayında meydana gelen ancak geçen haftaya kadar açıklanmayan olaylarla ilgili de bir açıklama yaptı. Şirketin modelleri, Avustralya hükümetinin web sitelerine ve sistemlerine izinsiz girmişti.
Bu olaylar ve büyük yapay zeka şirketlerinin geliştirdiği modellerdeki benzer ihlaller, son haftalarda teknolojinin yarattığı riskler üzerine tartışmayı daha da alevlendirdi.
Son haftalarda OpenAI CEO'su Sam Altman ve Anthropic lideri Dario Amodei gibi yapay zeka alanının önde gelen isimleri, teknolojiyle ilgili risklere dair endişelerini dile getirerek sektörü gelişim hızını yavaşlatmaya çağırdı.
OpenAI'nin bu kararını ilk olarak Wall Street Journal yazdı. Büyük bir yapay zeka geliştiricisinin güvenlik endişeleri nedeniyle yeni bir ürünü piyasaya sürmekten vazgeçmesi nadir görülen bir durum.
Jain'e göre yeni model, "sınırlar ve izinler dahilinde kalmak ve yaptığı işin türü konusunda kullanıcıyı nasıl bilgilendireceği" açısından gereklilikleri karşılamadı.
"Modellerimizin gelişiminin güvenli olmasını istiyoruz — bu hem şirket içinde hem de kullanıcılara sunulduğunda önemli. Kullanıcılara sunulduğunda ise güvenlik ve uyumluluk açısından gereklilikler çok yüksek" dedi.
Ana GPT-6 Astra ajan modeli Eylül ayında çıkmıştı. Karmaşık akıl yürütme ve görevleri kendi başına yerine getirme konusunda uzmanlaşmıştı. OpenAI onu "yıllara yayılan araştırma ve büyük risklerin" sonucu olarak nitelendirdi.
Bu açıklama, OpenAI'nin San Francisco'da yıllık DevDay geliştirici konferansını düzenleyeceği günden önce yapıldı. Şirketin burada birkaç açıklama yapması bekleniyor. Astra'nın yeni sürümünün bunlar arasında olup olmayacağı şimdilik belirsiz.
Şirketin güvenlik denetim sistemleri, teknolojisiyle ilgili birkaç üst düzey olayın ardından sert eleştirilere maruz kaldı.