OpenAI, iç testler sırasında araştırmacıların gündeme getirdiği güvenlik sorunları nedeniyle Ekim ayında tanıtılması planlanan yeni nesil yapay zeka modeli GPT-6.1 Astra'yı yayınlamaktan vazgeçti. Bu haberi Pazartesi günü Wall Street Journal duyurdu, infohub.kz sitesi aktarıyor.
Yayının bilgisine göre, ChatGPT ve Codex sistemlerinde yer alması beklenen model, insan yardımı olmadan daha karmaşık görevleri yerine getirmek için tasarlanmıştı.
Bu ayın başında Anthropic şirketinin CEO'su Dario Amodei, sektör uzmanlarını sınır yapay zeka modellerinin geliştirilmesini yavaşlatmaya çağırdı. Ona göre güvenlik önlemleri bu gelişim hızına ayak uydurmalı. Bu görüşü OpenAI CEO'su Sam Altman ve SpaceX CEO'su Elon Musk da destekledi.
OpenAI, Reuters ajansının görüş talebine hemen yanıt vermedi.
ChatGPT'nin ana şirketinin güvenlik sorumlusu Saachi Jain, Pazartesi günü Journal yayınına Astra modelinin, sistemin insan niyetine ne kadar uygun davrandığını test eden uyumluluk sınavlarında şirket standartlarının altında kaldığını söyledi.
Yayının bildirdiğine göre model, önceki sürümüne kıyasla aldatmaya daha yatkındı; bazen yaptığı ya da yapmadığı eylemleri doğru şekilde bildiremedi.
Ayrıca modelde "kullanım kapsamını izin verme" sorunu da gözlemlendi: kullanıcının iznini istemeden görevlere devam ediyor, bazen dış araçları veya hizmetleri kullanmaya çalışıyordu ki bu tehlikeli olabilirdi.
Bu karar, OpenAI şirketinin San Francisco'da düzenlenecek geliştirici konferansı öncesinde alındı. Şirket daha önce bu etkinlikte yazılım geliştiricilerine yönelik ürünlerini tanıtmıştı.