ChatGPT'nin 2025 yazında yayınlanan güncellemesinin ardından, bazı kullanıcılar sohbet robotundan biyolojik silah, toksik maddeler ve patojen modifikasyonu ile ilgili ayrıntılı yanıtlar almayı başardı. infohub.kz bunu bildiriyor.
The Wall Street Journal'ın haberine göre, 2026 başlarında kullanıcılar modele patojen mikroorganizmaların yayılma yolları, virüs modifikasyonu ve yüksek toksik maddelerin oluşturulması hakkında sorular sordu. Gazete, bazı durumlarda ChatGPT'nin adım adım yanıtlar verdiğini iddia ediyor.
The Wall Street Journal, OpenAI çalışanlarına dayandırdığı haberinde, bazı açıklamaların o kadar basit bir dille yapıldığını ki, biyoloji okuyan bir ortaokul öğrencisinin bile anlayabileceğini yazdı. Modelin bazı yanıtlarını analiz eden uzmanlar, bunları 'tehlikeli derecede doğru' olarak nitelendirdi.
Sorunun tespit edilmesinin ardından OpenAI, biyolojik silah ve zehir yapımıyla ilgilenen kullanıcıların hesaplarını bloke etti. Ancak gazeteye göre, bu tür sorgular kolluk kuvvetlerinin müdahalesine yol açmadı.
The Wall Street Journal ayrıca ABD'de yapay zeka sistemi geliştiricilerini bu tür sorguları sınırlamaya veya yetkililere bildirmeye zorlayan federal yasaların bulunmadığına dikkat çekiyor. Gazete, yapay zeka geliştiricilerinin dil modellerinin yeteneklerini genişletme ile potansiyel olarak tehlikeli amaçlarla kullanılmalarını önleme arasında bir denge arayışına devam ettiğini vurguluyor.