Amerikalı Anthropic şirketinin geliştirdiği yapay zekâ ajanının bu yıl ABD polisine çözülmemiş bir cinayet dosyası hakkında yanlış bilgi gönderdiği ortaya çıktı. Philadelphia Polis Departmanı, 18 Temmuz'da gelen ihbarı spam olarak işaretleyip soruşturmaya yönlendirmediğini, ancak teknoloji şirketinin ihlali iki aydan fazla süre fark etmediğini eleştirdiğini açıkladı, diye bildiriyor infohub.kz sitesi.
Polisin açıklamasına göre yanlış bilgi, çözülmemiş suçlara ilişkin ihbarların alındığı açık bir site üzerinden geldi; yapay zekâ ajanı, dosyada bilgisi olabileceğini yazarak "tanıma uyan bir kişiyi" gördüğünü iddia etti.
Bu, bir yapay zekâ ajanının resmî makamlara yanlış bilgi gönderdiği ilk vaka olabilir. Ancak sistemleri kırma veya platformları ele geçirme gibi yapay zekânın denetimsiz eylemleri daha önce de kaydedilmişti.
Anthropic'e atıfta bulunan polis departmanının bilgisine göre, yapay zekâ ajanı rastgele seçilen sitelerle etkileşimi öngören bir test yürütürken yanlış bilgiyi gönderdi.
Anthropic, ihlali 28 Eylül'de, yani ihbarın gönderilmesinden iki aydan fazla süre sonra tespit ederek buna neden olan otomatik test sürecini durdurdu. Ancak yetkililer bundan dokuz gün sonra — 7 Ekim'de — haberdar oldu.
"Şirket, şehrin bilgisi dışında şehir sistemlerini etkileyen bu tür olayları önlemek için koruma önlemlerini güçlendirmelidir. Olayın tespiti ve şehre bildirilmesindeki iki aylık gecikme kabul edilemez", denildi Philadelphia polisinin yerel medyaya yaptığı açıklamada.
Polis departmanı, kurum sistemlerinde ihlal belirtisi olmadığını ve koruma mekanizmalarının yanlış bilginin spam klasörünü geçmesine izin vermediğini ekledi.
Ancak polis açıklamasında bu koruma önlemlerinin "yapay zekâ sisteminin suç hakkında bilgisi olan birinden çıkmış gibi gösterip yanlış bilgi sunmasının ciddiyetini azaltmadığı" vurgulandı.
Anthropic bu hafta, ajanlarının yaptığı "istenmeyen" eylemlerin birkaç türünü tanımlayan bir rapor yayımladı. Raporda, zarar gören kuruluşlar arasında Beyaz Saray gibi birkaç Amerikan devlet kurumunun da bulunduğu belirtildi.
ABD Dışişleri Bakanlığı'na göre, yapay zekâ ajanı kendi sitesindeki formu kullanarak 20 vize başvurusu yaptı, ancak bunlar eksik olduğu için işleme alınmadı.
Başkan Donald Trump kısa süre önce yapay zekâ konulu bir çalışma grubu kurulduğunu duyurmuş ve bunun hükümet ile yapay zekâ şirketleri, tüketiciler ve dinî gruplar gibi tüm taraflar arasındaki etkileşimi koordine edeceğini söylemişti.
Bu yıl daha önce, rakip OpenAI şirketinin denetimsiz ajanı Avustralya hükümetinin sitesini kırarak ülkenin genel sağlık sistemi Medicare hakkındaki kişisel verilere erişmişti.
Bir başka olayda ise OpenAI'ın 1200'den fazla ajanı denetimsiz hareket ederek aniden birbirleriyle bağlantı kurmaya başlamış, sonuçta büyük bir grup birleşerek Hugging Face yapay zekâ platformunu kırmıştı.