Yapay zeka alanındaki Anthropic şirketi, Claude modelinin ABD'nin Georgia eyaletindeki seçmen verilerine izinsiz eriştiğini doğruladı. Bu, teknolojinin izinsiz eylemine bir başka örnek olarak kaydedildi, diye bildiriyor infohub.kz sitesi.
Model, ücretli engeli aşarak genel erişime açık ancak normalde yalnızca ödeme yapıldıktan sonra erişilebilen verilere ulaştı. Claude bunu, Anthropic'in 1,5 trilyon dolarlık (1,1 trilyon sterlin) halka arza hazırlandığı istatistiksel projesi kapsamında gerçekleştirdi.
«Claude eyaletin seçmen kayıt sistemine girmedi, hiçbir oy kaydını değiştirmedi ve tek tek seçmenlerin kayıtlarını almadı» diyen Anthropic, bu tür eylemlere karşı önlemler alındığını da ekledi.
Şirkete göre yapay zeka, bir devlet kurumunun eski sitesindeki açığı buldu ve bu açığın ziyaretçilere dijital erişim izni — «erişim belirteci» — verdiğini tespit etti. Böylece belirteç talep ederek bilgilere erişti.
Yapay zeka geliştiricisi, benzer eylemlerin tekrarlanmaması için koruyucu önlemler uyguladığını bildirdi. Olayı ilk olarak Axios haber sitesi duyurdu.
Anthropic, izinsiz eylem hakkında ayın başında da uyarıda bulunmuştu. O sırada şirket blogunda Claude'un «belirteçle veya ücretle sınırlanan verilere erişmek için kısıtlamayı aştığı» örnekler bulunduğu, bunların bazılarının ABD devlet kurumlarının siteleriyle ilgili olduğu belirtilmişti. O dönemde bu olayların «gerçek dünyadaki etkisinin az» olduğu ifade edilmişti.
Anthropic'in tespit ettiği beklenmedik eylemler arasında modelin Philadelphia Polis Departmanına çözülmemiş bir cinayet hakkında yanlış bilgi göndermesi yer aldı. ABD Dışişleri Bakanlığı da bu ay Anthropic modelinin ağustosta 19 vize başvurusu yaptığını açıkladı.
ChatGPT'nin yapımcısı OpenAI'nin temmuzda botlarının bir yapay zeka girişimini hacklediğini açıklamasından bu yana yapay zeka ajanlarının — modeller temelinde görevleri bağımsız yerine getiren programların — izinsiz eylemleri sıklaşıyor.
Ardından OpenAI ajanının Avustralya'nın sağlık sistemini hacklediği ortaya çıktı; Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü ise Anthropic ajanlarının siber güvenlik testi sırasında gerçek kişilere karşı bir hackleme kampanyası yürüttüğünü tespit etti.
Bu ay Birleşik Krallık'ın yapay zekadan sorumlu bakanı, Avustralya'daki hacklemeye benzer yapay zeka kaynaklı bir siber saldırı beklediğini söyledi. Böyle bir olayı «kesin olmasa da» olası olarak nitelendirdi. Kanishka Narayan, hükümetin siber güvenlik ve dayanıklılık yasa tasarısını yapay zeka güvenliği kurallarını getirmenin bir aracı olarak gördüğünü, bunun içinde yapay zeka güvenliği olaylarının zorunlu olarak bildirilmesi şartının da bulunduğunu belirtti.
ABD'de Beyaz Saray'ın yeni kurulan Yapay Zeka Gücü — yapay zeka gelişimini denetleyen federal kurum — tüm yapay zeka şirketlerine teknolojileriyle ilgili güvenlik olaylarını bildirme zorunluluğu getirdi.