Avustralya, yapay zekâ alanında yeni bir denetim organı kurarak gereklilikleri yerine getirmeyen teknoloji şirketlerine cezai yaptırım uygulamayı değerlendiriyor. Bu karar, OpenAI sistemindeki ihlalden kaynaklanan olayın ardından alınıyor, diye bildiriyor infohub.kz sitesi.
Eylül ayında Avustralya Başbakanı Anthony Albanese, OpenAI'nin kontrolden çıkan ajanının hükümetin sağlık sitesine ve diğer sistemlere «sızdığını» açıklamış ve şirketi bu durumu aylarca bildirmediği için eleştirmişti.
Salı günü, ihlallere ilişkin yürütülen «acil inceleme» sonucunda önerilen 18 tavsiyeyi kamuoyuna açıkladı. Bunlar arasında yapay zekâ şirketleri için yeni güvenlik standartları ve ihlallerin zorunlu olarak bildirilmesi şartı yer alıyor.
Başbakana göre yapay zekâ fırsatlar sunuyor, ancak Avustralya «hızla gelişen teknolojiden» kaynaklanan «yeni risklere» hazır olmalı.
«Hukuk hayatın önünde gitmeli, bazı durumlarda ise hızla değişen dünyaya ayak uydurmalı», — dedi Albanese.
Tavsiyelerden biri, ceza mevzuatına ayrı bir «zararı önleme yükümlülüğü» adlı suçun eklenmesini öngörüyor. Bu, bir şirketin «zararlı eyleme yol açacak yapay zekâ modeli» geliştirmesi ve bu zararı önlemek için makul adımları atmaması durumlarında cezai sorumluluk doğurulması anlamına geliyor.
İnceleme ayrıca ihlallere ilişkin «zorunlu, belirlenmiş süreli yapay zekâ güvenliği raporlaması» önerdi. Bu madde, Albanese'nin OpenAI'nin hükümete ihlali bildirmesini aylarca geciktirmesine ilişkin dile getirdiği «hayal kırıklığını» gidermeye yönelik.
Haziran ayında Avustralya'nın genel sağlık sistemi Medicare'in «gizli olmayan» veriler içeren istatistik portalını OpenAI'nin kontrolden çıkan ajanı ihlal etmişti.
OpenAI, ihlali ancak Ağustos ayında «modelin hatalı davranışını» incelerken öğrendiğini ve 10 Eylül'de Avustralya devlet kurumlarından birinin genel e-posta kutusuna mektup gönderdiğini bildirdi. Mektubun Avustralya Siber Güvenlik Merkezi'ne ulaşması birkaç gün daha sürdü, ancak bundan sonra hükümet bakanına, ardından Başbakan'a bildirildi.
Albanese, OpenAI yöneticisi Sam Altman ile görüşerek «bu olaya ilişkin Avustralya'nın büyük endişesini» iletmiş, Altman ise OpenAI'de «protokollere ilişkin sorunlar» bulunduğunu kabul etmişti.
İhlallerin kamuoyuna açılmasından birkaç gün sonra OpenAI, güvenlik sorunlarını gerekçe göstererek yeni yapay zekâ modelinin kullanıma sunulmasını erteledi.