Yapay zeka, sağlık hizmetlerinde giderek daha fazla kullanılıyor; görüntüleri analiz etmek, teşhis koymak ve hastalıkların seyrini tahmin etmek gibi görevlerde yardımcı oluyor. Örneğin, yapay zeka artık kanser tedavi planlarını güncel tıbbi standartlar düzeyinde oluşturabiliyor. Ancak yeni bir araştırma endişe verici bir eğilimi ortaya çıkardı: Bu tür sistemlerin geliştiricilerinin çoğu, tıbbi yapay zeka için güvenlik gerekliliklerini yeterince bilmiyor. infohub.kz sitesi bildiriyor.
Nanyang Teknoloji Üniversitesi'nden bilim insanları, Singapur, Çin, Hong Kong, Birleşik Krallık ve diğer bölgelerden 122 tıbbi yapay zeka geliştiricisiyle anket yaptı. Sonuçlar npj Digital Medicine dergisinde yayınlandı.
Katılımcıların yalnızca %57'si, Avrupa AI Act veya Singapur'un sağlıkta yapay zeka kullanımına ilişkin tavsiyeleri gibi en az bir sinir ağı düzenleme sisteminden haberdardı. Ayrıca, geliştiricilerin neredeyse üçte ikisi, tıbbi yapay zeka oluştururken herhangi bir düzenleyici gerekliliğin uygulanmadığı kuruluşlarda çalışıyor.
Düzenleyici gereklilikleri en iyi bilenler deneyimli geliştiriciler ve ticari şirket çalışanlarıydı. Genç profesyoneller ve akademik ortamda çalışan bilim insanları kurallara çok daha az aşinaydı.
Sonuçlara rağmen, katılımcıların çoğu tıbbi yapay zekanın sorumluluğunun yalnızca devlet kurumlarına değil, aynı zamanda geliştiricilere de ait olması gerektiğini düşünüyor. Onlara göre, güvenliğin sağlanmasında sistem kullanıcıları, etik kurullar ve algoritmaların eğitimi için veri sağlayan kuruluşlar da yer almalı.
Araştırmanın yazarları, modellerini en iyi bilenlerin geliştiriciler olduğunu belirtiyor. Eğitim verilerinin ne kadar kaliteli olduğunu ve yapay zekanın hangi durumlarda güvenilmez yanıtlar verebileceğini anlıyorlar. Uzmanlar güvenlik gerekliliklerini bilmiyorsa, bu tür teknolojilerin klinik uygulamaya dahil edilmesinde hatalara yol açabilir; bu da hastalar için risk oluşturur ve tıbbi yapay zekaya olan güveni sarsar.
Yazarlara göre, yapay zekanın sağlık hizmetlerine güvenli bir şekilde dahil edilmesi, geliştiricilerin bu teknolojilerin uyması gereken kurallar hakkındaki bilgilerinin artırılmasını gerektiriyor.