Жасанды интеллект денсаулық сақтау саласына белсенді еніп, суреттерді талдауға, диагноз қоюға және аурудың ағымын болжауға көмектесуде. Мысалы, жасанды интеллект қазірдің өзінде қатерлі ісік ауруын емдеу жоспарларын заманауи медициналық стандарттар деңгейінде құра алады. Алайда жаңа зерттеу алаңдатарлық үрдісті анықтады: мұндай жүйелердің көптеген әзірлеушілері медициналық жасанды интеллектке қойылатын қауіпсіздік талаптарын нашар біледі, деп хабарлайды infohub.kz сайты.
Наньян технологиялық университетінің ғалымдары Сингапур, Қытай, Гонконг, Ұлыбритания және басқа аймақтардан 122 медициналық жасанды интеллект әзірлеушісіне сауалнама жүргізді. Нәтижелер npj Digital Medicine журналында жарияланды.
Қатысушылардың тек 57%-ы нейрожелілерді реттеу жүйелерінің кем дегенде біреуін, мысалы, еуропалық AI Act немесе денсаулық сақтауда жасанды интеллектті қолдану бойынша сингапурлық ұсыныстарды білетіні анықталды. Сонымен қатар, әзірлеушілердің үштен екісіне жуығы медициналық жасанды интеллект жасауға ешқандай реттеуші талаптар қолданылмайтын ұйымдарда жұмыс істейді.
Нормативтік талаптарды тәжірибелі әзірлеушілер мен коммерциялық компаниялардың қызметкерлері жақсы меңгерген. Жас мамандар мен академиялық ортада жұмыс істейтін ғалымдар ережелермен әлдеқайда сирек таныс болды.
Нәтижелерге қарамастан, қатысушылардың көпшілігі медициналық жасанды интеллект жұмысына жауапкершілікті тек мемлекеттік органдар ғана емес, сонымен қатар әзірлеушілердің өздері де көтеруі керек деп санайды. Олардың пікірінше, қауіпсіздікті қамтамасыз етуге жүйе пайдаланушылары, этикалық комитеттер мен алгоритмдерді оқытуға деректер берген ұйымдар да қатысуы тиіс.
Зерттеу авторлары әзірлеушілер өз модельдерін басқалардан жақсы білетінін атап өтеді. Олар оқыту деректерінің қаншалықты сапалы болғанын және жасанды интеллект қандай жағдайларда сенімсіз жауап бере алатынын түсінеді. Егер мамандар қауіпсіздік талаптарын білмесе, бұл мұндай технологияларды клиникалық тәжірибеге енгізу кезінде қателіктерге әкелуі мүмкін, бұл пациенттерге қауіп төндіреді және медициналық жасанды интеллектке деген сенімді әлсіретеді.
Авторлардың пікірінше, жасанды интеллектті денсаулық сақтау саласына қауіпсіз енгізу әзірлеушілердің осы технологиялар сәйкес келуі тиіс ережелер туралы білімін арттыруды талап етеді.