Искусственный интеллект все активнее внедряется в здравоохранение, помогая анализировать снимки, ставить диагнозы и прогнозировать течение болезней. Например, ИИ уже способен создавать планы лечения рака на уровне современных медицинских стандартов. Однако новое исследование выявило тревожную тенденцию: многие разработчики таких систем плохо знакомы с требованиями безопасности для медицинского ИИ, сообщает сайт infohub.kz.
Ученые из Наньянского технологического университета опросили 122 разработчиков медицинского ИИ из Сингапура, Китая, Гонконга, Великобритании и других регионов. Результаты опубликованы в журнале npj Digital Medicine.
Выяснилось, что только 57% участников знали хотя бы об одной системе регулирования нейросетей, например, о европейском AI Act или сингапурских рекомендациях по использованию ИИ в здравоохранении. При этом почти две трети разработчиков работают в организациях, где вообще не применяются какие-либо регуляторные требования к созданию медицинского ИИ.
Лучше всего в нормативных требованиях разбирались опытные разработчики и сотрудники коммерческих компаний. Молодые специалисты и ученые, работающие в академической среде, гораздо реже были знакомы с правилами.
Несмотря на результаты, большинство участников считают, что ответственность за работу медицинского ИИ должны нести не только государственные органы, но и сами разработчики. По их мнению, в обеспечении безопасности также должны участвовать пользователи систем, этические комитеты и организации, предоставившие данные для обучения алгоритмов.
Авторы исследования отмечают, что именно разработчики лучше других знают свои модели. Они понимают, насколько качественными были данные для обучения и в каких случаях ИИ способен выдавать недостоверные ответы. Если специалисты не знакомы с требованиями безопасности, это может привести к ошибкам при внедрении таких технологий в клиническую практику, что создает риски для пациентов и подрывает доверие к медицинскому ИИ.
По мнению авторов, безопасное внедрение искусственного интеллекта в здравоохранение требует повышения знаний разработчиков о правилах, которым эти технологии должны соответствовать.