人工智能正越来越多地应用于医疗领域，帮助分析影像、诊断疾病和预测病程。例如，AI已经能够按照现代医疗标准制定癌症治疗计划。然而，一项新研究揭示了一个令人担忧的趋势：许多此类系统的开发者对医疗AI的安全要求知之甚少，据infohub.kz网站报道。

南洋理工大学的研究人员调查了来自新加坡、中国、香港、英国等地的122名医疗AI开发者。结果发表在《npj数字医学》杂志上。

调查发现，只有57%的参与者至少了解一种神经网络监管体系，例如欧洲的《人工智能法案》或新加坡的医疗AI使用指南。与此同时，近三分之二的开发者在组织中工作，这些组织在创建医疗AI时根本没有应用任何监管要求。

经验丰富的开发者和商业公司员工对监管要求了解得最好。年轻的专业人士和学术界的科学家则很少熟悉这些规则。

尽管结果如此，大多数参与者认为，医疗AI的责任不仅应由政府机构承担，开发者自己也应负责。他们认为，系统用户、伦理委员会以及为算法训练提供数据的组织也应参与安全保障。

研究作者指出，开发者最了解自己的模型。他们知道训练数据的质量如何，以及在哪些情况下AI可能给出不可靠的答案。如果专业人员不熟悉安全要求，可能会导致此类技术在临床实践中应用时出现错误，从而给患者带来风险，并削弱对医疗AI的信任。

作者认为，安全地将人工智能引入医疗领域，需要提高开发者对这些技术应遵守规则的认识。