世卫组织衡量人工智能对卫生保健的风险和益处

　　

　　

　　生成式人工智能可以通过药物开发和更快的诊断等方式改变医疗保健，但世界卫生组织(World Health Organization)周四警告称，急于拥抱人工智能可能存在隐患。

　　世卫组织一直在研究人工智能大型多模态模型(lmm)可能带来的危险和益处，这些模型相对较新，正在卫生领域迅速采用。

　　在生成式人工智能中，在数据集上训练的算法可以用来产生新的内容。

　　lmm是一种生成式人工智能，它可以使用多种类型的数据输入，包括文本、图像和视频，并生成不限于输入算法的数据类型的输出。

　　世卫组织数字健康和创新主任阿兰·拉布里克在新闻发布会上说:“有人说，这模仿了人类的思维和行为，以及它参与互动解决问题的方式。”

　　世界卫生组织表示，预计LMMs将在卫生保健、科学研究、公共卫生和药物开发方面具有广泛的用途和应用。

　　世卫组织概述了该技术可以应用的五大领域。

　　这些是:诊断，如回应病人的书面询问;科学研究和药物开发;医学和护理教育;牧师的任务;以及患者指导使用，例如调查症状。

　　虽然这有潜力，但世卫组织警告说，有记录的风险表明，LMMs可能产生错误、不准确、有偏见或不完整的结果。

　　他们也可能接受关于低质量数据或包含与种族、民族、血统、性别、性别认同或年龄有关的偏见的数据的培训。

　　世界卫生组织警告说:“随着lmm在卫生保健和医药领域的广泛应用，错误、滥用和最终对个人的伤害是不可避免的。”

　　它们可能导致“自动化偏见”，即用户盲目依赖算法——即使他们有充分的理由不同意。

　　周四，世卫组织发布了关于lmm伦理和治理的建议，以帮助政府、科技公司和医疗服务提供商安全地利用这项技术。

　　世卫组织表示，它不想等到医疗机构推出后才发现缺陷，然后再试图修复它们。

　　世卫组织首席科学家杰里米·法拉尔说:“生成式人工智能技术有潜力改善卫生保健，但前提是开发、管理和使用这些技术的人必须识别并充分考虑到相关风险。”

　　“我们需要透明的信息和政策来管理lmm的设计、开发和使用。”

　　世卫组织表示，需要制定责任规则，以“确保受到LMM伤害的用户得到充分补偿或获得其他形式的补救”。

　　人工智能在公共卫生和临床医学领域的应用已有十多年，例如在放射学和医学成像方面的帮助。

　　然而，世卫组织强调，LMM格式带来了“社会、卫生系统和最终用户可能尚未准备好充分应对的风险”。

　　其中包括对lmm是否遵守现有法规(包括数据保护)的担忧，以及它们通常由科技巨头开发的事实，因为它们需要大量资源，因此可能会巩固这些公司的主导地位。

　　该指南建议，不仅应该由科学家和工程师单独开发LMMs，还应该包括医疗专业人员和患者。

　　世界卫生组织卫生研究部门的罗希特·马尔帕尼(Rohit Malpani)表示，当病人的敏感健康信息作为数据输入时，政府必须确保隐私，并让人们有机会选择不参与其中。

　　世卫组织警告称，lmm容易受到网络安全风险的影响，这些风险可能危及患者信息，甚至危及医疗保健服务的可信度。

　　世界卫生组织说，各国政府应该指定一个监管机构来批准LMM在医疗保健中的使用，并且应该进行审计和影响评估。

　　拉布里克表示，该指南“为人工智能在坚持最高道德标准的情况下为人类福祉做出贡献的未来铺平了道路”。