生成人工智能（AI）：世卫组织发布关于 LMM 治理的新指南

世界卫生组织发布了关于大型多模态模型（LMM）伦理和治理的新指南，旨在指导如何恰当利用LMM来促进和保护人群健康。LMM是一种快速发展的生成式人工智能（AI）技术，在健康领域有五大应用方向。

1. 诊断和临床护理，例如回复患者的书面询问； 

2. 患者指导使用，例如用于调查症状和治疗； 

3. 文书和行政任务，例如在电子健康记录中记录和总结患者就诊情况； 

4. 医疗和护理教育，包括为学员提供模拟患者接触情况； 

5. 科学研究和药物开发，包括识别新化合物。 

然而，这些医疗保健应用存在产生虚假、不准确、带有偏见或不完整陈述的风险，这可能会损害人们在做出健康决策时使用此类信息。此外，线性混合模型（LMM）可能使用质量低劣或存在偏见的数据进行训练，这些偏见可能源于种族、民族、血统、性别、性别认同或年龄。医疗系统也面临更广泛的风险，例如性能最佳的LMM的可及性和可负担性。LMM还可能助长医护人员和患者的“自动化偏见”，导致他们忽略原本可以识别的错误，或将棘手的选择不恰当地委托给LMM。与其他人工智能形式一样，LMM也容易受到网络安全风险的影响，这些风险可能会危及患者信息或算法的可信度，并更广泛地影响医疗保健服务的提供。

因此，为了创建安全有效的 LMM，WHO 向各国政府和 LMM 开发商提出了建议。 

各国政府负有制定 LMM 开发和部署标准的主要责任，以及将其整合和用于公共卫生和医疗目的的标准。政府应投资或提供非营利或公共基础设施，包括公共、私营和非营利部门的开发人员可以使用的计算能力和公共数据集，这要求用户在使用过程中遵守道德原则和价值观。交换访问权。 

· 利用法律、政策和法规，确保医疗保健和医学中使用的 LMM 和应用程序，无论人工智能技术存在的风险或收益如何，都符合影响个人尊严、自主权或隐私等方面的伦理义务和人权标准。

· 在资源允许的情况下，指定现有或新的监管机构来评估和批准用于医疗保健或医学的 LMM 和应用程序。 

· 当大规模部署 LMM 时，由独立第三方引入强制性的发布后审计和影响评估，包括数据保护和人权评估。应公布审计和影响评估 

并应包括按用户类型分类的结果和影响，包括按年龄、种族或残疾等分类。 

· 逻辑模型的设计并非仅由科学家和工程师完成。潜在用户以及所有直接和间接利益相关者，包括医疗服务提供者、科研人员、医疗保健专业人员和患者，都应从人工智能开发的早期阶段就参与其中，采用结构化、包容性和透明的设计方法，并有机会提出伦理问题、表达担忧，并为正在考虑的人工智能应用提供意见。

LMM 旨在以必要的准确性和可靠性执行明确定义的任务，以提高卫生系统的能力并促进患者的利益。开发人员还应该能够预测和理解潜在的次要结果。 

*** 

来源: 

世界卫生组织 (WHO) 2024 年发布的《人工智能在健康领域的伦理与治理：大型多模态模型指南》可在以下网址获取：https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf? sequence=1&isAllowed=y

***