新闻中心

FDA 旨在阻止人工智能设备偏见，提高指南草案的透明度

美国食品和药物管理局设备中心在周一发布的一份指南草案中明确了制造商应如何对待人工智能。

该文件概述了设计、开发和维护方面的建议，以确保人工智能设备安全有效。该指南特别概述了设备制造商应如何解决透明度和偏见问题，以及何时需要进行上市后监测。

FDA 数字健康卓越中心主任特洛伊-塔兹巴兹（Troy Tazbaz）说，迄今为止，该机构已经授权了 1000 多款人工智能设备。

“Tazbaz 在一份声明中说："随着我们不断看到这一领域令人兴奋的发展，我们必须认识到人工智能设备有其独特的特殊考虑因素。

在新指南发布之前，FDA 已于上月发布了关于预定变更控制计划（PCCP）的最终指南，这是一个在设备上市后对其进行变更的框架。目前，市场上大多数支持人工智能的设备都是 “锁定 ”的，即在获得授权后型号不会改变。

在最新的指南草案中，FDA 鼓励设备赞助商考虑使用 PCCP，允许他们在不提交新申请的情况下更改设备以提高模型性能。

FDA 将在 4 月 7 日前接受公众意见，并计划在 2 月 18 日举行网络研讨会。

透明度建议

FDA 在草案中写道，由于许多模型可能不透明或用户难以理解，因此全面的透明度和偏见方法对于人工智能设备尤为重要。

患者呼吁提供更多信息，说明人工智能何时用于他们的治疗，以及 FDA 如何对人工智能设备做出决策。大多数获得授权的设备都必须向公众提供一份提交摘要，FDA 表示开发者必须在这些文件中包含足够的细节。

开发者应说明设备中是否使用了人工智能，解释如何使用人工智能，并解释设备中使用的模型类型。根据该指南，开发者还应提供用于开发和验证设备的数据集信息，包括人口统计特征，并分享关于模型如何随时间更新和维护的描述。

FDA 建议使用模型卡片或包含人工智能模型关键信息的简短文件来组织信息。

减少偏差

人工智能设备的一个隐患是可能出现偏差，或由于模型训练数据的局限性或错误的假设而导致不正确的结果。例如，模型可能训练过度，无法识别与特定扫描仪或临床部位相关的图像特征。如果某些人群在数据集中的代表性不足，也会影响模型的性能。

“FDA 写道："虽然偏差可能难以完全消除，但 FDA 建议制造商，作为起点，确保验证数据充分代表医疗设备的预期使用（目标）人群。

其他减少偏差的方法包括在整个产品生命周期内对器械进行监控，并对预定用途的各个分组进行性能评估。

该机构表示，器械开发商应提交一份关于如何收集数据的说明，以及每个数据集的规模和局限性。他们还应该提交一份说明，介绍在研究中为提高入组多样性而采用的方法，以及他们如何确保研究结果能够在不同的患者群体和临床研究机构中推广。

上市后监测计划

FDA 建议制造商制定上市后性能监测计划，因为人工智能设备的性能会随着时间的推移而改变或降低。

输入数据（如患者群体或疾病模式）的变化会影响模型的性能。