医疗AI可以带来许多潜在的好处，这一点毫无争议。但是，利益相关者也不能忘记使用该技术可能存在的风险和障碍。为了避免AI给医疗保健的潜在危害，供应商、支付方、管理人员和其他主要行业参与者需要解决技术的潜在问题，并找到克服这些挑战的创新方法。

近年来，人工智能已迅速成为医疗保健人员、供应商和IT开发人员讨论的主要话题。医疗及相关领域的专家已经探索了AI技术的许多应用，并认识到它对未来医疗服务的潜在优点：加快医疗诊断速度、提高读片的精度、减少医生的工作量……这些能力可能意味着更好、更精确的治疗，改善患者的治疗效果，并最终降低护理成本。

然而，新技术给人带来的希望很容易让人们忘记医疗器械AI化可能带来的问题。例如：算法存在争议，患者安全问题以及数据隐私威胁等问题，都使人工智能在医疗保健领域的应用受到质疑，并可能限制AI在医疗行业中的发展。

在医疗服务中使用人工智能有哪些主要风险和障碍?医疗保健系统如何确保这些因素不会给患者和医疗服务提供者带来重大问题?医疗AI落地的途中，还有哪些难关需要克服?

第一关：存在争论的算法与数据

临床医生必须完全相信算法是准确、可靠和客观的， AI工具才能成为常规临床护理的一部分。然而，有时用于训练算法的数据是有偏差的，或者算法可能被设计为偏差结果。在最近发表在新英格兰医学杂志(NEJM)上的一篇文章中，斯坦福大学医学院的研究人员指出：医疗数据中的偏差或许是人们无意识引入的，最终导致有偏差的数据被带入到医疗保健系统正常的数据中。

相关部门应该有所作为，并清楚地了解深度学习中数据来源和数据的使用方法。这可能需要商业、学术或专有数据库提供分析信息来提供算法研究指南。

第二关：难以服众的信息安全

虽然AI评估大量数据的能力令人兴奋，但患者并不相信AI工具会将他们的信息保密。

2018年对500名患者进行的一项调查显示，虽然大多数患者在医疗保健环境中使用AI比在银行或零售环境中使用AI更为舒适，但AI技术仍会在医疗保健消费者中产生信任问题。只有35%的受访者表示他们确信他们用于人工智能的数据是安全存储的。40岁以上的消费者中有69%担心他们的数据没有安全存储，而40岁以下的消费者中有58%担心这一点。

Frost & Sullivan最近的一项分析表明，从可穿戴监测工具中提取信息并直接进行AI化处理的的应用将更加广泛应用到人们的日常中。随着移动医疗数据在患者管理中发挥更大作用，数据安全问题将变得更加重要。

行业的主要参与者正在努力解决数据安全问题。Aetna，Ascension，Humana和Optum最近加入了Synaptic Health Alliance，这是一个使用区块链技术在供应商之间创建安全数据集的协作试点项目。虽然区块链对医疗保健领域来说仍然相对较新，但该技术对数据安全性和更加无缝的数据交换具有重要意义。

第三关：医疗AI短、中、长期的问题

人工智能应用于医疗器械中存在的潜在风险是现如今医疗工作真需要认真考虑的问题。当计算机完全按照指令去做事时，也可能会引起或加剧意外结果。我们也分析了短期，中期和长期发展中可能会出现的问题。

1. 短期

AI严格按照获得的数据训练，可能会出现一种称为“分布式移位”的现象：训练数据和真实数据不同，导致算法得出错误的结论。AI也没有像医生那样权衡假阳性或假阴性的成本和后果的能力，它们不能像人一样“谨慎行事”。计算机只能按照指令运行，没有独立改善数据的能力。并且机器学习应用程序通常作为“黑匣子”运行，如果临床医生只能根据系统的最终结果来判断预测，那么它可能会影响医生的诊断结果。

2. 中期

随着机器学习变得越来越普遍，临床医生和与机器学习相互作用的人有可能变得自满，并将所有计算机生成的评估都默认为“绝对可靠”。但随着时间的推移，训练数据集变得越来越老，可能会与未来新的治疗方法与新的用药种类产生冲突。

3. 长期

虽然人工智能控制与人类生活直接相关的过程或设备(胰岛素泵，呼吸机等)还有很长的路要走，但相关研究人员必须谨慎行事。机器学习算法在相当狭窄的数据集上进行训练，无法考虑患者需求或治疗结果的更广泛背景。深度学习可以“忽悠”研发者，因为研究结果会呈现短期有效但与长期目标相悖的结果。

另外关于机器学习系统可以进行多少程度的“探索”这一问题，是存在道德和安全问题的：持续学习的自主系统最终将尝试推动治疗的界限，发现可能伤害患者的新策略。所有这些都引发了AI和机器学习应该解决的问题——增加人类的直接监督。

结语

利用机器学习开发人工智能是一个激动人心的研究领域，但变化快速的步伐、技术的多样性和调整参数的多样性，使得人们很难把握AI系统在临床应用中的准确程度。随着人工智能和其他分析技术不断改造医疗行业，医疗系统领导者和供应商所扮演的角色将随之变化。

医疗AI可以带来许多潜在的好处，这一点毫无争议。但是，利益相关者也不能忘记使用该技术可能存在的风险和障碍。为了避免AI给医疗保健的潜在危害，供应商、支付方、管理人员和其他主要行业参与者需要解决技术的潜在问题，并找到克服这些挑战的创新方法。