人工智能让我们更健康吗?

世界正处于人工智能驱动的工业革命之中。正如a16z联合创始人Marc Andreessen最近所写,人工智能将拯救世界。英国刚刚将自己的主张押在了人工智能前沿,要求美国政策制定者重申美国作为技术创新强国的作用。我们是否让它改善美国人的健康取决于我们如何监管它。

没有哪个领域的人工智能能比生物技术和医疗保健更直接、更拯救生命。在生物学方面,人工智能将使我们的科学家能够比以往任何时候都更快、更有效地进行实验,从而为患有衰弱性疾病的患者提供更好的治疗。在健康领域,人工智能将使我们的护理人员能够更准确、更少地照顾更多患者,从而带来更好的消费者体验和健康结果。在我们的社区中,人工智能将使人们与家人和亲人一起过上更健康、更幸福的生活。患者准备从人工智能融入生物技术和医疗保健行业中获得巨大利益。广泛实施将使获得高质量护理的机会民主化。

在政策制定者努力将人工智能融入生命科学和护理提供的过程中,他们必须与行业密切合作,考虑潜在的监管将如何实现一个充满活力和竞争力的市场,并最大限度地提高患者福利。在a16z,我们很幸运能与许多最具创新性、前瞻性的公司合作,塑造人工智能的未来,为我们提供了一个独特的有利位置来预测明天的前景。

与许多使用人工智能技术的领域一样,监管框架已经存在,医疗保健也不例外。自20世纪70年代以来,联邦政府一直在监管基于软件的医疗产品。随着政策制定者面临着监管生物技术和医疗保健领域人工智能的呼声,他们必须考虑这些重要主题,以防止扼杀创新并激励国内投资。

监管机构应该做以下三件事来为生物和健康领域的人工智能革命做好准备:
1.将人工智能作为一种工具,赋予美国食品药品监督管理局权力
美国食品药品监督管理局正在掀起一股新药申请潮。人工智能在药物发现和开发方面的进步正在减少研究时间和研发成本,同时简化临床试验设计、招募和注册。如果没有更精简的IND、BLA和NDA审查程序或大幅增加人员,美国食品药品监督管理局可能会很快落后,这可能会大大推迟审查时间表和患者获得新的救命疗法。

近年来,IND申请大幅增加。随着原子能机构扩大规模以满足日益增长的需求,缓解瓶颈问题的一种方法是利用人工智能进行数据审查。
美国食品药品监督管理局的《2019年技术现代化行动计划》为美国食品药品管理局制定了一个框架,使其开始在内部整合新兴技术,以提高效率,并使该组织跟上其监管的行业。美国食品药品监督管理局需要加倍努力,积极推动将人工智能整合为新申请医疗产品审查和批准后上市审查数据评估的标准做法。为了利用这项技术,美国食品药品监督管理局应该迅速招聘受过数据和软件、人工智能和ML工程、数据科学甚至机械工程培训的新员工。

卓越数字健康中心还需要在内部率先实施人工智能和高级软件程序,以促进医疗产品中心之间更积极的集成和高效的产品审查。
与此同时,国会必须与美国食品药品监督管理局合作,创建一种新的“软件即医疗器械”审批途径,能够审查利用基础LLM和专业小型模型的应用程序。为此,该机构需要对基础模型进行基线批准,并对较小的专业模型进行不那么严格的审查,这些模型将接受上市后的监督。
美国食品药品监督管理局必须灵活、充满活力,并随时准备接受这些新技术。

2.让人工智能为患者护理投入资金
从解决员工短缺问题到解决欺诈索赔问题,再到帮助临床医生更有效地执业,人工智能可以帮助我们的医疗系统提高效率和成本效益。根据《卫生事务》杂志最近的一项分析,行政支出占医疗支出的15%至30%。人工智能驱动的医院工作流程和文档、支付政策的实施以及索赔审查流程的效率将有助于节省目前用于手工和文书工作的资金。这可以腾出资源来提供患者护理,这将推动更好的健康结果并提高患者的参与度。政策制定者和监管机构需要共同努力,确保人工智能革命的潜在好处带来更好的结果,让患者和提供者都能体验和欣赏。

新冠肺炎疫情加剧了医疗系统的人员短缺,但它也表明,不同的护理模式可以有效和安全,并改善患者的预后。除了优先招聘和留住医护人员外,国会还应推广人工智能,使医护人员能够更有效地完成工作,确保他们的时间集中在为患者提供护理上,而不是不必要的文书工作上。

人工智能也有利于国会推动价格透明,并可能使患者能够比较成本和结果,从而成为基于价值的护理的更谨慎的购买者。人工智能已经在简化数据采购、汇总和报告。这是一项运动的一部分,旨在让患者对自己的健康数据拥有更多的所有权,并更有效地使用他们的数据来管理他们的临床需求和成本。政策制定者和监管机构应利用适当的执法权力,平衡避免对患者和公众造成伤害的需要,同时激励开发和实施基于人工智能的干预措施,以改善结果并降低成本。

3.使数据克服偏差
人工智能中的算法偏见受到了拜登政府的高度关注。白宫的《人工智能权利法案蓝图》包括一项关于减轻偏见标准的讨论,卫生和公众服务部在最近提出的规则中包括了一项减轻偏见的提案。

偏差是用于训练人工智能模型的数据的连锁反应;由于医疗保健系统在护理方面存在不公平现象,这些不公平现象可以在数据中重现,因此也可以在基于这些数据的人工智能模型中重现。但这并不是必然的。正如杜克大学健康创新研究所的Mark Sendak博士告诉NPR的那样(卫生和公众服务部健康信息技术国家协调员Micky Tripathi博士在推特上强调的那样),解决偏见需要“照镜子”。他指出,解决这种偏见“需要你对自己、与你共事的人、你所属的组织提出尖锐的问题。因为如果你真的在算法中寻找偏见,那么很多偏见的根本原因就是护理中的不公平。”

换句话说:任何类型的偏见都是合理的。但人工智能中的偏见并非不可逾越——它可以通过全面的数据来解决,再加上对数据的偏见的持续交叉检查和对衍生算法性能的评估。如果在算法的输出中发现偏差,请返回并检查数据。
提供商、学术医疗中心和行业正通过健康人工智能联盟与监管机构合作,推动联邦政府消除人工智能偏见的方法。例如,为食品营养类标签提供临床决策支持软件,确保提供者了解使用人工智能算法将受益的特定患者群体。政策制定者和监管机构不应因为担心偏见而放慢人工智能在医疗保健领域的整合。他们必须促进偏见的预防、检测和缓解。

不要妨碍人工智能变得更聪明
你已经听到了关于人工智能的警告。就像任何新技术一样,人工智能既提供了机遇,也带来了挑战。人工智能世界末日的场景利用了我们人类天生的恐惧,即肆无忌惮的人会利用好技术做坏事。然而,在医疗保健领域,立法者有一个千载难逢的机会,可以安全有效地在生命科学和医疗保健领域迎来我们时代最重大的进步。对于那些加入政府为人类留下持久遗产和积极影响的人来说,人工智能是你的机会。让我们利用人工智能让美国人更健康。