工党希望利用人工智能技术拯救NHS危机

【消化】

工党希望人工智能技术能够使国民医疗服务体系摆脱危机。在一次政府活动中,工党影子卫生部长卡琳·史密斯表示对科技公司敞开大门。但科技公司提出的人工智能乐观愿景,可能从根本上改变医生与患者之间的关系,甚至NHS的基本原则,但它不会是免费的。人工智能的作用包括分析医疗记录和诊断,例如通过眼部扫描及早发现帕金森病。这意味着改变整个医疗保健系统,从心理健康应用程序中的聊天机器人到优先考虑等待名单以帮助发现新药物的算法。

但人工智能并不是一个神奇的解决方案。技术乐观主义并未考虑人工智能的阴暗面。 NHS 和人工智能专家 Jess Morley 博士警告说,需要管理潜在的意外后果,以避免 NHS 成为算法友好但社会不受欢迎或不可接受的医疗保健系统。

对人工智能的过度期望会破坏公众对采用该技术和使用支撑该技术的患者数据所需的信任。我的组织 Connected by Data 与 Just Treatment 运动团体进行的研究表明,患者对 NHS 数字化转型对个人和道德的影响深感担忧。我们需要围绕人工智能在 NHS 中的作用进行不同的政治对话和愿景。

例如,我们是否想要托尼·布莱尔研究所提出的个性化人工智能医生“收集和跟踪个人一生中的广泛数据,并用它来提供量身定制的治疗和生活方式建议”?这可能会导致我们低估自己的真实感受,并导致我们不必要地担心自己的健康。

人工智能的风险还不止于此。我们是否认为人工智能将主要惠及已经处于优势的群体,而将数字边缘化群体抛在身后?健康数据和医学研究的覆盖范围和质量存在已知的偏差,不同性别、种族和社区获取这项技术的难易程度也存在差异。更多的人工智能可能意味着更多的健康差异。

人工智能的这些潜在缺点威胁到我们医疗保健系统的基础:我们的自主权、医患关系和普遍可及性。然而,这些并不是不可避免的。关注风险并遵守其核心原则的 NHS 可以避免这些风险。

工党有机会脱颖而出,为公众、专家和民间社会提供真正的机会,共同设计 NHS 的未来,包括技术,这与现任政府不同,现任政府回避强大的挑战,开展参与活动,旨在获得公众对政府已有计划的支持。

工党还需要发挥领导作用,区分私营部门在人工智能系统的开发和交付中的作用。托尼·布莱尔研究所主张利用公共资金和公共数据来发展商业生物技术领域。但就像医学界一样,私营部门毫不犹豫地将利润置于患者健康之上。

相反,工党应该致力于彻底改革卫生部门的采购流程。我们不仅需要让 NHS 能够在人工智能方面谈判获得更好的经济效益,而且还需要更新其民主根源。 NHS 应通过对社区拥有的开源卫生技术进行战略性投资,并对大规模技术采购进行独立的道德审查和公众监督来重建公众信任。

人工智能有希望,但它不是免费的。工党将继承的不仅是失败的医疗服务,还有危险的技术交易和持怀疑态度的公众。在改革 NHS 时,工党必须让公众、卫生专业人员和民间社会在塑造我们未来的 NHS 方面发挥强有力的作用,而不要被人工智能公司自私的承诺所诱惑。

【新闻评论】

工党希望人工智能技术能够帮助国家医疗服务体系(NHS)摆脱危机。科技公司对人工智能的乐观愿景意味着改变整个医疗保健系统,包括分析医疗记录和诊断、心理健康应用程序的聊天机器人、确定等候名单优先顺序的算法以及协助发现新药。但这种技术乐观主义并没有考虑到人工智能的阴暗面及其从根本上改变医生与患者之间关系的潜力,以及 NHS 的基本原则。

对人工智能的过高期望可能会损害公众的信任并削弱使用患者数据所需的信心。它还有可能造成更多的健康差距,例如人工智能将数字边缘化的人抛在身后,而主要使那些已经处于优势的人受益,健康数据和医学研究的偏见,以及性别、种族和社区之间的获取差异。

工党有机会脱颖而出,为公众、专家和民间社会提供真正的机会,共同设计 NHS 的未来,包括技术,这与现任政府不同,现任政府回避强大的挑战,开展参与活动,旨在获得公众对政府已有计划的支持。我们还需要在区分私营部门在人工智能系统的开发和交付中的作用方面发挥领导作用。

鉴于私营部门毫不犹豫地将利润置于患者健康之上,工党应该致力于彻底改革卫生部门的采购流程。 NHS 应通过对社区拥有的开源卫生技术进行战略性投资,并对大规模技术采购进行独立的道德审查和公众监督来重建公众信任。

人工智能有希望,但它不是免费的。工党将继承的不仅是失败的医疗服务,还有危险的技术交易和持怀疑态度的公众。在改革 NHS 时,工党必须让公众、卫生专业人员和民间社会在塑造我们未来的 NHS 方面发挥强有力的作用,而不要被人工智能公司自私的承诺所诱惑。

人工智能医生和聊天机器人护士?工党必须表明 NHS 的未来并不是那么反乌托邦 |杰尼·网球