医疗GPT还未能让患者充分受益
正如医学先驱希波克拉底所言:“生命是短暂的,艺术是长久的。”在医疗GPT的应用中,我们需认识到其局限性,并探索 […]
正如医学先驱希波克拉底所言:“生命是短暂的,艺术是长久的。”在医疗GPT的应用中,我们需认识到其局限性,并探索如何更好地结合人机协作,以实现更精准的医疗服务。
当我提到医疗GPT的时候,很多人会觉得它已经接近人类的思维方式了——聪明、迅速,而且能聊得天花乱坠。
但如果你以为医疗GPT像个医生一样能帮助你解决所有医疗问题,那你可能得调整一下预期。虽然大语言模型(LLM)在自然语言处理方面确实牛逼,但它的运作机制跟人类大脑差别可不小。
甚至可以说,医疗GPT在医疗领域的应用就像是一台高效的洗衣机——能处理很多事情,但有些复杂污渍它就是洗不干净。
市面上有很多医疗GPT是基于一种被称为“神经转换器”(Transformer)的深度学习架构构建的。简单来说,这个架构的核心是一系列复杂的神经网络,它通过节点间的连接来传递信息。虽然这种架构的灵感来源于人脑的神经元结构,但它在规模和复杂性上与人脑大相径庭。
人脑的神经元数量以百亿计,且每个神经元之间的连接极为复杂,形成一个高度动态、具有自我调节能力的系统。而医疗GPT的神经网络虽然庞大(它的规模可能是目前人类所能训练的最大网络之一),但与大脑相比,它的“学习”和“推理”能力依然相对初级。
医疗GPT的“学习”过程并不像人类那样通过实时经验积累来形成认知。它的学习是离线的,依赖于大量的文本、图像和其他形式的数据,这些数据通过预先设定的算法被转化为一个“模型”。这个模型代表了医疗GPT的知识体系,一旦训练完成,它就可以在推理阶段通过运算得出一个合理的回答。然而,这个“模型”并不是实时更新的,除非对其进行重新训练,否则它对世界的理解是固化的,这也是医疗GPT面临的第一个技术瓶颈。
与人类不同,医疗GPT的知识库不会随着时间推移而自动更新。换句话说,它的“世界观”只能在训练时刻定格,如果在训练之后有新的医学发现或技术突破,医疗GPT并不会知道这些变化。例如,如果它的最后一次训练数据是在2022年1月,那么它就无法获得此后的任何医学进展。这对医疗行业尤其棘手,因为医学知识日新月异,新的研究、治疗方案和临床指南不断涌现。虽然医疗GPT能够通过网络搜索来获得一些实时数据,但它的回答还是受到历史数据的限制,无法保证最新的医学信息。
这一问题的症结在于,医疗GPTT并不像人类那样能够自主学习。人类的大脑在不断接触新信息时能够快速调整和更新认知结构,然而GPT只能依赖“离线训练”来获得新知识,这使得它在一些快速变化的领域(比如医学)面临显著的知识过时问题。
另一个关键问题是医疗GPT缺乏长期记忆。当你与医疗GPT进行对话时,它不会记住你之前说过的内容。每次与它的互动都像是全新的开始。如果你与医疗GPT讨论某个话题,然后结束对话,再开始新的对话,它会把这两次对话视作完全独立的事件,而不会“记得”你之前提过的内容。这意味着,医疗GPT无法像医生那样在持续的医疗过程中跟踪患者的病情变化,或者在多个就诊之间做出判断,未来agent应该可以。
此外,医疗GPT的会话长度也有严格限制。它的“思考”能力也仅限于一段有限的文本长度,过长的病例或诊疗记录需要通过反复的总结和分段处理。这种方式在实际的医疗应用中造成了巨大的不便,尤其是对于需要长时间跟踪病情的慢性疾病患者。
对于医疗行业而言,医疗GPT的这些局限性显得尤为突出。
举个例子,医疗专业人员通常依赖详细的患者病历进行诊疗决策,而医疗GPT在面对过长的病例时显得力不从心。如果一个患者的病历超过了GPT的输入长度,它只能在“碎片化”的基础上做出总结,这无疑降低了它的实用性。
再者,医疗GPT无法像人类医生那样灵活地应对复杂的临床判断。在面对模棱两可的病例时,人类医生依靠个人经验、临床直觉和团队协作来做出决策,而医疗GPT则只能基于其训练时的知识库做出推理。这种推理缺乏灵活性,容易受到先前训练数据的影响,且不具备像人类一样的主观判断能力。
我认为,尽管医疗医疗GPT有这些局限性,但它依然可以在医疗领域发挥巨大的潜力。尤其在一些资源匮乏的地区,医疗GPT可以成为一种弥补医疗服务不足的工具。例如,在偏远地区,患者可能无法及时获得专业医生的意见,而医疗GPT则可以通过智能手机等终端提供远程医疗服务,为患者提供初步的诊断建议、疾病预防或健康管理指导。
不过,要充分发挥医疗GPT的潜力,仍然需要将其与人类医生相结合,形成“人机协作”的模式。在这种模式下,医疗GPT可以帮助医生快速处理大量的病例信息,提供信息支持和初步诊断,从而使医生能够集中精力处理更复杂的病情和进行临床决策。未来,我们可能会看到AI作为一种“医疗助理”在医生的决策过程中发挥更加重要的作用。
在我们团队做医疗应用之前,得先搞清楚这家伙是怎么“思考”的。医疗GPT基于一种叫做Transformer的神经网络架构,核心概念是自注意力机制(self-attention)。简而言之,它能在处理语言时,不只是关注当前词语,还能迅速抓住上下文中其他词语之间的关联性。简单地说,它有点像是你在一堆字词中,快速找到一个隐藏的连锁反应的能力。
不过,这种能力其实是通过大量的历史数据学习得来的。医疗GPT并不会“活学活用”——它只能根据已经学习过的知识来“推测”答案。所以,如果你问它某个2022年后的医学新发现,它可能会直接陷入“那是我的过期知识”模式,做出不靠谱的回答。
现在我们知道,医疗GPT的知识库不会主动更新,它得“离线训练”一次才能获得新的信息。想象一下,它就像个落后于时代的医疗诊所,医生每次来诊断前都要看一遍去年甚至更早的医学书籍。
如果你告诉它最新的研究成果,它就像个健忘症患者,根本记不住,只能依赖过去的信息做决策。这个问题在快速发展的医学领域尤其明显,因为医学一直在变化——新的疗法、药物和临床研究不断涌现,医疗GPT能提供帮助,但不能保证它给出的答案总是最新的。
再说到医疗GPT的短期记忆问题。你每次和它聊,仿佛是重新开始一次全新的对话,上一轮的内容统统被遗忘。如果你让医疗GPT分析一个患者的病历,它只能在当前会话内处理有限的信息,像是给它一页纸,它就处理这一页。而如果病历长得像小说,它就只能处理其中一小段内容,其他的只能等下一次再“续集”。这样一来,对于复杂且跨时间的数据,医疗GPT显得有些力不从心,完全无法像医生一样记住患者的历史。
即便如此,医疗GPT依然有其独特的优势,尤其是在减轻医疗行业负担方面。你可以把它想象成医生的“副手”,但绝不取代主治医生。比如,在病历整理和总结方面,医疗GPT可以快速从患者的各种记录中提取关键信息,帮助医生节省大量时间。它甚至能像个超级搜索引擎一样,帮忙查找最新的临床指南和医学文献,为医生提供参考。
但问题是,医疗GPT的建议只能作为参考,不能成为决策的主导力量。对于复杂的病例,或者需要多方面综合判断的情况,医生的经验与判断力依然无可替代。毕竟,医疗GPT的建议只能停留在纸面上,它没有面对患者时的直觉和细腻的感受。
目前的医疗GPT未能让患者和以医生充分受益,现在Ai对医疗的作用还在采用阶段,真正作用体现可能还需要时间,现在是半导体主场时间,ai医疗的非常早期的阶段,只不过大家提前应用了起来。
本文由人人都是产品经理作者【罗福如】,微信公众号:【罗福如】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。
题图来自Unsplash,基于 CC0 协议。
你的反应是什么?