随着ChatGPT,DeepSeek等一批AI大模型被人们越来越多运用到日常生活和工作中,用ChatGPT解答疑问,编写程序,创作音乐和写作,成为了越来越多人的日常。
更有不少人开始找ChatGPT看病开药…
然而,能检索海量医学知识,并进行过大量病例思考训练的AI大模型ChatGPT,真的就能代替医生给病人看病吗?
最近,《内科年鉴》报道了这样一个反例:
美国一位病人询问ChatGPT看病开药,结果不仅患上了罕见病,精神也出了问题…
(ChatGPT)
病人是60岁的纽约男性A先生,他大学选修过营养学,对健康保养颇有一番研究。
最近他读到一篇文章,说老年人吃太多盐对健康不利,应适当减少食盐的用量。
于是A先生当即决定减盐。按理说正常的减盐,每天注意减少食盐摄入量就好了。
然而A先生不这么想的,他认定既然食盐吃多了不好,那就彻底不再食用。
他决定亲身做这个实验,三个月里完全不吃盐,看看有什么效果?
谨慎起见,他决定去咨询一下万能的ChatGPT,看看ChatGPT能给出什么好建议。
谁能想到,ChatGPT很快给了一个意想不到的答案:
既然完全不摄入食盐(氯化钠)了,那就用溴化钠来代替…
溴化钠是一种离子化合物,溶于水,外观为无色晶体或白色粉末,与氯化钠十分相似。曾是一种常见的工业原料,用于配制感光胶片所用的感光液。
医疗上用作镇定剂、安眠药或抗癫痫药。
它有轻微毒性,显然是不能食用的,更不能作为食盐替代品…
(溴化钠)
然而,对ChatGPT深信不疑的A先生就这样照做了。
他每天在自己的食物里加入溴化钠,坚持吃了很长一段时间。
(AI生成图片:在菜里加溴化钠)
有一天,A先生突然冲到附近医院的急诊室,大声疾呼,说自己的邻居给他下了毒,他感觉整个人都不好了。
急诊室的医生于是把他引进治疗室,让他详细说明情况。
A先生表示,自己最近的饮食越发严格,家里的水都必须蒸馏以后才能喝,就因为担心邻居给他的水下毒。
可即便如此,他依然感觉已经被邻居毒到了,现在渴得要命。
医生于是拿来一杯水给A先生,没想到A先生大惊失色,连称这杯水里也有毒。
医生见到这个场景,猜测A先生这是出现了被害妄想症症状。
出于谨慎,医生决定留A先生住下先观察24小时,弄清楚A先生到底出了什么问题。
结果这24小时里,A先生妄想症的毛病似乎不断加重,甚至眼前还出现了幻觉。严重的时候,A先生还一度尝试逃跑。
(AI给出养生建议)
最终,一名毒物专家对A先生做了血液检测后,终于找到了问题所在:
A先生竟然患上了名为溴中毒的罕见病,人在长期服用溴化物,身体积累毒性后,会出现精神异常症状,如头晕,躁动,意识混乱,视力模糊,视力幻觉…
在医学证据面前,A先生不得不交代了他为了戒盐,在咨询ChatGPT的建议后,一直服用溴化钠的事实。
医生于是对A先生进行有针对性的排毒治疗,两个星期后,A先生身体的中毒症状已然消失,但他的脑神经受到了严重损伤,精神错乱的问题依然残留。于是医院将他转到精神科去继续治疗…
(AI大模型看病真的靠谱吗?)
对A先生这起咨询ChatGPT看病,结果中毒的案例,有人猜测是A先生提问的方式不对,他可能只问了有什么物品能够替代食盐(氯化钠)的功能,而并没有说清楚是医疗方面的。
而ChatGPT可能错误理解成了打扫清洁卫生时,有没有什么东西能够替代食盐?于是推荐了溴化钠…
但这个猜测还没有得到A先生的证实。
不管怎样,A先生的病例说明,AI大模型还远没有智能到替代医生看病开药的程度。
所以,一旦得了病,还是要第一时间找医生,而不是去求助AI大模型…
Ref:
https://www.popsci.com/health/chatgpt-salt-bromide-poisoning/
https://timesofindia.indiatimes.com/world/us/chatgpt-health-scare-60-year-old-man-hospitalized-after-following-ai-advice-heres-why/articleshow/123312776.cms
文章来自于微信公众号“英国那些事儿”,作者是“事儿君”。