IT之家1月4日消息,紐約科恩兒童醫(yī)學(xué)中心的三位兒科醫(yī)生最近對(duì)大型語(yǔ)言模型ChatGPT的兒科疾病診斷能力進(jìn)行了評(píng)估,結(jié)果令人失望。他們讓ChatGPT診斷了100個(gè)隨機(jī)的兒科病例,結(jié)果發(fā)現(xiàn)其準(zhǔn)確率僅有17%。IT之家注意到,這項(xiàng)研究發(fā)表在權(quán)威期刊《JAMA兒科病學(xué)》上。

圖源Pexels

圖源Pexels
研究人員指出,兒科診斷尤其具有挑戰(zhàn)性,因?yàn)槌艘紤]患者的全部癥狀外,還必須將年齡納入考量。近年來(lái)越來(lái)越多的人將大型語(yǔ)言模型視為一種潛在的醫(yī)療診斷工具,為了評(píng)估其實(shí)際效用,研究人員收集了100個(gè)隨機(jī)的兒科病例,并讓ChatGPT診斷。
為了簡(jiǎn)化操作,研究人員統(tǒng)一采用相同的方式向ChatGPT詢問(wèn)每個(gè)病例。他們首先粘貼病例文本,然后讓其給出“鑒別診斷”和“最終診斷”。鑒別診斷是一種基于患者病史和身體檢查,初步列出可能的診斷,而最終診斷則是最有可能導(dǎo)致患者癥狀的原因。
ChatGPT的回答由兩位未參與研究的兒科醫(yī)生進(jìn)行評(píng)分,評(píng)分分為“正確”、“錯(cuò)誤”和“診斷不完整”三種。研究團(tuán)隊(duì)發(fā)現(xiàn),ChatGPT只有17次回答被評(píng)為“正確”,其中11次雖然與正確診斷存在臨床關(guān)聯(lián),但仍存在錯(cuò)誤。
研究人員表示,ChatGPT目前顯然還無(wú)法作為診斷工具,但通過(guò)更具針對(duì)性的訓(xùn)練可能會(huì)提高其準(zhǔn)確性。他們進(jìn)一步建議,在未來(lái)改進(jìn)之前,ChatGPT或許可以作為一種輔助工具,用于整理文件、協(xié)助撰寫(xiě)研究文章或?yàn)榛颊咛峁┬g(shù)后護(hù)理指南等。