來源：科技日報

圖片來源：美國國家醫(yī)學(xué)院官網(wǎng)

醫(yī)療人工智能(AI) 最受吹捧的承諾之一是它們可以幫助人類臨床醫(yī)生更準(zhǔn)確地解讀X 射線和CT 掃描等圖像，從而做出更準(zhǔn)確的診斷報告并提高放射科醫(yī)生的表現(xiàn)。

但事實真的是這樣嗎？

美國哈佛醫(yī)學(xué)院、麻省理工學(xué)院和斯坦福大學(xué)的一項合作研究表明，使用人工智能工具進(jìn)行圖像解讀的有效性似乎因臨床醫(yī)生而異。

也就是說，有用還是無用，現(xiàn)階段人類說了算。因為研究結(jié)果表明，個體臨床醫(yī)生的差異會以人工智能專家無法完全理解的關(guān)鍵方式影響人類和機(jī)器之間的互動。該分析最近發(fā)表在期刊《自然·醫(yī)學(xué)》 上。

考慮醫(yī)生個人因素

研究表明，在某些情況下，人工智能的使用可能會干擾放射科醫(yī)生的表現(xiàn)并影響他們解釋的準(zhǔn)確性。

雖然之前的研究表明人工智能助手確實可以提高醫(yī)生的診斷表現(xiàn)，但這些研究將醫(yī)生視為一個整體，并沒有考慮到不同醫(yī)生之間的差異。臨床上，每個醫(yī)生的判斷都是100%為患者服務(wù)的。

相比之下，新研究著眼于臨床醫(yī)生的個人因素——專業(yè)領(lǐng)域、實踐年限以及之前使用人工智能工具的經(jīng)驗，并分析這些因素如何在人機(jī)協(xié)作中發(fā)揮作用。

研究人員分析了人工智能如何影響140 名放射科醫(yī)生在15 項X 射線診斷任務(wù)中的表現(xiàn)，其中醫(yī)生需要可靠地發(fā)現(xiàn)圖像上的不同特征并做出準(zhǔn)確的診斷。該分析涉及324 例患者，涉及15 種病癥。

為了確定人工智能如何影響醫(yī)生檢測和正確識別問題的能力，研究人員使用先進(jìn)的計算方法來捕獲有和沒有人工智能的情況下的表現(xiàn)變化。

結(jié)果顯示，人工智能輔助的效果在放射科醫(yī)生之間不一致且各不相同，一些放射科醫(yī)生的表現(xiàn)因人工智能而提高，而另一些放射科醫(yī)生的表現(xiàn)則“惡化”。

倫敦皇家內(nèi)科醫(yī)學(xué)院布拉瓦尼克研究所生物醫(yī)學(xué)信息學(xué)助理教授Palanafo Rapkol 證實了研究小組的發(fā)現(xiàn)，并表示：“我們不應(yīng)該將醫(yī)生視為一個統(tǒng)一的群體，而只考慮人工智能的‘平均’影響。”關(guān)于其性能”。

盡管如此，這一發(fā)現(xiàn)并不意味著醫(yī)生和診所應(yīng)該放棄采用人工智能。相反，結(jié)果表明需要更好地了解人類和人工智能如何互動，并設(shè)計精心校準(zhǔn)的方法來提高而不是損害人類的表現(xiàn)。

AI“助手”仍難預(yù)測

鑒于影像科被認(rèn)為是最能得到AI幫助最大的臨床醫(yī)學(xué)領(lǐng)域，本次研究結(jié)果頗具代表性。

這一發(fā)現(xiàn)值得注意的是，在放射學(xué)領(lǐng)域，人工智能正在以令人驚訝的方式影響人類醫(yī)生的表現(xiàn)。

例如，與研究人員的預(yù)期相反，放射科醫(yī)生有多少年的經(jīng)驗、是否專門從事胸部放射學(xué)以及以前是否使用過人工智能設(shè)備等因素并不能可靠地預(yù)測人工智能工具對其表現(xiàn)的影響。

另一項挑戰(zhàn)常識的發(fā)現(xiàn)是：基線表現(xiàn)不佳的臨床醫(yī)生并不能始終從人工智能中受益?？傮w而言，無論有或沒有人工智能，基線表現(xiàn)較低的放射科醫(yī)生的表現(xiàn)仍然較低。對于在基線—— 上表現(xiàn)更好的放射科醫(yī)生來說也是如此。無論有沒有人工智能，他們的整體表現(xiàn)總是很好。

但可以肯定的是，更準(zhǔn)確的人工智能可以提高放射科醫(yī)生的表現(xiàn)，而平庸的人工智能會降低人類臨床醫(yī)生的診斷準(zhǔn)確性。

這一發(fā)現(xiàn)的意義還在于，在臨床部署之前，必須對AI工具的性能進(jìn)行測試和驗證，以確保劣質(zhì)的AI不會干擾人類臨床醫(yī)生的判斷，從而延誤患者的病情。

對臨床醫(yī)學(xué)未來的影響

臨床醫(yī)生擁有不同水平的專業(yè)知識、經(jīng)驗和決策風(fēng)格，因此確保人工智能反映這種多樣性對于提供有針對性的治療至關(guān)重要。個體因素和變化應(yīng)該是保證AI進(jìn)步的關(guān)鍵，而不是干擾并最終影響診斷的因素。

有趣的是，這一發(fā)現(xiàn)并不能解釋為什么人工智能對人類臨床醫(yī)生的表現(xiàn)產(chǎn)生不同的影響，但隨著人工智能對臨床醫(yī)學(xué)的影響變得越來越深刻，理解其中的原因至關(guān)重要。在這一點(diǎn)上，AI專家仍在努力。

研究團(tuán)隊補(bǔ)充說，下一步，放射科醫(yī)生和人工智能之間的交互應(yīng)該在模擬現(xiàn)實生活場景的實驗環(huán)境中進(jìn)行測試，測試結(jié)果需要反映實際的患者群體。除了提高AI工具的準(zhǔn)確性外，培訓(xùn)放射科醫(yī)生及時發(fā)現(xiàn)不準(zhǔn)確的AI并對AI工具的診斷進(jìn)行審查和質(zhì)疑也很重要。

換句話說，在人工智能幫助你之前，你需要先提升自己。