醫(yī)療人工智能(AI) 最受吹捧的承諾之一是它們可以幫助人類臨床醫(yī)生更準(zhǔn)確地解讀X 射線和CT 掃描等圖像，從而做出更準(zhǔn)確的診斷報告并提高放射科醫(yī)生的表現(xiàn)。

但事實真的是這樣嗎？

美國哈佛醫(yī)學(xué)院、麻省理工學(xué)院和斯坦福大學(xué)的一項合作研究表明，使用人工智能工具進行圖像解讀的有效性似乎因臨床醫(yī)生而異。

也就是說，有用還是無用，現(xiàn)階段人類說了算。因為研究結(jié)果表明，個體臨床醫(yī)生的差異會以人工智能專家無法完全理解的關(guān)鍵方式影響人類和機器之間的互動。該分析最近發(fā)表在期刊《自然·醫(yī)學(xué)》 上。

考慮醫(yī)生個人因素

研究表明，在某些情況下，人工智能的使用可能會干擾放射科醫(yī)生的表現(xiàn)并影響他們解釋的準(zhǔn)確性。

雖然之前的研究表明人工智能助手確實可以提高醫(yī)生的診斷表現(xiàn)，但這些研究將醫(yī)生視為一個整體，并沒有考慮到不同醫(yī)生之間的差異。臨床上，每個醫(yī)生的判斷都是100%為患者服務(wù)的。

相比之下，新研究著眼于臨床醫(yī)生的個人因素——專業(yè)領(lǐng)域、實踐年限以及之前使用人工智能工具的經(jīng)驗，并分析這些因素如何在人機協(xié)作中發(fā)揮作用。

研究人員分析了人工智能如何影響140 名放射科醫(yī)生在15 項X 射線診斷任務(wù)中的表現(xiàn)，其中醫(yī)生需要可靠地發(fā)現(xiàn)圖像上的不同特征并做出準(zhǔn)確的診斷。該分析涉及324 例患者，涉及15 種病癥。

為了確定人工智能如何影響醫(yī)生檢測和正確識別問題的能力，研究人員使用先進的計算方法來捕獲有和沒有人工智能的情況下的表現(xiàn)變化。

結(jié)果顯示，人工智能輔助的效果在放射科醫(yī)生之間不一致且各不相同，一些放射科醫(yī)生的表現(xiàn)因人工智能而提高，而另一些放射科醫(yī)生的表現(xiàn)則“惡化”。

倫敦皇家內(nèi)科醫(yī)學(xué)院布拉瓦尼克研究所生物醫(yī)學(xué)信息學(xué)助理教授Palanafo Rapkol 證實了研究小組的發(fā)現(xiàn)，并表示：“我們不應(yīng)該將醫(yī)生視為一個統(tǒng)一的群體，而只考慮人工智能的‘平均’影響?！标P(guān)于其性能”。

盡管如此，這一發(fā)現(xiàn)并不意味著醫(yī)生和診所應(yīng)該放棄采用人工智能。相反，結(jié)果表明需要更好地了解人類和人工智能如何互動，并設(shè)計精心校準(zhǔn)的方法來提高而不是損害人類的表現(xiàn)。

AI“助手”仍難預(yù)測

鑒于影像科被認(rèn)為是最能得到AI幫助最大的臨床醫(yī)學(xué)領(lǐng)域，本次研究結(jié)果頗具代表性。

這一發(fā)現(xiàn)值得注意的是，在放射學(xué)領(lǐng)域，人工智能正在以令人驚訝的方式影響人類醫(yī)生的表現(xiàn)。

例如，與研究人員的預(yù)期相反，放射科醫(yī)生有多少年的經(jīng)驗、是否專門從事胸部放射學(xué)以及以前是否使用過人工智能設(shè)備等因素并不能可靠地預(yù)測人工智能工具對其表現(xiàn)的影響。

另一項挑戰(zhàn)常識的發(fā)現(xiàn)是：基線表現(xiàn)不佳的臨床醫(yī)生并不能始終從人工智能中受益?？傮w而言，無論有或沒有人工智能，基線表現(xiàn)較低的放射科醫(yī)生的表現(xiàn)仍然較低。對于基線表現(xiàn)更好的放射科醫(yī)生來說也是如此——，無論有沒有人工智能，他們的整體表現(xiàn)始終良好。

但可以肯定的是，更準(zhǔn)確的人工智能可以提高放射科醫(yī)生的表現(xiàn)，而平庸的人工智能會降低人類臨床醫(yī)生的診斷準(zhǔn)確性。

這一發(fā)現(xiàn)的意義還在于，人工智能工具的性能在臨床部署之前必須經(jīng)過測試和驗證，以確保劣質(zhì)的人工智能不會干擾人類臨床醫(yī)生的判斷，從而延誤患者的病情。

對臨床醫(yī)學(xué)未來的影響

臨床醫(yī)生擁有不同水平的專業(yè)知識、經(jīng)驗和決策風(fēng)格，因此確保人工智能反映這種多樣性對于提供有針對性的治療至關(guān)重要。個體因素和變化應(yīng)該是保證AI進步的關(guān)鍵，而不是干擾并最終影響診斷的因素。

有趣的是，這一發(fā)現(xiàn)并不能解釋為什么人工智能對人類臨床醫(yī)生的表現(xiàn)有不同的影響，但隨著人工智能對臨床醫(yī)學(xué)的影響變得更加深遠(yuǎn)，理解其中的原因至關(guān)重要。在這一點上，AI專家仍在努力。

研究團隊補充說，下一步，放射科醫(yī)生和人工智能之間的交互應(yīng)該在模擬現(xiàn)實生活場景的實驗環(huán)境中進行測試，測試結(jié)果需要反映實際的患者群體。除了提高AI工具的準(zhǔn)確性外，培訓(xùn)放射科醫(yī)生及時發(fā)現(xiàn)不準(zhǔn)確的AI并對AI工具的診斷進行審查和質(zhì)疑也很重要。

換句話說，在人工智能幫助你之前，你需要先提升自己。 （張夢然）

來源：科技日報