記者張夢然

醫(yī)療人工智能(AI) 最受吹捧的承諾之一是它們可以幫助人類臨床醫(yī)生更準(zhǔn)確地解讀X 射線和CT 掃描等圖像，從而做出更準(zhǔn)確的診斷報(bào)告并提高放射科醫(yī)生的表現(xiàn)。

但事實(shí)真的是這樣嗎？

美國哈佛醫(yī)學(xué)院、麻省理工學(xué)院和斯坦福大學(xué)的一項(xiàng)合作研究表明，使用人工智能工具進(jìn)行圖像解讀的有效性似乎因臨床醫(yī)生而異。

也就是說，有用還是無用，現(xiàn)階段人類說了算。因?yàn)檠芯拷Y(jié)果表明，個(gè)體臨床醫(yī)生的差異會(huì)以人工智能專家無法完全理解的關(guān)鍵方式影響人類和機(jī)器之間的互動(dòng)。該分析最近發(fā)表在期刊《自然·醫(yī)學(xué)》 上。

考慮醫(yī)生個(gè)人因素

研究表明，在某些情況下，人工智能的使用可能會(huì)干擾放射科醫(yī)生的表現(xiàn)并影響他們解釋的準(zhǔn)確性。

雖然之前的研究表明人工智能助手確實(shí)可以提高醫(yī)生的診斷表現(xiàn)，但這些研究將醫(yī)生視為一個(gè)整體，并沒有考慮到不同醫(yī)生之間的差異。臨床上，每個(gè)醫(yī)生的判斷都是100%為患者服務(wù)的。

相比之下，新研究著眼于臨床醫(yī)生的個(gè)人因素——專業(yè)領(lǐng)域、實(shí)踐年限以及之前使用人工智能工具的經(jīng)驗(yàn)，并分析這些因素如何在人機(jī)協(xié)作中發(fā)揮作用。

研究人員分析了人工智能如何影響140 名放射科醫(yī)生在15 項(xiàng)X 射線診斷任務(wù)中的表現(xiàn)，其中醫(yī)生需要可靠地發(fā)現(xiàn)圖像上的不同特征并做出準(zhǔn)確的診斷。該分析涉及324 例患者，涉及15 種病癥。

為了確定人工智能如何影響醫(yī)生檢測和正確識別問題的能力，研究人員使用先進(jìn)的計(jì)算方法來捕獲有和沒有人工智能的情況下的表現(xiàn)變化。

結(jié)果顯示，人工智能輔助的效果在放射科醫(yī)生之間不一致且各不相同，一些放射科醫(yī)生的表現(xiàn)因人工智能而提高，而另一些放射科醫(yī)生的表現(xiàn)則“惡化”。

倫敦皇家內(nèi)科醫(yī)學(xué)院布拉瓦尼克研究所生物醫(yī)學(xué)信息學(xué)助理教授Palanafo Rapkol 證實(shí)了研究小組的發(fā)現(xiàn)，并表示：“我們不應(yīng)該將醫(yī)生視為一個(gè)統(tǒng)一的群體，而只考慮人工智能的‘平均’影響?！标P(guān)于其性能”。

盡管如此，這一發(fā)現(xiàn)并不意味著醫(yī)生和診所應(yīng)該放棄采用人工智能。相反，結(jié)果表明需要更好地了解人類和人工智能如何互動(dòng)，并設(shè)計(jì)精心校準(zhǔn)的方法來提高而不是損害人類的表現(xiàn)。

AI“助手”仍難預(yù)測

鑒于影像科被認(rèn)為是最能得到AI幫助最大的臨床醫(yī)學(xué)領(lǐng)域，本次研究結(jié)果頗具代表性。

這一發(fā)現(xiàn)值得注意的是，在放射學(xué)領(lǐng)域，人工智能正在以令人驚訝的方式影響人類醫(yī)生的表現(xiàn)。

例如，與研究人員的預(yù)期相反，放射科醫(yī)生有多少年的經(jīng)驗(yàn)、是否專門從事胸部放射學(xué)以及以前是否使用過人工智能設(shè)備等因素并不能可靠地預(yù)測人工智能工具對其表現(xiàn)的影響。

另一項(xiàng)挑戰(zhàn)常識的發(fā)現(xiàn)是：基線表現(xiàn)不佳的臨床醫(yī)生并不能始終從人工智能中受益。總體而言，無論有或沒有人工智能，基線表現(xiàn)較低的放射科醫(yī)生的表現(xiàn)仍然較低。對于在基線—— 上表現(xiàn)更好的放射科醫(yī)生來說也是如此。無論有沒有人工智能，他們的整體表現(xiàn)總是很好。

但可以肯定的是，更準(zhǔn)確的人工智能可以提高放射科醫(yī)生的表現(xiàn)，而平庸的人工智能會(huì)降低人類臨床醫(yī)生的診斷準(zhǔn)確性。

這一發(fā)現(xiàn)的意義還在于，在臨床部署之前，必須對AI工具的性能進(jìn)行測試和驗(yàn)證，以確保劣質(zhì)的AI不會(huì)干擾人類臨床醫(yī)生的判斷，從而延誤患者的病情。

對臨床醫(yī)學(xué)未來的影響

臨床醫(yī)生擁有不同水平的專業(yè)知識、經(jīng)驗(yàn)和決策風(fēng)格，因此確保人工智能反映這種多樣性對于提供有針對性的治療至關(guān)重要。個(gè)體因素和變化應(yīng)該是保證AI進(jìn)步的關(guān)鍵，而不是干擾并最終影響診斷的因素。

有趣的是，這一發(fā)現(xiàn)并不能解釋為什么人工智能對人類臨床醫(yī)生的表現(xiàn)產(chǎn)生不同的影響，但隨著人工智能對臨床醫(yī)學(xué)的影響變得越來越深刻，理解其中的原因至關(guān)重要。在這一點(diǎn)上，AI專家仍在努力。

研究團(tuán)隊(duì)補(bǔ)充說，下一步，放射科醫(yī)生和人工智能之間的交互應(yīng)該在模擬現(xiàn)實(shí)生活場景的實(shí)驗(yàn)環(huán)境中進(jìn)行測試，測試結(jié)果需要反映實(shí)際的患者群體。除了提高AI工具的準(zhǔn)確性外，培訓(xùn)放射科醫(yī)生及時(shí)發(fā)現(xiàn)不準(zhǔn)確的AI并對AI工具的診斷進(jìn)行審查和質(zhì)疑也很重要。

換句話說，在人工智能幫助你之前，你需要先提升自己。

來源：科技日報(bào)