十大問題幫助醫(yī)生決定是否使用人工智能臨床輔助決策支持系統(tǒng)（CDSS）

醫(yī)學(xué)abeycd 2021-08-16

展開全文

臨床輔助決策支持（clinical decision support，CDS）系統(tǒng)是AI臨床應(yīng)用的重要方面，其可輔助醫(yī)生在疾病診斷、治療、預(yù)防等方面進(jìn)行決策。由于CDS的諸多不確定性，臨床醫(yī)生和衛(wèi)生系統(tǒng)決策者對(duì)其安全性和價(jià)值可能存在疑問。例如，如果CDS的建議診療方案與醫(yī)生最初思路不一致，醫(yī)生是否該信賴CDS？

NEJM姊妹雜志NEJM Catalyst Innovations in Care Delivery在2020年底曾發(fā)表一份由10個(gè)問題組成的清單，幫助臨床醫(yī)生和決策者深入了解CDS，理性做出購買和使用決策[1]。該文作者來自美國(guó)布列根和婦女醫(yī)院（Brigham and Women’s Hospital）、杜克大學(xué)（Duke University）。《NEJM醫(yī)學(xué)前沿》在此節(jié)選翻譯該文。

在8月29日即將召開的“AI+醫(yī)療：守正創(chuàng)新，智造未來”（點(diǎn)擊查看詳情）峰會(huì)，NEJM主編及AI醫(yī)療專家也將共同探討醫(yī)學(xué)AI軟件的臨床應(yīng)用問題。

1. 與現(xiàn)狀相比，使用人工智能CDS軟件或系統(tǒng)是否會(huì)產(chǎn)生重要的臨床改善？

這個(gè)問題是所有醫(yī)療產(chǎn)品都面臨的首要問題。對(duì)于AI軟件，“改善”可在任一方向發(fā)力：改善個(gè)體或群體健康、改善就醫(yī)體驗(yàn)、降低醫(yī)療成本和改善醫(yī)務(wù)人員的工作環(huán)境。有些軟件雖然僅能將某些任務(wù)自動(dòng)化，但它們可以讓臨床醫(yī)生將更多時(shí)間花在患者身上，并專注于醫(yī)療其他方面。

2. 使用人工智能CDS軟件是否適合我或團(tuán)隊(duì)的臨床工作流程？

工具只有使用才有價(jià)值，如果使用不方便、過于費(fèi)時(shí)費(fèi)力，則不會(huì)有價(jià)值。電子病歷的推廣應(yīng)用提示，臨床醫(yī)生憎恨所有不適應(yīng)他們現(xiàn)有工作流程的技術(shù)，并且只在臨床收益較大時(shí)才愿意改變自己的工作模式來適應(yīng)新的工具或技術(shù)。因此，CDS軟件的門檻包括下列問題：

這個(gè)工具在我當(dāng)前的工作流程中有意義嗎？
它能否及時(shí)提出建議？
是否需要我手動(dòng)輸入信息、轉(zhuǎn)到另一個(gè)屏幕或多次“點(diǎn)擊”？
如果是，其所帶來的臨床收益是否值得我付出更多勞動(dòng)和忍受可能的煩惱？

3. 人工智能CDS軟件會(huì)提供哪些關(guān)于治療決策或建議背后的邏輯信息？這些建議正確的可能性有多大？

臨床醫(yī)生應(yīng)當(dāng)信任他們正在使用的軟件，還要理解有些治療建議對(duì)某些患者或許不太可靠。除了輸出結(jié)果之外，軟件系統(tǒng)還能提供哪些信息也極為重要，這樣使用者才知道如何解讀結(jié)果。例如，軟件可以指出某項(xiàng)具體建議的確定性有多高，還可以指出哪些關(guān)鍵的輸入信息影響了治療建議。

依賴CDS系統(tǒng)所帶來的風(fēng)險(xiǎn)不同，臨床醫(yī)生需要了解的關(guān)于診療建議的相關(guān)信息也會(huì)不同。例如，臨床醫(yī)生很容易接納手術(shù)室自動(dòng)排班軟件；而影響治療決策的軟件——如推薦具體的腫瘤治療方案或卒中溶栓治療方案——?jiǎng)t需要提供大量信息和解釋才能獲得臨床醫(yī)生的認(rèn)同。

4. 開發(fā)和訓(xùn)練人工智能CDS軟件的數(shù)據(jù)來源是什么？

臨床醫(yī)生必須了解機(jī)器學(xué)習(xí)系統(tǒng)訓(xùn)練時(shí)所使用的數(shù)據(jù)類型，還要了解這些數(shù)據(jù)與自身所在醫(yī)療機(jī)構(gòu)的相似程度。當(dāng)前眾多人工智能CDS系統(tǒng)都使用影像數(shù)據(jù)，但機(jī)器并不是簡(jiǎn)單地只學(xué)習(xí)圖像。各種其他因素——例如，哪些類型的患者愿意接受影像學(xué)檢查、所用檢查設(shè)備、患者體位以及檢查時(shí)間——都可能產(chǎn)生依賴于某個(gè)醫(yī)療機(jī)構(gòu)的模式，該模式被學(xué)習(xí)算法檢測(cè)并且應(yīng)用于診療建議。因此，來自一家醫(yī)療機(jī)構(gòu)的訓(xùn)練數(shù)據(jù)可能會(huì)出現(xiàn)偏差，導(dǎo)致系統(tǒng)對(duì)來自其他醫(yī)療機(jī)構(gòu)數(shù)據(jù)做出不恰當(dāng)?shù)慕ㄗh。

5. 訓(xùn)練數(shù)據(jù)是如何標(biāo)注的？

在有“監(jiān)督”的機(jī)器學(xué)習(xí)系統(tǒng)中，學(xué)習(xí)算法暴露于大量輸入數(shù)據(jù)中。數(shù)據(jù)標(biāo)注方式對(duì)算法性能和對(duì)防止訓(xùn)練數(shù)據(jù)的非故意偏差也至關(guān)重要。

6. 人工智能CDS軟件是否足夠尊重患者隱私？

患者隱私可能受到侵害的主要方式有兩種：首先，患者的數(shù)據(jù)可能被用于系統(tǒng)訓(xùn)練和測(cè)試；其次，臨床醫(yī)生可能將患者的數(shù)據(jù)輸入軟件以獲得治療建議。

7. 人工智能CDS軟件是否受FDA監(jiān)管？如果是，它是否獲得監(jiān)管機(jī)構(gòu)的認(rèn)可或批準(zhǔn)？

8. 如果一套軟件系統(tǒng)不受FDA監(jiān)管，它是如何測(cè)試的，依據(jù)什么標(biāo)準(zhǔn)，由誰測(cè)試（軟件開發(fā)商之外）？

對(duì)于不受FDA或其他監(jiān)管機(jī)構(gòu)審查的軟件系統(tǒng)，必須了解人工智能CDS軟件測(cè)試方法、所依據(jù)標(biāo)準(zhǔn)以及軟件開發(fā)商之外的測(cè)試機(jī)構(gòu)。

9. 該人工智能CDS軟件是否經(jīng)過我們醫(yī)院或醫(yī)療系統(tǒng)數(shù)據(jù)的測(cè)試？

對(duì)于負(fù)責(zé)軟件購買的決策者，這是必須詢問的問題；但該醫(yī)療系統(tǒng)內(nèi)的臨床醫(yī)生同樣應(yīng)該咨詢這個(gè)問題。基于前文關(guān)于軟件性能的討論，一款軟件產(chǎn)品必須進(jìn)行測(cè)試，無論是購買前還是軟件部署期間，都要用軟件使用機(jī)構(gòu)的數(shù)據(jù)進(jìn)行測(cè)試。

在軟件即將被使用的場(chǎng)景下進(jìn)行測(cè)試（例如，輔助臨床決策）有望獲得最準(zhǔn)確的測(cè)試結(jié)果。臨床醫(yī)生和醫(yī)療機(jī)構(gòu)應(yīng)該使用他們自己患者的實(shí)時(shí)數(shù)據(jù)，并將其輸入到軟件中；其流程與實(shí)際工作相同。只有這樣，他們才能觀察到并理解軟件及其算法將如何影響他們的臨床工作，還可了解這些軟件有無臨床價(jià)值。

10. 軟件開發(fā)者在人工智能CDS軟件升級(jí)更新方面做了哪些承諾，以應(yīng)對(duì)潛在的性能下降？

智能手機(jī)和計(jì)算機(jī)用戶習(xí)慣了定期和頻繁的軟件更新，但醫(yī)療設(shè)備的維護(hù)并不是為典型的數(shù)周到數(shù)月的軟件產(chǎn)品更新周期而設(shè)計(jì)的。美國(guó)FDA正在探索管理這些產(chǎn)品的新方法，但與此同時(shí)，臨床醫(yī)生和醫(yī)療系統(tǒng)應(yīng)該詢問開發(fā)者軟件的更新方式和頻率——以及用于更新的新訓(xùn)練數(shù)據(jù)與原始訓(xùn)練數(shù)據(jù)的采集和標(biāo)注方式可能有哪些不同。醫(yī)療系統(tǒng)可能還應(yīng)該用其自己的患者群體的較新數(shù)據(jù)，定期對(duì)軟件性能進(jìn)行測(cè)試，以了解他們的數(shù)據(jù)是否正在發(fā)生導(dǎo)致軟件性能下降的變化。

參考文獻(xiàn)

1. Silcox C, Dentzer S, Bates DW. NEJM Catalyst Innovations in Care Delivery 2020;06. DOI:https:///10.1056/CAT.20.0212

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來自：醫(yī)學(xué)abeycd > 《我的圖書館》

舉報(bào)/認(rèn)領(lǐng)