基于真實(shí)世界數(shù)據(jù)的LLM驅(qū)動(dòng)臨床決策支持系統(tǒng)：精準(zhǔn)腫瘤學(xué)負(fù)責(zé)任AI框架構(gòu)建

《npj Precision Oncology》：Collaborative framework on responsible AI in LLM-driven CDSS for precision oncology leveraging real-world patient data

【字體： 大 中 小 】 時(shí)間：2025年12月05日 來(lái)源：npj Precision Oncology 8

　　

在精準(zhǔn)腫瘤學(xué)快速發(fā)展的今天， clinicians 每天需要處理海量的患者數(shù)據(jù)，包括電子健康記錄、病理報(bào)告和基因組信息等。然而，這些數(shù)據(jù)中高達(dá)80%是非結(jié)構(gòu)化的，使得從數(shù)據(jù)中提取有價(jià)值的臨床見(jiàn)解變得異常耗時(shí)耗力。更棘手的是，對(duì)于罕見(jiàn)癌癥患者，由于缺乏足夠的病例和標(biāo)準(zhǔn)化治療方案，醫(yī)生往往需要手動(dòng)查閱大量文獻(xiàn)來(lái)尋找治療線索，這個(gè)過(guò)程可能延誤最佳治療時(shí)機(jī)。

近年來(lái)，大語(yǔ)言模型（LLM）的出現(xiàn)為這一困境帶來(lái)了曙光。這些模型能夠理解和生成人類語(yǔ)言，在模擬診斷場(chǎng)景中展現(xiàn)出令人印象深刻的能力。但現(xiàn)實(shí)情況是，目前只有約5%的研究使用真實(shí)世界患者數(shù)據(jù)來(lái)訓(xùn)練和評(píng)估LLM，大多數(shù)研究仍依賴于合成數(shù)據(jù)集。這種“數(shù)據(jù)鴻溝”嚴(yán)重阻礙了LLM在臨床實(shí)踐中的實(shí)際應(yīng)用，也使得LLM在真實(shí)醫(yī)療環(huán)境中的潛力難以得到充分驗(yàn)證。

面對(duì)這一挑戰(zhàn)，由Sonja Mathes博士領(lǐng)導(dǎo)的多學(xué)科研究團(tuán)隊(duì)，在Cancer Core Europe（歐洲癌癥核心）聯(lián)盟的支持下，開(kāi)展了一項(xiàng)開(kāi)創(chuàng)性研究。他們認(rèn)識(shí)到，要將LLM安全有效地整合到精準(zhǔn)腫瘤學(xué)的臨床決策支持系統(tǒng)（CDSS）中，需要一個(gè)全面的指導(dǎo)框架。這項(xiàng)研究最終形成了一份實(shí)踐導(dǎo)向的指南，發(fā)表在《npj Precision Oncology》上，為負(fù)責(zé)任地在精準(zhǔn)腫瘤學(xué)中應(yīng)用LLM提供了清晰路線圖。

研究人員通過(guò)系統(tǒng)文獻(xiàn)回顧和多輪專家共識(shí)討論，構(gòu)建了一個(gè)包含五個(gè)核心維度的框架：醫(yī)療標(biāo)準(zhǔn)遵循、技術(shù)效益與風(fēng)險(xiǎn)平衡、法規(guī)框架合規(guī)、倫理考量尊重以及科學(xué)臨床效益提供。基于這五個(gè)維度，團(tuán)隊(duì)進(jìn)一步提煉出十大實(shí)踐原則，為臨床醫(yī)生和研究人員提供了具體可行的操作指南。

為了驗(yàn)證框架的實(shí)用性，研究團(tuán)隊(duì)設(shè)計(jì)了一個(gè)思想實(shí)驗(yàn)，以子宮癌肉瘤（UCS）這一罕見(jiàn)婦科腫瘤為例。UCS僅占子宮惡性腫瘤的不到5%，但具有高度侵襲性，標(biāo)準(zhǔn)治療方案有限，且經(jīng)常被排除在臨床試驗(yàn)之外。通過(guò)這個(gè)案例，研究人員展示了LLM如何幫助臨床醫(yī)生快速分析患者數(shù)據(jù)、檢索相關(guān)文獻(xiàn)證據(jù)，并生成個(gè)性化治療建議，同時(shí)確保整個(gè)過(guò)程符合倫理和法律要求。

研究方法上，團(tuán)隊(duì)首先通過(guò)探索性文獻(xiàn)回顧確定框架維度，隨后組織臨床腫瘤學(xué)、人工智能、數(shù)字健康、政策與倫理學(xué)等領(lǐng)域的十位專家進(jìn)行小組討論，精煉出五個(gè)核心維度。基于實(shí)踐經(jīng)驗(yàn)和文獻(xiàn)見(jiàn)解，團(tuán)隊(duì)進(jìn)一步制定了十大實(shí)踐原則，并通過(guò)專家調(diào)查驗(yàn)證了各維度與原則之間的關(guān)聯(lián)強(qiáng)度。整個(gè)開(kāi)發(fā)過(guò)程歷時(shí)近一年，包含多輪共識(shí)會(huì)議和外部驗(yàn)證環(huán)節(jié)。

五大負(fù)責(zé)任AI維度分析

研究提出的五個(gè)維度涵蓋了LLM在精準(zhǔn)腫瘤學(xué)中應(yīng)用的關(guān)鍵方面。維度一強(qiáng)調(diào)必須遵循醫(yī)療標(biāo)準(zhǔn)，指出LLM系統(tǒng)需要通過(guò)嚴(yán)格的評(píng)估和醫(yī)療設(shè)備認(rèn)證，確保符合醫(yī)療標(biāo)準(zhǔn)并保障患者安全。維度二關(guān)注技術(shù)效益與風(fēng)險(xiǎn)的平衡，特別指出需要權(quán)衡LLM快速分析非結(jié)構(gòu)化數(shù)據(jù)的能力與其可能產(chǎn)生“幻覺(jué)”（即事實(shí)錯(cuò)誤陳述）的風(fēng)險(xiǎn)。維度三要求符合法規(guī)框架，如歐盟的AI法案和醫(yī)療器械法規(guī)（MDR），這些法規(guī)根據(jù)應(yīng)用場(chǎng)景的風(fēng)險(xiǎn)等級(jí)對(duì)AI產(chǎn)品實(shí)施分級(jí)管控。維度四強(qiáng)調(diào)倫理考量，認(rèn)為需要將傳統(tǒng)生物醫(yī)學(xué)倫理原則與新興的AI特定倫理框架相結(jié)合。維度五著眼于提供科學(xué)和臨床效益，指出AI可以通過(guò)整合來(lái)自生物醫(yī)學(xué)研究和健康信息的見(jiàn)解來(lái)推動(dòng)精準(zhǔn)醫(yī)學(xué)發(fā)展。

十大實(shí)踐原則詳解

基于五個(gè)維度，研究團(tuán)隊(duì)制定了十大具體原則：數(shù)據(jù)溯源與質(zhì)量、偏見(jiàn)與公平、可解釋性、可審計(jì)性、患者同意-去標(biāo)識(shí)化與隱私、基礎(chǔ)設(shè)施魯棒性與網(wǎng)絡(luò)安全、持續(xù)評(píng)估與監(jiān)控、驗(yàn)證-治理與法規(guī)合規(guī)、人機(jī)協(xié)作以及教育與意識(shí)。每個(gè)原則都配有詳細(xì)的操作建議，如數(shù)據(jù)溯源原則要求明確記錄數(shù)據(jù)來(lái)源、數(shù)據(jù)組成、訓(xùn)練數(shù)據(jù)、數(shù)據(jù)質(zhì)量指標(biāo)以及偏見(jiàn)和變異性等信息。

子宮癌肉瘤用例驗(yàn)證

通過(guò)子宮癌肉瘤（UCS）的思想實(shí)驗(yàn)，研究團(tuán)隊(duì)展示了如何將十大原則應(yīng)用于臨床實(shí)踐。從患者入院、數(shù)據(jù)收集、知情同意獲取，到LLM輔助的文獻(xiàn)回顧、治療建議生成，再到共享決策制定（SDM）和治療計(jì)劃執(zhí)行，整個(gè)工作流程體現(xiàn)了框架的實(shí)際應(yīng)用價(jià)值。特別是在罕見(jiàn)腫瘤治療中，LLM能夠幫助醫(yī)生快速獲取最新證據(jù)，為缺乏標(biāo)準(zhǔn)治療指南的患者提供個(gè)性化方案。

研究結(jié)論部分強(qiáng)調(diào)，生成式AI在腫瘤學(xué)中具有改善患者、科學(xué)和醫(yī)療結(jié)果的潛力，但需要負(fù)責(zé)任地整合真實(shí)世界患者數(shù)據(jù)才能充分發(fā)揮這一潛力。隨著AI技術(shù)變得越來(lái)越易于使用，其在精準(zhǔn)腫瘤學(xué)中的負(fù)責(zé)任應(yīng)用需要對(duì)所有利益相關(guān)者進(jìn)行全面教育。研究人員提出的五個(gè)維度和十大原則為L(zhǎng)LM在精準(zhǔn)腫瘤學(xué)中的臨床應(yīng)用提供了系統(tǒng)指導(dǎo)，特別是在利用真實(shí)世界數(shù)據(jù)時(shí)確保符合倫理和法律要求。

該研究的重要意義在于，它首次為L(zhǎng)LM在精準(zhǔn)腫瘤學(xué)中的應(yīng)用提供了一個(gè)全面、多維度、實(shí)踐導(dǎo)向的框架。這不僅有助于臨床醫(yī)生和研究人員更安全、有效地利用AI技術(shù)，也為政策制定者和醫(yī)療機(jī)構(gòu)提供了監(jiān)管和評(píng)估依據(jù)。隨著AI在醫(yī)療領(lǐng)域的應(yīng)用日益廣泛，這一框架有望成為連接AI理論潛力與其實(shí)際醫(yī)療應(yīng)用的重要橋梁，最終使罕見(jiàn)腫瘤患者等醫(yī)療需求未得到充分滿足的群體受益。