據(jù)中國經(jīng)濟(jì)網(wǎng)　錨定技術(shù),、數(shù)據(jù),、倫理三輪驅(qū)動,，近年來猶如雨后春筍般涌現(xiàn)的醫(yī)療大模型,，表明醫(yī)療領(lǐng)域正成為人工智能最具應(yīng)用潛力的商業(yè)藍(lán)海之一,。受訪業(yè)內(nèi)人士表示,，由于模型生成內(nèi)容的準(zhǔn)確性直接關(guān)系患者生命安全,，推動醫(yī)療大模型落地應(yīng)用,，仍需增強(qiáng)決策透明度和可解釋性，打破數(shù)據(jù)整合與質(zhì)量瓶頸,，以確保診斷建議的可靠性,。同時，在隱私保護(hù)與倫理規(guī)范等方面也需要做更多工作,。

　　從“可用”邁向“可靠”

　　逐步解決“幻覺”難題

　　“醫(yī)療大模型應(yīng)用空間廣泛,，其落地方向包括：做醫(yī)生的成長工具，通過醫(yī)療大模型的使用降低醫(yī)生的培訓(xùn)成本,；做患者的管理工具,，借助醫(yī)療大模型打造直接面向消費(fèi)者的AI健康智能體；釋放醫(yī)生時間和精力,，讓醫(yī)生更多參與到審核環(huán)節(jié),，而非全流程操作?！本〇|健康探索研究院首席科學(xué)家王國鑫說,。

　　醫(yī)療大模型的“可用”與“幻覺”問題的逐步解決密切相關(guān)。在技術(shù)層面,，傳統(tǒng)AI大模型由于數(shù)據(jù)噪聲和知識盲區(qū)容易產(chǎn)生“幻覺”,，一旦模型在生成內(nèi)容時出現(xiàn)偏差，醫(yī)療場景中的錯誤推斷將導(dǎo)致嚴(yán)重后果,。

　　對此,，技術(shù)人員正在通過多種方式消除大模型“幻覺”：一是設(shè)立“安全圍欄”，限制模型處理超出能力范圍的問題；二是廣泛使用外部工具,，以實(shí)時內(nèi)容為核心,，補(bǔ)充人工智能對當(dāng)前情境的理解；三是從模型底層能力入手,，例如在推理過程中不斷自我驗(yàn)證,，從不同的角度交叉驗(yàn)證自己的結(jié)論。

　　“前兩種方式是抑制幻覺,，后一種是實(shí)現(xiàn)推理過程白盒化,，即便有錯誤也可以被人識別?！蓖鯂蜗蛴浾呓榻B,，目前，這三種方式相互配合,，可在一定程度上抑制“幻覺”問題,。

　　以國家兒童醫(yī)學(xué)中心、復(fù)旦大學(xué)附屬兒科醫(yī)院推出的全新升級版DS-小布醫(yī)生2.0系統(tǒng)為例,，復(fù)旦大學(xué)附屬兒科醫(yī)院副院長張曉波介紹,，在抑制大模型“幻覺”方面，依托自建的“兒科增強(qiáng)檢索知識庫”,，能夠精準(zhǔn)匹配權(quán)威醫(yī)學(xué)知識,，提升診療推理能力。

　　如何進(jìn)一步提高醫(yī)療大模型在復(fù)雜臨床環(huán)境中的安全性和可信度,？北京大學(xué)信息科學(xué)技術(shù)學(xué)院研究員楊仝建議,，可從模型內(nèi)外組合防御。

　　“通過對抗訓(xùn)練提高模型魯棒性,、利用數(shù)據(jù)預(yù)處理削弱對抗攻擊效果,、引入公平性約束減少算法偏差等方式，提升模型自身安全性,。同時,，在模型與用戶間部署獨(dú)立的安全互聯(lián)系統(tǒng)，實(shí)時檢測并攔截異常輸入數(shù)據(jù),，過濾敏感或惡意請求，并對模型輸出進(jìn)行審核和糾錯,?！睏钯谡f。

　　DeepSeek助力

　　高質(zhì)量數(shù)據(jù)成關(guān)鍵支撐

　　降低技術(shù)門檻,、優(yōu)化模型部署效率……作為國產(chǎn)開源大模型,，DeepSeek為醫(yī)療大模型落地提供了重要突破口：醫(yī)院可采用“大模型基座+小樣本微調(diào)+專業(yè)知識融合”的方式，直接基于DeepSeek進(jìn)行微調(diào)。

　　“這并非傳統(tǒng)意義上從零訓(xùn)練,，而是僅需較小數(shù)據(jù)和計(jì)算資源就能快速開發(fā)適用于自身場景的AI應(yīng)用,。”張曉波介紹,。但她也認(rèn)識到,，想要訓(xùn)練出高質(zhì)量醫(yī)療大模型，仍需綜合運(yùn)用大規(guī)模高質(zhì)量數(shù)據(jù)資源,。

　　為提高對復(fù)雜病例的精準(zhǔn)識別和推理能力,，DS-小布醫(yī)生2.0系統(tǒng)依托醫(yī)院大數(shù)據(jù)管控平臺，整合電子病歷,、實(shí)驗(yàn)室檢查,、醫(yī)學(xué)影像、基因組學(xué)數(shù)據(jù),、可穿戴設(shè)備監(jiān)測等多模態(tài)數(shù)據(jù),，實(shí)現(xiàn)標(biāo)準(zhǔn)化存儲、統(tǒng)一管理與高效調(diào)用,。通過數(shù)據(jù)治理技術(shù),，如數(shù)據(jù)清洗、語義解析和智能標(biāo)注等,，確保數(shù)據(jù)的準(zhǔn)確性,、時效性和一致性，并結(jié)合專家審校,，精準(zhǔn)提取臨床關(guān)鍵信息,。

　　作為同樣致力于將AI技術(shù)應(yīng)用于三甲醫(yī)院的科技企業(yè)，麒麟合盛網(wǎng)絡(luò)技術(shù)股份有限公司董事長兼首席執(zhí)行官李濤表示,，DeepSeek是通用模型,，要使其具備醫(yī)療能力，必須利用大量專業(yè)知識進(jìn)行增量訓(xùn)練,，特別是結(jié)合醫(yī)院自身病例,、知識庫，如特定醫(yī)院的罕見病病例數(shù)據(jù),、特定地區(qū)的特殊病例數(shù)據(jù)等,，進(jìn)一步優(yōu)化與微調(diào)模型，使其能夠更好地適應(yīng)特定場景需求,。

　　受訪業(yè)內(nèi)人士表示,，醫(yī)療大模型最需要的真實(shí)醫(yī)療數(shù)據(jù)是臨床專家的應(yīng)用數(shù)據(jù)以及臨床醫(yī)生的培訓(xùn)數(shù)據(jù)，這部分?jǐn)?shù)據(jù)往往是以多模態(tài)的形式存放在不同的醫(yī)療機(jī)構(gòu),。

　　“先進(jìn)的數(shù)據(jù)蒸餾技術(shù)能大幅提升模型表現(xiàn),。”楊仝建議，統(tǒng)一數(shù)據(jù)格式,，提高數(shù)據(jù)互操作性,，并請醫(yī)學(xué)專家深度參與數(shù)據(jù)蒸餾過程。

　　“專家團(tuán)隊(duì)要準(zhǔn)確記錄患者的癥狀,、體征,、診斷過程、治療方案以及治療效果等信息,，并對其中的關(guān)鍵信息進(jìn)行標(biāo)注和解讀,，通過人機(jī)協(xié)同優(yōu)化模型診斷能力?！崩顫硎?，可通過開展醫(yī)學(xué)研究項(xiàng)目，邀請專家共同參與,，收集更多有價值的醫(yī)療數(shù)據(jù),。

　　完善治理體系

　　筑牢安全與倫理防線

　　在將大模型應(yīng)用于醫(yī)療的過程中，倫理風(fēng)險始終受到業(yè)界重點(diǎn)關(guān)注,。中國工程院院士,、清華大學(xué)臨床醫(yī)學(xué)院（北京清華長庚醫(yī)院）院長董家鴻分析，大模型本質(zhì)上是一種統(tǒng)計(jì)模型,，難免會產(chǎn)生事實(shí)錯誤,、邏輯錯誤等，模型的“黑箱”特性使醫(yī)療決策邏輯難以被理解,，增加了倫理審查的難度,。

　　受訪業(yè)內(nèi)人士表示，醫(yī)療大模型倫理風(fēng)險治理的復(fù)雜性源于其需要同時考慮醫(yī)學(xué)倫理與科技倫理兩個維度,，所處視角不同,，且均涉及復(fù)雜而廣泛的問題，并存在彼此交叉,，亟待“多維”規(guī)范,。

　　第一，在醫(yī)療等需要透明度的領(lǐng)域,，大模型需提高解釋性,，幫助用戶理解決策過程和建立信任，并通過使用多樣化的數(shù)據(jù)集和開發(fā)新算法,，確保模型在不同人群中的公平表現(xiàn),，消除潛在的偏見與歧視。

　　楊仝表示,，最新的大模型具備強(qiáng)大的思維鏈能力，可將診斷推理過程逐步細(xì)化并清晰呈現(xiàn)。借助這一能力,，可要求模型輸出詳細(xì)且結(jié)構(gòu)化的推理步驟,，解釋每個診斷或建議背后的邏輯依據(jù)。同時,，基于細(xì)化后的思維鏈,，模型可與醫(yī)生、患者展開多輪互動式溝通,，進(jìn)一步解釋診斷邏輯與決策理由,。

　　第二，應(yīng)構(gòu)建貫穿技術(shù)全生命周期的倫理治理閉環(huán),，以“科技向善”為原則打造智慧醫(yī)療新范式,。

　　“在搭建DS-小布醫(yī)生2.0系統(tǒng)中，我們將倫理治理深度嵌入技術(shù)創(chuàng)新鏈條的實(shí)踐范式,，構(gòu)建了醫(yī)療AI臨床應(yīng)用的知信行量表,，通過對332名醫(yī)務(wù)工作者的抽樣調(diào)研，系統(tǒng)梳理倫理治理議題,。在實(shí)際運(yùn)行中構(gòu)建接受度和滿意度的雙向反饋通道,，使系統(tǒng)迭代與患者信任間形成正向循環(huán)?！睆垥圆ㄕf,。

　　第三，醫(yī)療數(shù)據(jù)大多涉及患者隱私,，大模型未來的發(fā)展趨勢必將強(qiáng)化數(shù)據(jù)隱私保護(hù)措施,。

　　“應(yīng)提升醫(yī)療人員對數(shù)據(jù)合規(guī)性和隱私保護(hù)的意識，確保在AI應(yīng)用過程中遵循倫理標(biāo)準(zhǔn),?！倍银櫧ㄗh，利用數(shù)據(jù)加密,、匿名處理和差分隱私技術(shù),，防止未授權(quán)訪問和數(shù)據(jù)泄露，并采用區(qū)塊鏈,、隱私計(jì)算等新興技術(shù),，增強(qiáng)數(shù)據(jù)治理的透明性和可追溯性。