本發(fā)明涉及人工智能和醫(yī)療模型領(lǐng)域，尤其涉及一種智能診斷醫(yī)療模型訓(xùn)練方法及模型訓(xùn)練裝置。

背景技術(shù)：

1、隨著經(jīng)濟(jì)與社會(huì)的發(fā)展，人們的平均壽命逐漸提升，帶來(lái)對(duì)于醫(yī)療健康資源的更大需求，而現(xiàn)有的醫(yī)療資源呈現(xiàn)出空間和層次分布不均勻的特點(diǎn)，不能很好地滿足廣大群眾在日常健康、常見(jiàn)疾病、慢性病、疑難雜癥等多個(gè)層次上的需求。隨著以chatgpt為代表的大語(yǔ)言模型的出現(xiàn)和迅速推廣，在醫(yī)療領(lǐng)域也開(kāi)始出現(xiàn)了一些專業(yè)模型，這些模型多數(shù)用于分診、健康信息咨詢和疾病初步診斷等場(chǎng)景，專業(yè)性方面通常還不能達(dá)到很高的水平。

2、醫(yī)療領(lǐng)域的智能技術(shù)研究從人工智能概念誕生之初就開(kāi)始了。以mycin為代表的模擬決策系統(tǒng)使用了專家系統(tǒng)路線，基于多條人工寫作規(guī)則進(jìn)行特定疾病診斷和治療方案選擇，該類系統(tǒng)在特定領(lǐng)域具有較高的精確度，但可擴(kuò)展性很差。隨著人工智能技術(shù)的發(fā)展，多個(gè)不同疾病門類和不同科室中也分別開(kāi)發(fā)了面向特定疾病或特定類別的輔助診斷系統(tǒng)，但基本都具有通用性較差的特點(diǎn)?；诖罅酷t(yī)學(xué)數(shù)據(jù)訓(xùn)練的大語(yǔ)言模型具有較為廣泛的知識(shí)覆蓋度，在一些日常健康問(wèn)題的咨詢上發(fā)揮了一定的作用，但專業(yè)度不足，對(duì)于一些癥狀類似的疾病容易產(chǎn)生誤判。

3、例如，現(xiàn)有技術(shù)中的技術(shù)方案包括：1、由專業(yè)醫(yī)師進(jìn)行病情咨詢，根據(jù)需要安排檢驗(yàn)和檢查，然后根據(jù)結(jié)果進(jìn)行診斷，開(kāi)具處方。2、根據(jù)病人的癥狀描述和初步疾病劃分，使用專家系統(tǒng)進(jìn)行診斷和治療方案制定。3、與通用醫(yī)療模型進(jìn)行對(duì)話，采集其癥狀并進(jìn)行診斷，給出治療意見(jiàn)。

4、針對(duì)以上技術(shù)方案，分別存在各自的不足或使用限制：

5、1、對(duì)于日常健康問(wèn)題，沒(méi)有去醫(yī)院咨詢專業(yè)醫(yī)師的必要；對(duì)于常見(jiàn)病癥，診斷周期較長(zhǎng)，成本較高；一些基層醫(yī)療機(jī)構(gòu)的醫(yī)師水平有限，容易出現(xiàn)誤診，延誤疾病治療導(dǎo)致更嚴(yán)重的后果。

6、2、大多數(shù)專家系統(tǒng)有嚴(yán)格的適用范圍，需要由醫(yī)生進(jìn)行初步的判斷是否適用某個(gè)特定領(lǐng)域，而且專家系統(tǒng)多數(shù)面向?qū)I(yè)醫(yī)師，使用門檻較高，很多還需要額外的檢驗(yàn)和檢查。

7、3、通用大語(yǔ)言模型基于其有限的訓(xùn)練數(shù)據(jù)和專業(yè)性限制，一般只能基于病人的描述給出大致的判斷，無(wú)法進(jìn)行精確診斷，并且對(duì)于一些具有相似癥狀的常見(jiàn)疾病，容易被病人的初始描述誤導(dǎo)，存在一定的誤診機(jī)率。

技術(shù)實(shí)現(xiàn)思路

1、有鑒于此，本發(fā)明要解決的問(wèn)題，就是融合基礎(chǔ)大語(yǔ)言模型的能力和醫(yī)學(xué)專家提供的專業(yè)知識(shí)，構(gòu)建具有較高專業(yè)水平的智能診斷醫(yī)療模型，輔助不同機(jī)構(gòu)的醫(yī)師進(jìn)行疾病診斷和診療。為此，本發(fā)明提供了一種智能診斷醫(yī)療模型訓(xùn)練方法，其包括：

2、步驟1：訓(xùn)練適用于各類不同疾病的通用醫(yī)療模型，其包括：

3、步驟1.1：獲取符合使用場(chǎng)景要求的基礎(chǔ)大語(yǔ)言模型；

4、步驟1.2：采集醫(yī)療領(lǐng)域的各類文本數(shù)據(jù)，其包括醫(yī)學(xué)教科書、醫(yī)學(xué)文獻(xiàn)、臨床試驗(yàn)數(shù)據(jù)、電子健康記錄、專業(yè)術(shù)語(yǔ)詞典、病例報(bào)告、公共健康數(shù)據(jù)集、在線醫(yī)療社區(qū)和論壇數(shù)據(jù)；

5、步驟1.3：使用步驟1.2中采集的數(shù)據(jù)對(duì)于基礎(chǔ)大語(yǔ)言模型進(jìn)行微調(diào)。

6、步驟2：構(gòu)建主要疾病圖譜，以測(cè)試步驟1中訓(xùn)練的通用醫(yī)療模型對(duì)于主要疾病的診斷精確度。

7、步驟3：訓(xùn)練用于特定疾病的疾病特有模型(專用模型)，其包括：

8、步驟3.1：確定用于訓(xùn)練的基礎(chǔ)模型，使用步驟1訓(xùn)練的通用醫(yī)療模型，或者在其基礎(chǔ)上采用知識(shí)蒸餾形成規(guī)模更小的專業(yè)模型；

9、步驟3.2：從步驟1中的通用數(shù)據(jù)中篩選得到只針對(duì)該疾病的數(shù)據(jù)；

10、步驟3.3：采集該疾病最新的臨床指南、醫(yī)學(xué)文獻(xiàn)、研究報(bào)告、疾病監(jiān)測(cè)報(bào)告、流行病學(xué)數(shù)據(jù)和防控策略數(shù)據(jù)；

11、步驟3.4：采集更多該疾病的診斷數(shù)據(jù)，包括臨床病歷記錄、標(biāo)準(zhǔn)病例與模型對(duì)話的負(fù)面案例，經(jīng)領(lǐng)域醫(yī)學(xué)專家進(jìn)行審核修改；

12、步驟3.5：使用以上數(shù)據(jù)對(duì)基礎(chǔ)模型進(jìn)行進(jìn)一步訓(xùn)練，提高模型對(duì)于該疾病的診斷準(zhǔn)確性；

13、步驟3.6：對(duì)新的模型進(jìn)行指標(biāo)評(píng)測(cè)，判斷是否符合需求，如果不符合，則回到步驟3.3，直到達(dá)到合格標(biāo)準(zhǔn)，或經(jīng)過(guò)多輪調(diào)優(yōu)后指標(biāo)無(wú)法再上升為止。

14、步驟4：訓(xùn)練疾病判別模型，具體包括：

15、步驟4.1：選擇適當(dāng)?shù)姆诸惼髂Ｐ?，其包括傳統(tǒng)機(jī)器學(xué)習(xí)領(lǐng)域的決策樹(shù)、樸素貝葉斯、貝葉斯網(wǎng)絡(luò)，以及深度學(xué)習(xí)領(lǐng)域的卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)和transformer模型；

16、步驟4.2：準(zhǔn)備訓(xùn)練數(shù)據(jù)，提取之前病例數(shù)據(jù)中的主要癥狀和診斷結(jié)果，將其輸入整理成為離散化特征標(biāo)簽或文本描述，輸出為正確的診斷標(biāo)簽；

17、步驟4.3：訓(xùn)練分類器，要求輸出為在所有疾病標(biāo)簽上的概率分布，即所有疾病的可能性之和為1。

18、步驟5：模型訓(xùn)練完成后，對(duì)于新進(jìn)病例進(jìn)行診斷，具體步驟如下：

19、步驟5.1：使用對(duì)話模型與病人進(jìn)行交流，采集其主要癥狀；

20、步驟5.2：將病人的自述輸入步驟4中訓(xùn)練的疾病判別模型，輸出該病例在所有疾病中的概率分布；

21、步驟5.3：如果概率分布中的最大值高于預(yù)定的閾值，選擇該病癥對(duì)應(yīng)的疾病特有模型對(duì)其進(jìn)行診斷；如果該病癥沒(méi)有對(duì)應(yīng)的疾病特有模型，則由通用醫(yī)療模型對(duì)其進(jìn)行診斷；

22、步驟5.4：如果概率分布中的最大值不超過(guò)預(yù)定閾值，則選擇概率最高的至少前n種并且累計(jì)概率高于閾值的疾病，兩個(gè)條件必須同時(shí)滿足，將它們組成一個(gè)混合專家模型，同時(shí)預(yù)測(cè)下一個(gè)token的生成概率，并將多個(gè)模型的輸出根據(jù)疾病概率分布進(jìn)行加權(quán)求和，共同完成診斷。

23、步驟6：全模型評(píng)測(cè)和調(diào)優(yōu)，其包括：

24、步驟6.1：由領(lǐng)域醫(yī)學(xué)專家對(duì)于模型的診斷進(jìn)行復(fù)核，運(yùn)行初期每一個(gè)診斷都需要復(fù)核，后續(xù)按照設(shè)定比例進(jìn)行抽檢；

25、步驟6.2：對(duì)于診斷中專家判定有誤的結(jié)果，劃分其錯(cuò)誤性質(zhì)，分別歸入相應(yīng)的案例庫(kù)，在達(dá)到一定規(guī)模后進(jìn)行相應(yīng)步驟的重新訓(xùn)練；

26、步驟6.3：對(duì)于疾病判別錯(cuò)誤，將案例數(shù)據(jù)糾正后加入步驟4的疾病判別模型進(jìn)行訓(xùn)練；

27、步驟6.4：對(duì)于疾病判別基本準(zhǔn)確，但診斷用藥不準(zhǔn)確的情況，由專家重新寫作診斷報(bào)告，輸入步驟3的該疾病特有模型或步驟1的通用醫(yī)療模型進(jìn)行重新訓(xùn)練。

28、優(yōu)選地，步驟2具體包括：

29、步驟2.1：查閱最新版本的衛(wèi)生服務(wù)統(tǒng)計(jì)調(diào)查報(bào)告，確定常見(jiàn)疾病譜；

30、步驟2.2：根據(jù)每種常見(jiàn)疾病的典型癥狀構(gòu)造標(biāo)準(zhǔn)病例，與醫(yī)療模型進(jìn)行對(duì)話產(chǎn)生診斷記錄；

31、步驟2.3：基于預(yù)先定義的多個(gè)評(píng)測(cè)指標(biāo)，對(duì)于醫(yī)療模型的診斷質(zhì)量進(jìn)行評(píng)測(cè)；

32、步驟2.4：對(duì)于每種疾病進(jìn)行多次評(píng)測(cè)，取平均指標(biāo)作為評(píng)測(cè)結(jié)果；

33、步驟2.5：基于預(yù)先設(shè)定的合格指標(biāo)，判斷當(dāng)前模型是否能夠滿足當(dāng)前疾病的診斷需求，如果不滿足，進(jìn)入步驟3，否則進(jìn)入步驟4。

34、此外，本發(fā)明還提供了一種模型訓(xùn)練裝置，所述裝置包括：

35、第一訓(xùn)練單元，用于訓(xùn)練適用于各類不同疾病的通用醫(yī)療模型，其包括：獲取符合使用場(chǎng)景要求的基礎(chǔ)大語(yǔ)言模型；采集醫(yī)療領(lǐng)域的各類文本數(shù)據(jù)，其包括醫(yī)學(xué)教科書、醫(yī)學(xué)文獻(xiàn)、臨床試驗(yàn)數(shù)據(jù)、電子健康記錄、專業(yè)術(shù)語(yǔ)詞典、病例報(bào)告、公共健康數(shù)據(jù)集、在線醫(yī)療社區(qū)和論壇數(shù)據(jù)；使用采集的數(shù)據(jù)對(duì)于基礎(chǔ)大語(yǔ)言模型進(jìn)行微調(diào)；

36、模型評(píng)測(cè)單元，用于構(gòu)建主要疾病圖譜，以測(cè)試第一訓(xùn)練單元中訓(xùn)練的通用醫(yī)療模型對(duì)于主要疾病的診斷精確度；

37、第二訓(xùn)練單元，用于訓(xùn)練針對(duì)特定疾病的疾病特有模型，其包括：確定用于訓(xùn)練的基礎(chǔ)模型；從第一訓(xùn)練單元中的通用數(shù)據(jù)中篩選得到只針對(duì)該疾病的數(shù)據(jù)；采集該疾病最新的臨床指南、醫(yī)學(xué)文獻(xiàn)、研究報(bào)告、疾病監(jiān)測(cè)報(bào)告、流行病學(xué)數(shù)據(jù)和防控策略數(shù)據(jù)；采集更多該疾病的診斷數(shù)據(jù)，包括臨床病歷記錄、標(biāo)準(zhǔn)病例與模型對(duì)話的負(fù)面案例，經(jīng)領(lǐng)域醫(yī)學(xué)專家進(jìn)行審核修改；使用以上數(shù)據(jù)對(duì)基礎(chǔ)模型進(jìn)行進(jìn)一步訓(xùn)練，提高模型對(duì)于該疾病的診斷準(zhǔn)確性；對(duì)新的模型進(jìn)行指標(biāo)評(píng)測(cè)，判斷是否符合需求；

38、第三訓(xùn)練單元，用于訓(xùn)練疾病判別模型，其包括：選擇適當(dāng)?shù)姆诸惼髂Ｐ停粶?zhǔn)備訓(xùn)練數(shù)據(jù)，提取之前病例數(shù)據(jù)中的主要癥狀和診斷結(jié)果，將其輸入整理成為離散化特征標(biāo)簽或文本描述，輸出為正確的診斷標(biāo)簽；訓(xùn)練分類器，要求輸出為在所有疾病標(biāo)簽上的概率分布，即所有疾病的可能性之和為1；

39、病例診斷模塊，用于在模型訓(xùn)練完成后，對(duì)于新進(jìn)病例進(jìn)行診斷，其包括：使用對(duì)話模型與病人進(jìn)行交流，采集其主要癥狀；將病人的自述輸入第三訓(xùn)練單元中訓(xùn)練的疾病判別模型，輸出該病例在所有疾病中的概率分布；如果概率分布中的最大值高于預(yù)定的閾值，選擇該病癥對(duì)應(yīng)的疾病特有模型對(duì)其進(jìn)行診斷；如果該病癥沒(méi)有對(duì)應(yīng)的疾病特有模型，則由通用醫(yī)療模型對(duì)其進(jìn)行診斷；如果概率分布中的最大值不超過(guò)預(yù)定閾值，則選擇概率最高的至少前n種并且累計(jì)概率高于閾值的疾病，兩個(gè)條件必須同時(shí)滿足，將它們組成一個(gè)混合專家模型，同時(shí)預(yù)測(cè)下一個(gè)token的生成概率，并將多個(gè)模型的輸出根據(jù)疾病概率分布進(jìn)行加權(quán)求和，共同完成診斷。

40、優(yōu)選地，所述裝置還包括全模型調(diào)優(yōu)模塊，用于全模型評(píng)測(cè)和調(diào)優(yōu)，其包括：

41、由領(lǐng)域醫(yī)學(xué)專家對(duì)于模型的診斷進(jìn)行復(fù)核，運(yùn)行初期每一個(gè)診斷都需要復(fù)核，后續(xù)按照設(shè)定比例進(jìn)行抽檢；

42、對(duì)于診斷中專家判定有誤的結(jié)果，劃分其錯(cuò)誤性質(zhì)，分別歸入相應(yīng)的案例庫(kù)，在達(dá)到一定規(guī)模后進(jìn)行相應(yīng)步驟的重新訓(xùn)練；

43、對(duì)于疾病判別錯(cuò)誤，將案例數(shù)據(jù)糾正后加入疾病判別模型進(jìn)行訓(xùn)練；

44、對(duì)于疾病判別基本準(zhǔn)確，但診斷用藥不準(zhǔn)確的情況，由專家重新寫作診斷報(bào)告，輸入疾病特有模型或通用醫(yī)療模型進(jìn)行重新訓(xùn)練。

45、與現(xiàn)有技術(shù)相比，本發(fā)明具有以下有益效果：

46、本發(fā)明提供了一種多粒度醫(yī)療模型融合的方案，對(duì)于不同疾病根據(jù)其診斷難易度，分別使用通用醫(yī)療模型和單疾病的疾病特有模型進(jìn)行診斷，同時(shí)提供了完整的評(píng)測(cè)方案和對(duì)于疾病進(jìn)行分類識(shí)別的技術(shù)路線。本方案相對(duì)現(xiàn)有技術(shù)來(lái)說(shuō)，能夠更好地平衡不同種類疾病的診斷需求，用多個(gè)不同粒度和規(guī)模的語(yǔ)言模型共同實(shí)現(xiàn)智能診斷功能，提升了診斷的專業(yè)性、準(zhǔn)確率，并且具有較高的運(yùn)行效率。