本公開涉及測(cè)試領(lǐng)域，尤其涉及一種人工智能芯片性能測(cè)試方法、裝置、電子設(shè)備及介質(zhì)。

背景技術(shù)：

1、人工智能芯片是專門設(shè)計(jì)用于處理人工智能任務(wù)的新一代微處理器，具有高性能、高能效等優(yōu)勢(shì)，廣泛應(yīng)用于自動(dòng)駕駛、智能家電、機(jī)器人等領(lǐng)域。隨著無人化、智能化的發(fā)展，人工智能芯片開始逐步應(yīng)用于航空、航天及軍工領(lǐng)域。

2、目前的測(cè)試方法為設(shè)計(jì)師根據(jù)需求進(jìn)行程序設(shè)計(jì)及測(cè)試，當(dāng)可選芯片廠家、規(guī)格較多時(shí)，會(huì)導(dǎo)致開發(fā)難度大、工作量大、周期長(zhǎng)、成本高等問題。

技術(shù)實(shí)現(xiàn)思路

1、有鑒于此，本公開的目的在于提出一種人工智能芯片性能測(cè)試方法、裝置、電子設(shè)備及介質(zhì)，用以解決或部分解決上述問題。

2、基于上述目的，本公開的第一方面提供了一種人工智能芯片性能測(cè)試方法，所述方法包括：

3、獲取待測(cè)人工智能芯片及目標(biāo)工作負(fù)載，其中所述目標(biāo)工作負(fù)載包括測(cè)試模型、測(cè)試數(shù)據(jù)集、模型權(quán)重?cái)?shù)值精度、機(jī)器學(xué)習(xí)框架及批次大??；

4、對(duì)所述測(cè)試數(shù)據(jù)集進(jìn)行預(yù)處理，得到目標(biāo)數(shù)據(jù)集；

5、確定人工智能芯片性能測(cè)試的編程語言，利用所述編程語言對(duì)所述測(cè)試模型進(jìn)行模型適配處理，得到目標(biāo)測(cè)試模型；

6、利用搭載所述待測(cè)人工智能芯片的所述目標(biāo)測(cè)試模型，對(duì)所述目標(biāo)數(shù)據(jù)集進(jìn)行處理，得到模型推理結(jié)果；

7、根據(jù)所述模型推理結(jié)果及所述目標(biāo)數(shù)據(jù)集，確定所述目標(biāo)測(cè)試模型對(duì)應(yīng)的模型推理準(zhǔn)確度值；

8、確定所述目標(biāo)測(cè)試模型得到所述模型推理結(jié)果對(duì)應(yīng)的功耗信息，將所述模型推理結(jié)果、所述模型推理準(zhǔn)確度值及所述功耗信息作為測(cè)試結(jié)果，輸出所述測(cè)試結(jié)果。

9、基于同一發(fā)明構(gòu)思，本公開的第二方面提出了一種人工智能芯片性能測(cè)試裝置，包括：

10、數(shù)據(jù)獲取模塊，被配置為獲取待測(cè)人工智能芯片及目標(biāo)工作負(fù)載，其中所述目標(biāo)工作負(fù)載包括測(cè)試模型、測(cè)試數(shù)據(jù)集、模型權(quán)重?cái)?shù)值精度、機(jī)器學(xué)習(xí)框架及批次大??；

11、數(shù)據(jù)預(yù)處理模塊，被配置為對(duì)所述測(cè)試數(shù)據(jù)集進(jìn)行預(yù)處理，得到目標(biāo)數(shù)據(jù)集；

12、模型適配模塊，被配置為確定人工智能芯片性能測(cè)試的編程語言，利用所述編程語言對(duì)所述測(cè)試模型進(jìn)行模型適配處理，得到目標(biāo)測(cè)試模型；

13、推理模塊，被配置為利用搭載所述待測(cè)人工智能芯片的所述目標(biāo)測(cè)試模型，對(duì)所述目標(biāo)數(shù)據(jù)集進(jìn)行推理，得到模型推理結(jié)果；

14、模型推理準(zhǔn)確度確定模塊，被配置為根據(jù)所述模型推理結(jié)果及所述目標(biāo)數(shù)據(jù)集，確定所述目標(biāo)測(cè)試模型對(duì)應(yīng)的模型推理準(zhǔn)確度值；

15、輸出模塊，被配置為確定所述目標(biāo)測(cè)試模型得到所述模型推理結(jié)果對(duì)應(yīng)的功耗信息，將所述模型推理結(jié)果、所述模型推理準(zhǔn)確度值及所述功耗信息作為測(cè)試結(jié)果，輸出所述測(cè)試結(jié)果。

16、基于同一發(fā)明構(gòu)思，本公開的第三方面提出了一種電子設(shè)備，包括存儲(chǔ)器、處理器及存儲(chǔ)在所述存儲(chǔ)器上并可由所述處理器執(zhí)行的計(jì)算機(jī)程序，所述處理器在執(zhí)行所述計(jì)算機(jī)程序時(shí)實(shí)現(xiàn)如上所述的芯片性能測(cè)試方法。

17、基于同一發(fā)明構(gòu)思，本公開的第四方面提出了一種非暫態(tài)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述非暫態(tài)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)存儲(chǔ)計(jì)算機(jī)指令，所述計(jì)算機(jī)指令用于使計(jì)算機(jī)執(zhí)行如上所述的芯片性能測(cè)試方法。

18、從上述可以看出，本公開提出一種人工智能芯片性能測(cè)試方法、裝置、電子設(shè)備及介質(zhì)，獲取待測(cè)人工智能芯片及目標(biāo)工作負(fù)載，其中所述目標(biāo)工作負(fù)載包括測(cè)試模型、測(cè)試數(shù)據(jù)集、模型權(quán)重?cái)?shù)值精度、機(jī)器學(xué)習(xí)框架及批次大小，所述測(cè)試模型為搭載待測(cè)人工智能芯片的所述目標(biāo)工作負(fù)載的模型。對(duì)所述測(cè)試數(shù)據(jù)集進(jìn)行預(yù)處理，得到目標(biāo)數(shù)據(jù)集。確定人工智能芯片性能測(cè)試的編程語言，利用所述編程語言對(duì)所述測(cè)試模型進(jìn)行模型適配處理，得到目標(biāo)測(cè)試模型。利用搭載所述待測(cè)人工智能芯片的所述目標(biāo)測(cè)試模型，對(duì)所述目標(biāo)數(shù)據(jù)集進(jìn)行推理，得到模型推理結(jié)果。通過運(yùn)行搭載待測(cè)人工智能芯片的模型，以實(shí)現(xiàn)對(duì)于待測(cè)人工智能芯片的性能的測(cè)試。根據(jù)所述模型推理結(jié)果及所述目標(biāo)數(shù)據(jù)集，確定所述目標(biāo)測(cè)試模型對(duì)應(yīng)的模型推理準(zhǔn)確度值。確定所述目標(biāo)測(cè)試模型得到所述模型推理結(jié)果對(duì)應(yīng)的功耗信息，將所述模型推理結(jié)果、所述模型推理準(zhǔn)確度值及所述功耗信息作為測(cè)試結(jié)果，輸出所述測(cè)試結(jié)果。通過構(gòu)建不同工作負(fù)載的測(cè)試軟件框架，實(shí)現(xiàn)對(duì)于不同芯片采用相同的框架進(jìn)行測(cè)試，降低了開發(fā)難度，提高了芯片測(cè)試的測(cè)試效率，同時(shí)，采用相同的框架進(jìn)行測(cè)試，還可使得不同待測(cè)人工智能芯片的測(cè)試結(jié)果更具有公平性和可對(duì)比性。

技術(shù)特征：

1.一種人工智能芯片性能測(cè)試方法，其特征在于，包括：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述對(duì)測(cè)試數(shù)據(jù)集進(jìn)行預(yù)處理，得到目標(biāo)數(shù)據(jù)集，包括：

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述利用所述編程語言對(duì)所述測(cè)試模型進(jìn)行模型適配處理，得到目標(biāo)測(cè)試模型，包括：

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述模型推理結(jié)果及所述目標(biāo)數(shù)據(jù)集，確定所述目標(biāo)測(cè)試模型對(duì)應(yīng)的模型推理準(zhǔn)確度值，包括：

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述利用搭載所述待測(cè)人工智能芯片的所述目標(biāo)測(cè)試模型，對(duì)所述目標(biāo)數(shù)據(jù)集進(jìn)行推理，得到模型推理結(jié)果，包括：

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述確定所述目標(biāo)測(cè)試模型得到所述模型推理結(jié)果對(duì)應(yīng)的功耗信息，包括：

7.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述測(cè)試模型為經(jīng)典神經(jīng)網(wǎng)絡(luò)模型或自定義的神經(jīng)網(wǎng)絡(luò)模型；

8.一種人工智能芯片性能測(cè)試基準(zhǔn)框架，其特征在于，包括：

9.一種電子設(shè)備，其特征在于，包括存儲(chǔ)器、處理器及存儲(chǔ)在存儲(chǔ)器上并可在處理器上運(yùn)行的計(jì)算機(jī)程序，所述處理器執(zhí)行所述程序時(shí)實(shí)現(xiàn)如權(quán)利要求1至8任意一項(xiàng)所述的方法。

10.一種非暫態(tài)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其特征在于，所述非暫態(tài)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)存儲(chǔ)計(jì)算機(jī)指令，所述計(jì)算機(jī)指令用于使計(jì)算機(jī)執(zhí)行權(quán)利要求1至8任意一項(xiàng)所述的方法。

技術(shù)總結(jié)
本公開提供了一種人工智能芯片性能測(cè)試方法、裝置、電子設(shè)備及介質(zhì)，包括：獲取待測(cè)人工智能芯片及目標(biāo)工作負(fù)載，其中目標(biāo)工作負(fù)載包括測(cè)試模型、測(cè)試數(shù)據(jù)集、模型權(quán)重?cái)?shù)值精度、機(jī)器學(xué)習(xí)框架及批次大??；對(duì)測(cè)試數(shù)據(jù)集進(jìn)行預(yù)處理，得到目標(biāo)數(shù)據(jù)集；確定人工智能芯片性能測(cè)試的編程語言，利用編程語言對(duì)測(cè)試模型進(jìn)行模型適配處理，得到目標(biāo)測(cè)試模型；利用搭載待測(cè)人工智能芯片的目標(biāo)測(cè)試模型，對(duì)目標(biāo)數(shù)據(jù)集進(jìn)行推理，得到模型推理結(jié)果；根據(jù)模型推理結(jié)果及目標(biāo)數(shù)據(jù)集，確定目標(biāo)測(cè)試模型對(duì)應(yīng)的模型推理準(zhǔn)確度值；確定目標(biāo)測(cè)試模型得到模型推理結(jié)果對(duì)應(yīng)的功耗信息，將模型推理結(jié)果、模型推理準(zhǔn)確度值及功耗信息作為測(cè)試結(jié)果，輸出測(cè)試結(jié)果。

技術(shù)研發(fā)人員：孫海晶,宇曉彤,張祎,閆辰飛
受保護(hù)的技術(shù)使用者：航天科工防御技術(shù)研究試驗(yàn)中心
技術(shù)研發(fā)日：
技術(shù)公布日：2025/5/8