本發(fā)明涉及人工智能，尤其涉及一種智能體控制方法及裝置。

背景技術(shù)：

1、在智能體平臺中，智能體相較于普通用戶通常具有更高的權(quán)限。攻擊方可以通過構(gòu)造提示詞來命令智能體執(zhí)行本來他們無法直接訪問的操作，從而獲取隱私數(shù)據(jù)，這種攻擊手段稱為智能體代理攻擊。為了對抗智能體代理攻擊，通常會在每個智能體平臺部署一套獨(dú)立的安全管控方案，但在多智能體平臺場景下，這種方式難以做到統(tǒng)一管控，且對于安全管控方案的升級和維護(hù)耗時耗力。

技術(shù)實(shí)現(xiàn)思路

1、本說明書的一個或多個實(shí)施例提供了一種智能體控制方法及裝置，以至少部分地解決上述技術(shù)問題。

2、第一方面，提供了一種智能體控制方法，適用于至少一個智能體平臺，所述方法包括：

3、對于所述智能體平臺中的目標(biāo)智能體，確定針對所述目標(biāo)智能體的訪問控制點(diǎn)；

4、通過安全網(wǎng)關(guān)配置針對所述訪問控制點(diǎn)的訪問控制策略；

5、基于所述訪問控制點(diǎn)確定切點(diǎn)植入位置，并在所述切點(diǎn)植入位置植入安全切面的切點(diǎn)；

6、當(dāng)所述智能體平臺運(yùn)行至所述切點(diǎn)時，向所述切點(diǎn)注入所述安全切面，利用所述安全切面采集所述切點(diǎn)的上下文信息，并基于所述上下文信息在所述安全網(wǎng)關(guān)查詢訪問控制策略，以及，執(zhí)行所述訪問控制策略。

7、作為第一方面所述方法的一種可選實(shí)施方式，對于所述智能體平臺中的目標(biāo)智能體，確定針對所述目標(biāo)智能體的訪問控制點(diǎn)，具體包括：

8、將所述目標(biāo)智能體的創(chuàng)建函數(shù)、對話創(chuàng)建函數(shù)、接口調(diào)用函數(shù)、工具調(diào)用函數(shù)中的至少一種，作為針對所述目標(biāo)智能體的訪問控制點(diǎn)。

9、作為第一方面所述方法的一種可選實(shí)施方式，所述方法還包括：

10、在所述切點(diǎn)植入位置植入所述安全切面的切點(diǎn)之前，根據(jù)所述訪問控制策略的需求構(gòu)建所述安全切面。

11、作為第一方面所述方法的一種可選實(shí)施方式，所述方法還包括：

12、響應(yīng)于所述目標(biāo)智能體執(zhí)行目標(biāo)操作，通過所述安全網(wǎng)關(guān)為所述目標(biāo)操作的操作鏈路分配一個唯一的鏈路標(biāo)識，并基于所述鏈路標(biāo)識對所述目標(biāo)操作的操作鏈路進(jìn)行鏈路追蹤。

13、作為第一方面所述方法的一種可選實(shí)施方式，所述方法還包括：

14、所述智能體平臺在啟動時加載安全切面sdk，所述安全切面sdk用于實(shí)現(xiàn)所述安全切面的配置及注入。

15、第二方面，提供了一種智能體控制裝置，適用于至少一個智能體平臺，所述裝置包括：

16、數(shù)據(jù)獲取模塊，用于獲取針對所述智能體平臺中的目標(biāo)智能體的訪問控制點(diǎn)；

17、安全網(wǎng)關(guān)，用于配置針對所述訪問控制點(diǎn)的訪問控制策略；

18、安全切面注入模塊，用于基于所述訪問控制點(diǎn)確定切點(diǎn)植入位置，并在所述切點(diǎn)植入位置植入安全切面的切點(diǎn)，當(dāng)所述智能體平臺運(yùn)行至所述切點(diǎn)時，向所述切點(diǎn)注入所述安全切面，利用所述安全切面采集所述切點(diǎn)的上下文信息，并基于所述上下文信息在所述安全網(wǎng)關(guān)查詢訪問控制策略，以及，執(zhí)行所述訪問控制策略。

19、作為第二方面所述裝置的一種可選實(shí)施方式，所述數(shù)據(jù)獲取模塊具體用于將所述目標(biāo)智能體的創(chuàng)建函數(shù)、對話創(chuàng)建函數(shù)、接口調(diào)用函數(shù)、工具調(diào)用函數(shù)中的至少一種，作為針對所述目標(biāo)智能體的訪問控制點(diǎn)。

20、作為第二方面所述裝置的一種可選實(shí)施方式，所述安全切面注入模塊還用于在所述切點(diǎn)植入位置植入所述安全切面的切點(diǎn)之前，根據(jù)所述訪問控制策略的需求構(gòu)建所述安全切面。

21、作為第二方面所述裝置的一種可選實(shí)施方式，所述安全網(wǎng)關(guān)還用于響應(yīng)于所述目標(biāo)智能體執(zhí)行目標(biāo)操作，為所述目標(biāo)操作的操作鏈路分配一個唯一的鏈路標(biāo)識，并基于所述鏈路標(biāo)識對所述目標(biāo)操作的操作鏈路進(jìn)行鏈路追蹤。

22、作為第二方面所述裝置的一種可選實(shí)施方式，所述安全切面注入模塊通過安全切面sdk實(shí)現(xiàn)，所述智能體平臺在啟動時加載所述安全切面sdk。

23、第三方面，提供了一種計(jì)算機(jī)可讀存儲介質(zhì)，所述計(jì)算機(jī)可讀存儲介質(zhì)存儲有計(jì)算機(jī)程序，當(dāng)所述計(jì)算機(jī)程序在電子設(shè)備上運(yùn)行時，使得所述電子設(shè)備執(zhí)行上述的智能體控制方法。

24、第四方面，提供了一種電子設(shè)備，包括：

25、至少一個存儲器，用于存儲程序；

26、至少一個處理器，用于執(zhí)行所述存儲器存儲的程序，當(dāng)所述存儲器存儲的程序被執(zhí)行時，所述處理器用于執(zhí)行上述的智能體控制方法。

27、本說明書實(shí)施例所述的智能體控制方法的有益效果在于，該方法將管控策略部署在安全網(wǎng)關(guān)，通過安全網(wǎng)關(guān)實(shí)現(xiàn)對不同智能體平臺的統(tǒng)一管控。同時，該方法通過安全切面插樁實(shí)現(xiàn)管控機(jī)制與智能體平臺的業(yè)務(wù)邏輯解耦，降低了集成難度和維護(hù)成本。

28、本說明書實(shí)施例所述的智能體控制裝置同樣具有上述有益效果。

技術(shù)特征：

1.一種智能體控制方法，適用于至少一個智能體平臺，所述方法包括：

2.根據(jù)權(quán)利要求1所述的方法，對于所述智能體平臺中的目標(biāo)智能體，確定針對所述目標(biāo)智能體的訪問控制點(diǎn)，具體包括：

3.根據(jù)權(quán)利要求1所述的方法，所述方法還包括：

4.根據(jù)權(quán)利要求1所述的方法，所述方法還包括：

5.根據(jù)權(quán)利要求1所述的方法，所述方法還包括：

6.一種智能體控制裝置，適用于至少一個智能體平臺，所述裝置包括：

7.根據(jù)權(quán)利要求6所述的裝置，所述數(shù)據(jù)獲取模塊具體用于將所述目標(biāo)智能體的創(chuàng)建函數(shù)、對話創(chuàng)建函數(shù)、接口調(diào)用函數(shù)、工具調(diào)用函數(shù)中的至少一種，作為針對所述目標(biāo)智能體的訪問控制點(diǎn)。

8.根據(jù)權(quán)利要求6所述的裝置，所述安全切面注入模塊還用于在所述切點(diǎn)植入位置植入所述安全切面的切點(diǎn)之前，根據(jù)所述訪問控制策略的需求構(gòu)建所述安全切面。

9.根據(jù)權(quán)利要求6所述的裝置，所述安全網(wǎng)關(guān)還用于響應(yīng)于所述目標(biāo)智能體執(zhí)行目標(biāo)操作，為所述目標(biāo)操作的操作鏈路分配一個唯一的鏈路標(biāo)識，并基于所述鏈路標(biāo)識對所述目標(biāo)操作的操作鏈路進(jìn)行鏈路追蹤。

10.根據(jù)權(quán)利要求6所述的裝置，所述安全切面注入模塊通過安全切面sdk實(shí)現(xiàn)，所述智能體平臺在啟動時加載所述安全切面sdk。

11.一種計(jì)算機(jī)可讀存儲介質(zhì)，所述計(jì)算機(jī)可讀存儲介質(zhì)存儲有計(jì)算機(jī)程序，當(dāng)所述計(jì)算機(jī)程序在電子設(shè)備上運(yùn)行時，使得所述電子設(shè)備執(zhí)行如權(quán)利要求1至5任一所述的方法。

12.一種電子設(shè)備，包括：

技術(shù)總結(jié)
本說明書實(shí)施例公開了一種智能體控制方法及裝置，該方法將管控策略部署在安全網(wǎng)關(guān)，通過安全網(wǎng)關(guān)實(shí)現(xiàn)對不同智能體平臺的統(tǒng)一管控。同時，該方法通過安全切面插樁實(shí)現(xiàn)管控機(jī)制與智能體平臺的業(yè)務(wù)邏輯解耦，降低了集成難度和維護(hù)成本。本說明書實(shí)施例所述的智能體控制裝置同樣具有上述有益效果。

技術(shù)研發(fā)人員：鄭旻
受保護(hù)的技術(shù)使用者：支付寶（杭州）信息技術(shù)有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/5/8