12月19日消息，國(guó)內(nèi)首個(gè)智能體安全生態(tài)協(xié)作組織—“IIFAA智能體可信互連工作組”（以下簡(jiǎn)稱“工作組”）在北京宣布成立，該工作組致力于推動(dòng)行業(yè)共同制定跨智能體交互的相關(guān)安全技術(shù)規(guī)范，以應(yīng)對(duì)智能體高速發(fā)展所帶來的安全協(xié)作挑戰(zhàn)，共建開放、合作、共贏的智能體生態(tài)。中國(guó)信通院、榮耀、OPPO、小米、華為、智譜、字節(jié)、阿里、螞蟻、京東、中國(guó)移動(dòng)、高通等二十余家頭部科技企業(yè)和單位成為工作組首批成員。

工作組由IIFAA互聯(lián)網(wǎng)可信認(rèn)證聯(lián)盟發(fā)起成立。據(jù)了解，該聯(lián)盟成立于2015年，致力于可信身份認(rèn)證等工作，擁有300多家成員單位。

近年來，AI智能體生態(tài)搭建成為賽道內(nèi)各玩家的重要戰(zhàn)略布局，手機(jī)終端、大模型及APP廠商紛紛推出“AI管家”等智能體產(chǎn)品，用戶可以與設(shè)備或APP進(jìn)行自然語(yǔ)言交互，快速實(shí)現(xiàn)訂票、點(diǎn)餐、打車、查詢附近吃喝玩樂等操作。其中，典型代表包括以蘋果、榮耀、vivo等為代表推出的手機(jī)廠商系統(tǒng)智能體，以螞蟻集團(tuán)推出的AI生活管家“支小寶”、智譜AI推出的AutoGLM等為代表的AI智能體產(chǎn)品。

通過共享感知數(shù)據(jù)和任務(wù)協(xié)調(diào)優(yōu)化實(shí)現(xiàn)智能響應(yīng)，多個(gè)智能體協(xié)同工作，可以為用戶提供更豐富的功能體驗(yàn)。比如，用戶通過手機(jī)上的語(yǔ)音助手說“我想聽周杰倫的歌，順便幫我點(diǎn)個(gè)附近的披薩外賣”，語(yǔ)音助手智能體識(shí)別用戶指令后，立即調(diào)用音樂播放智能體和外賣智能體。

“對(duì)用戶而言，一條指令，往往會(huì)涉及到多個(gè)app智能體產(chǎn)品，而智能體之間的打通很難，如何在端上實(shí)現(xiàn)多智能體間的可信互連，成為智能體發(fā)展中至關(guān)重要的問題。目前行業(yè)還在初期階段，新技術(shù)在給用戶帶來便利的同時(shí)，也隱藏著安全風(fēng)險(xiǎn)?！毙磐ㄔ禾柦K端實(shí)驗(yàn)室信息安全部副主任傅山在成立現(xiàn)場(chǎng)表示。

IIFAA聯(lián)盟秘書長(zhǎng)鄭亮指出，智能體之間的服務(wù)互聯(lián)最終要完成用戶指令，這中間涉及到意圖數(shù)據(jù)的共享傳遞和復(fù)雜任務(wù)拆解等必經(jīng)流程，這些流程在沒有規(guī)范約束的情況下，就像開車沒有紅綠燈，非常容易滋生亂象。事實(shí)上，即使現(xiàn)在處于多智能體發(fā)展早期，已經(jīng)出現(xiàn)了諸多問題。“黑灰產(chǎn)有時(shí)候?qū)π录夹g(shù)的掌握速度比防御方更快。我們不能在問題出現(xiàn)之后再開始討論秩序，這也是這個(gè)工作組存在的必要性?！编嵙琳J(rèn)為，智能體之間需要開放協(xié)作，也需要共建安全互信的行業(yè)規(guī)范。這對(duì)行業(yè)長(zhǎng)遠(yuǎn)的健康發(fā)展有至關(guān)重要的意義。

在此背景下，IIFAA互聯(lián)網(wǎng)可信認(rèn)證聯(lián)盟正式成立“IIFAA智能體可信互連工作組”，希望通過制定跨智能體交互的相關(guān)標(biāo)準(zhǔn)等形式，為智能體行業(yè)的發(fā)展提供一個(gè)更加規(guī)范健康的協(xié)作環(huán)境。目前，工作組成員由手機(jī)終端廠商、硬件廠商、應(yīng)用開發(fā)商以及相關(guān)監(jiān)管機(jī)構(gòu)等成員組成。

作為成員單位，智譜AI CEO張鵬提出，“作為專注AI的公司，智譜非常注重技術(shù)安全和治理的同步發(fā)展，成立智能體行業(yè)組織在當(dāng)下很有必要，可有效避免由于缺乏統(tǒng)一標(biāo)準(zhǔn)而可能導(dǎo)致的惡意攻擊、隱私侵犯等安全隱患，促進(jìn)整個(gè)行業(yè)的健康發(fā)展。”

螞蟻集團(tuán)副總裁李俊奎則表示，“創(chuàng)新與開放是螞蟻持續(xù)發(fā)展的基石，我們將會(huì)支持工作組推動(dòng)智能體技術(shù)在各個(gè)應(yīng)用場(chǎng)景中的廣泛普及與信任建立，讓AI更安全的服務(wù)于用戶和行業(yè)?！?/p>

“接下來，工作組將圍繞智能體可信認(rèn)證、服務(wù)可信調(diào)用、數(shù)據(jù)可信流轉(zhuǎn)、用戶隱私與權(quán)益保護(hù)等方向，建設(shè)智能體可信互連行業(yè)規(guī)范，推動(dòng)行業(yè)安全、健康發(fā)展?！惫ぷ鹘M技術(shù)總監(jiān)張璇介紹。