人工智能下半場 智能體技術(shù)重構(gòu)安全生態(tài)

　　當前，人工智能作為引領(lǐng)新一輪科技革命與產(chǎn)業(yè)變革的戰(zhàn)略性力量，已成為培育新質(zhì)生產(chǎn)力的核心引擎。國務(wù)院常務(wù)會議7月31日審議通過的《關(guān)于深入實施“人工智能+”行動的意見》，標志著我國AI發(fā)展進入“技術(shù)攻堅+場景落地+安全護航”三位一體的新階段。

　　隨著人工智能發(fā)展進入下半場，智能體（Agent）技術(shù)加速突破實驗室邊界，深度融入產(chǎn)業(yè)核心領(lǐng)域，日益成為驅(qū)動產(chǎn)業(yè)變革的關(guān)鍵引擎。

　　人工智能加速升級

　　“人工智能技術(shù)加速迭代，人工智能領(lǐng)域創(chuàng)新呈群體性突破之勢，人工智能與實體經(jīng)濟深度融合特征更加明顯。”工業(yè)和信息化部原總工程師、中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會常務(wù)副主任趙志國在近日召開的第十三屆互聯(lián)網(wǎng)安全大會（ISC.AI 2025）上指出，人工智能和安全領(lǐng)域的結(jié)合日益緊密，不僅為網(wǎng)絡(luò)安全提供了更具主動性和適應(yīng)性的技術(shù)工具，更推動安全體系從被動防御向智能驅(qū)動重構(gòu)，其“安全能力倍增器”的效應(yīng)正加速顯現(xiàn)。

　　中國工程院院士、英國皇家工程院院士、香港理工大學杰出講座教授陳清泉在ISC.AI 2025演講中指出，人工智能在推動新質(zhì)生產(chǎn)力走向“高科技、高效能、高質(zhì)量”的過程中發(fā)揮重要作用，要不斷突破現(xiàn)有科學界限，發(fā)揮科學世界的無限可能。

　　人工智能深入百行千業(yè)，為高質(zhì)量發(fā)展注入強大動能，大模型的突破引領(lǐng)人類社會進入智能化時代。360集團創(chuàng)始人、ISC大會主席周鴻祎在《ALL IN AGENT》主題演講中指出，大模型進化到智能體是必然的，智能體能夠理解目標、規(guī)劃任務(wù)、調(diào)用工具、具備記憶，實現(xiàn)從需求到結(jié)果的完整交付，將推動人機交互范式的根本性變革。

　　“但同時也要清醒地認識到，技術(shù)革新的背后，安全風險正在交織疊加，帶來的風險挑戰(zhàn)引發(fā)廣泛關(guān)注?！壁w志國強調(diào)，一是技術(shù)脆弱性帶來內(nèi)生安全風險，二是惡意利用放大安全危機，三是治理的復(fù)雜性日益凸顯。

　　為助力人工智能行業(yè)實現(xiàn)高質(zhì)量發(fā)展，推動人工智能技術(shù)創(chuàng)新應(yīng)用與協(xié)同治理，廣大民營企業(yè)要把握時代機遇，全國工商聯(lián)黨組成員、副主席羅來君在ISC.AI 2025致辭中提出三點建議，首先要胸懷國之大者，主動融入國家戰(zhàn)略；其次要堅持開放式創(chuàng)新，促進成果加速落地；最后要共繪同心圓，打造智能向善的治理體系。

　　內(nèi)生風險亟待破解

　　“當前隨著人工智能技術(shù)迅猛發(fā)展，網(wǎng)絡(luò)安全的危險持續(xù)攀升，如今黑客組織可以將黑客的經(jīng)驗和能力訓(xùn)練進大模型，打造智能體黑客，將人與人的網(wǎng)絡(luò)攻防變?yōu)槿伺c智能體的攻防，加劇了網(wǎng)絡(luò)的不對稱性?！钡谑龑萌珖舜笊鐣ㄔO(shè)委員會副主任委員、國家互聯(lián)網(wǎng)信息辦公室原副主任、世界互聯(lián)網(wǎng)大會秘書長任賢良表示，去年以來，全球范圍內(nèi)的網(wǎng)絡(luò)攻擊事件迅猛增加，攻擊手段復(fù)雜隱蔽，凸顯加強網(wǎng)絡(luò)安全措施和提高對新型威脅的響應(yīng)能力的重要性。

　　任賢良表示，目前全球數(shù)字技術(shù)發(fā)展存在不平衡現(xiàn)象，部分國家和地區(qū)數(shù)字基礎(chǔ)設(shè)施建設(shè)薄弱，能力建設(shè)滯后，不僅難以享受互聯(lián)網(wǎng)發(fā)展的福利，也在面對網(wǎng)絡(luò)安全攻擊時暴露出更大的脆弱性。

　　他指出，隨著人工智能技術(shù)在各個領(lǐng)域的廣泛應(yīng)用，安全威脅的形式也在不斷的演變。除安全漏洞供應(yīng)鏈工具等傳統(tǒng)安全外，大模型也存在自身的系統(tǒng)安全、內(nèi)容安全以及幻覺等特有的風險。面對全球網(wǎng)絡(luò)安全風險的新形勢，必須把創(chuàng)新作為第一動力，促進科技成果的轉(zhuǎn)化應(yīng)用，提升算力資源的供給，鼓勵模型算法創(chuàng)新，加速人工智能相關(guān)的技術(shù)與安全防護的深度耦合，賦能網(wǎng)絡(luò)安全創(chuàng)新發(fā)展。

　　“人工智能的網(wǎng)絡(luò)安全既是風險也是機遇，要在充分發(fā)揮人工智能潛力的同時確保其發(fā)展的安全性、可靠性、可控性和公平性，使其成為守護安全造福人類的國際公共產(chǎn)品?！比钨t良表示。

　　智能體革命重構(gòu)安全攻防

　　隨著大模型向具身智能演進，智能體技術(shù)正在重構(gòu)安全攻防體系。從被動防御轉(zhuǎn)向主動免疫，從單點防護升級為全域協(xié)同。

　　“推動AI技術(shù)和數(shù)字安全的融合發(fā)展成為助力數(shù)字化建設(shè)、提速數(shù)字經(jīng)濟發(fā)展的關(guān)鍵?！盜SC名譽主席、教授鄔賀銓在致辭中表示。

　　鄔賀銓指出，基礎(chǔ)大模型展現(xiàn)出的通用能力雖然強大（是企業(yè)數(shù)字化轉(zhuǎn)型的基石）但在垂直領(lǐng)域的深度應(yīng)用中卻面臨著專業(yè)知識不足、場景適應(yīng)性有限的“最后一公里”挑戰(zhàn)。

　　周鴻祎同樣認為，大模型能力越來越強，但僅有大模型是不夠的。過去大模型在企業(yè)應(yīng)用中的兩大痛點--推理能力不足和缺乏獨立做事能力，前者在近一年已顯著改善，但后者仍未解決?！按竽Ｐ腿鄙?#39;手和腳'，不會使用工具，不能直接'干活'。AI發(fā)展如果停留在大模型階段，只能成為玩具，而非生產(chǎn)力工具?！?/p>

　　周鴻祎強調(diào)：“大模型進化到智能體是必然的?！敝悄荏w才是解決之道。智能體是AI從“能思考”邁向“能做事”的關(guān)鍵載體，其發(fā)展將重塑產(chǎn)業(yè)形態(tài)，推動新質(zhì)生產(chǎn)力加速形成。其核心在于使用工具的能力和利用大模型進行復(fù)雜任務(wù)規(guī)劃的能力。

　　周鴻祎認為，人工智能的發(fā)展歷程中，智能體經(jīng)歷了從基礎(chǔ)交互到自主協(xié)作的漸進式突破。早期的L1智能體僅能實現(xiàn)簡單知識問答，如同“聊天機器人”；L2工作流智能體雖能通過預(yù)設(shè)流程提升效率，卻仍需人類主導(dǎo)操作，靈活性受限；L3推理型智能體實現(xiàn)了單領(lǐng)域深度推理，如同“專業(yè)員工”，但面對跨領(lǐng)域復(fù)雜任務(wù)時，協(xié)同能力的短板逐漸顯現(xiàn)。

　　“專業(yè)的數(shù)據(jù)、專業(yè)的知識、專業(yè)的工具、專業(yè)的工作流、專業(yè)的安全大模型、專業(yè)的智能體打造平臺，每個環(huán)節(jié)都是安全智能體的構(gòu)建壁壘。”周鴻祎在回答360打造安全智能體的優(yōu)勢和壁壘時表示。

　　在周鴻祎看來，安全智能體不僅是對傳統(tǒng)安全的補充，更是重構(gòu)數(shù)字安全體系的核心力量。在AI定義未來的時代，只有主動擁抱安全智能體，才能真正筑牢數(shù)字安全防線。

　　隨著智能體從辦公場景深入生產(chǎn)核心，AI正成為驅(qū)動產(chǎn)業(yè)升級的核心生產(chǎn)力。華為ICTMarketing與解決方案銷售副總裁史振鈺表示，當前AI正處于從“答得妙”邁向“靠得住”的關(guān)鍵轉(zhuǎn)折的節(jié)點，要共建韌性智能體生態(tài)，共筑可持續(xù)、可信賴的AI生產(chǎn)力未來，加速人工智能邁向規(guī)模化、產(chǎn)業(yè)化新階段。

　　百度智能云副總裁、百度智能云泛科技業(yè)務(wù)部總經(jīng)理張瑋表示，企業(yè)智能化升級的核心是構(gòu)建有業(yè)務(wù)價值的企業(yè)級大模型應(yīng)用，這需要依托算力支撐、模型研發(fā)、數(shù)據(jù)智能處理、應(yīng)用開發(fā)等多維度的AI基礎(chǔ)設(shè)施。

　　構(gòu)筑AI安全發(fā)展新格局

　　黨中央、國務(wù)院高度重視推動人工智能健康有序發(fā)展。一系列的政策舉措為“人工智能+安全”工作指明了前進的方向、提供了根本的遵循。

　　趙志國表示，要聚焦深度學習框架、智能芯片等關(guān)鍵領(lǐng)域攻堅突破，加快自主創(chuàng)新步伐，提高安全發(fā)展能力。構(gòu)建通用與專用相結(jié)合的模型體系。加快構(gòu)建安全可靠、綠色高效的智能算力基礎(chǔ)設(shè)施，強化芯片、服務(wù)器等底層硬件的自主保障能力，筑牢基礎(chǔ)設(shè)施安全底座。要堅持融合賦能，壯大產(chǎn)業(yè)發(fā)展生態(tài)。加強人工智能與安全產(chǎn)業(yè)的深度融合、雙向賦能。

　　一方面，以“人工智能+安全”深度融合培育壯大安全產(chǎn)業(yè)。另一方面，以安全能力建設(shè)保障人工智能產(chǎn)業(yè)發(fā)展壯大。要堅持協(xié)同共治，形成安全發(fā)展合力。積極推動“政產(chǎn)學研用”多元主體協(xié)同發(fā)力，在安全機制共建、技術(shù)攻關(guān)、規(guī)模應(yīng)用、標準體系、人才培養(yǎng)等方面深化合作，構(gòu)建“人工智能+安全”產(chǎn)業(yè)生態(tài)圈。積極推動并參與人工智能安全治理國際合作，聚焦模型幻覺、不可解釋性等技術(shù)風險，強化前瞻研判、交流合作、標準共建，推動形成具有廣泛共識的人工智能全球治理的架構(gòu)和體系。

　　“應(yīng)對'最后一公里'挑戰(zhàn)，破解之道在于深化協(xié)作：需要大模型技術(shù)提供方與金融、醫(yī)療、制造、能源、交通等垂直行業(yè)的龍頭企業(yè)、專業(yè)機構(gòu)緊密攜手，深度理解行業(yè)知識圖譜與核心痛點，共同構(gòu)建高質(zhì)量的專業(yè)語料庫，為模型注入行業(yè)靈魂。”鄔賀銓表示，必須著力降低應(yīng)用門檻，探索“行業(yè)大模型即服務(wù)”等創(chuàng)新模式。

　　同時，加速大模型技術(shù)創(chuàng)新與架構(gòu)演進，提升效率與可及性。持續(xù)聚焦模型效率優(yōu)化，大力投入模型壓縮、高效訓(xùn)練和推理加速等技術(shù)，在保持強大能力的同時顯著降低計算與能耗成本。

　　“這不僅關(guān)乎經(jīng)濟效益，更是實現(xiàn)綠色可持續(xù)發(fā)展及推動AI向邊緣端、移動端普及的關(guān)鍵?！编w賀銓說。

　　鄔賀銓還指出，要創(chuàng)新升級數(shù)字安全防護體系，構(gòu)建AI驅(qū)動的主動免疫。數(shù)字安全企業(yè)應(yīng)著力構(gòu)建覆蓋預(yù)測、防御、檢測、響應(yīng)、恢復(fù)全生命周期的體系化安全運營框架，整合流程、人員與技術(shù)，形成閉環(huán)能力。更為關(guān)鍵的是，要充分利用AI尤其是大模型的強大能力，賦能威脅狩獵、異常檢測與自動化響應(yīng)，推動安全防御從“事后補救”向“事前預(yù)警、事中阻斷”的主動免疫模式躍升。還要高度重視并保障AI系統(tǒng)自身的安全。

　　“我們迫切需要加強國際協(xié)作，人工智能與數(shù)字安全的挑戰(zhàn)是全球性的，單打獨斗無法應(yīng)對。我們需要在人工智能倫理準則、數(shù)據(jù)跨境規(guī)則、網(wǎng)絡(luò)安全威脅情報共享、關(guān)鍵基礎(chǔ)設(shè)施防護標準等領(lǐng)域深化對話，尋求共識。”鄔賀銓表示。（記者 曹雅麗）

　　轉(zhuǎn)自：中國工業(yè)報

　　【版權(quán)及免責聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀