面臨監(jiān)管滯后、安全泛化等挑戰(zhàn) 全球人工智能治理任重道遠(yuǎn)

　　近年來，人工智能的新技術(shù)不斷突破、新業(yè)態(tài)持續(xù)涌現(xiàn)、新應(yīng)用加快拓展，已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。同時(shí)，人工智能發(fā)展在法律、安全、就業(yè)、道德倫理等方面也面臨著一系列新課題。國際組織和世界多國已開始在理念、立法和科普等方面探索人工智能治理的可行性路徑并達(dá)成一些共識(shí)，努力在發(fā)展和安全之間尋求平衡，但全球人工智能治理仍面臨“監(jiān)管滯后”“技術(shù)鴻溝”“安全泛化”“共識(shí)難聚”“歸責(zé)不明”“執(zhí)行不力”等挑戰(zhàn)。

　　探索全球人工智能治理共識(shí)機(jī)制

　　近年來，全球主要經(jīng)濟(jì)體和國際組織紛紛致力于人工智能治理框架的構(gòu)建與迭代，積極探索全球人工智能治理共識(shí)機(jī)制。

　　“從全球范圍來看，人工智能已步入技術(shù)發(fā)展的‘奇點(diǎn)時(shí)刻’與監(jiān)管治理的‘關(guān)鍵時(shí)刻’。”對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任張欣在接受本報(bào)記者采訪時(shí)表示，當(dāng)前，作為全球科技競爭最激烈的領(lǐng)域之一，人工智能的國際競爭早已超越技術(shù)和產(chǎn)業(yè)的競爭，并實(shí)質(zhì)拓展到以法律規(guī)制為代表的治理競爭。美國、中國、歐盟、英國、日本、韓國、加拿大、新加坡和巴西等均高度重視人工智能治理，形成“技術(shù)賽道”“產(chǎn)品賽道”和“制度賽道”多軌并行的新格局。

　　國際組織積極探索促成全球人工智能治理共識(shí)達(dá)成的規(guī)范框架。張欣介紹，2019年，經(jīng)濟(jì)合作與發(fā)展組織發(fā)布了全球首個(gè)政府間人工智能治理原則的文件。同年，二十國集團(tuán)提出“G20人工智能原則”，確定了人工智能應(yīng)促進(jìn)包容性增長、可持續(xù)發(fā)展和社會(huì)福祉以及“以人為本”的價(jià)值觀和“問責(zé)制”等治理的基礎(chǔ)性原則。2023年10月，聯(lián)合國秘書長安東尼奧·古特雷斯宣布組建高級(jí)別人工智能咨詢機(jī)構(gòu)，該機(jī)構(gòu)于2023年12月發(fā)布《臨時(shí)報(bào)告：以人為本的人工智能治理》。

　　國際組織尤為重視生成式人工智能的負(fù)責(zé)任創(chuàng)新。張欣介紹，聯(lián)合國《全球數(shù)字契約》《關(guān)于負(fù)責(zé)任的生成式人工智能的建議》（世界經(jīng)濟(jì)論壇）、《生成式人工智能在教育和研究中的應(yīng)用指南》等一系列文件發(fā)布，共同強(qiáng)調(diào)了在發(fā)展和應(yīng)用生成式人工智能技術(shù)時(shí)必須遵循的倫理原則和規(guī)范，進(jìn)一步呼吁各國政府、私營主體、學(xué)術(shù)機(jī)構(gòu)以及民間團(tuán)體共同努力，加強(qiáng)全球合作治理。

　　中國一直是人工智能全球治理的積極倡導(dǎo)者和踐行者。2021年12月，中國向聯(lián)合國《特定常規(guī)武器公約》第六次審議大會(huì)提交《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》，2022年11月又向聯(lián)合國《特定常規(guī)武器公約》締約國大會(huì)提交了《中國關(guān)于加強(qiáng)人工智能倫理治理的立場文件》。2023年10月，中國提出《全球人工智能治理倡議》，為凝聚國際社會(huì)共識(shí)、推進(jìn)全球共享共治發(fā)揮了積極作用。2024年7月，第78屆聯(lián)合國大會(huì)以協(xié)商一致方式通過了中方主提的“加強(qiáng)人工智能能力建設(shè)國際合作”決議，143個(gè)聯(lián)合國會(huì)員國參加聯(lián)署。這是全球首個(gè)聚焦人工智能能力建設(shè)的共識(shí)性文件。

　　“在全球人工智能治理秩序形成的過程中，各大科技企業(yè)也積極探索人工智能治理的多元化路徑，嘗試探尋自我規(guī)制的創(chuàng)新方案。”張欣說，一方面，科技企業(yè)積極尋求與監(jiān)管者溝通合作，力求通過自我承諾、自我約束開展人工智能治理；另一方面，科技企業(yè)也積極開發(fā)人工智能治理工具以紓解新型技術(shù)風(fēng)險(xiǎn)，推進(jìn)負(fù)責(zé)任的創(chuàng)新與研發(fā)。

　　“面對(duì)人工智能技術(shù)革新及由此引發(fā)的治理挑戰(zhàn)，當(dāng)前，全球范圍內(nèi)已初步形成主權(quán)國家主導(dǎo)、國際組織推進(jìn)、科技企業(yè)協(xié)同的多方治理格局，并出現(xiàn)人工智能治理法治化、智慧化和軟法與硬法雙軌并行深度治理的趨勢。”張欣說。

　　加強(qiáng)人工智能治理規(guī)則的全球協(xié)作日益成為各方共識(shí)

　　過去一年多來，生成式人工智能技術(shù)已取得了質(zhì)的飛躍。這不僅體現(xiàn)在技術(shù)進(jìn)步的速度上，更體現(xiàn)在其廣泛而深遠(yuǎn)的影響上，為各行各業(yè)帶來了前所未有的變革。

　　據(jù)美國一個(gè)面向公眾開放的數(shù)據(jù)集——人工智能、算法、自動(dòng)化事件和爭議存儲(chǔ)庫顯示，2021年新報(bào)告的人工智能事件和爭議數(shù)量是2012年的26倍。其中，生成式人工智能引發(fā)的虛假信息問題尤為突出。由于虛假信息面向的是互聯(lián)網(wǎng)信息內(nèi)容領(lǐng)域，因此產(chǎn)生的影響具有行業(yè)和場景的廣泛性。

　　“與傳統(tǒng)技術(shù)風(fēng)險(xiǎn)有所不同，人工智能技術(shù)風(fēng)險(xiǎn)具有隱蔽性、跨域性、全球性和長期性，需要從國際層面展開持續(xù)性、系統(tǒng)性和協(xié)同性的治理努力?！睆埿勒f，人工智能技術(shù)的突破式發(fā)展導(dǎo)致新舊風(fēng)險(xiǎn)疊加，帶來了一系列安全和倫理挑戰(zhàn)。由于人工智能的技術(shù)迭代以日為單位，若不在早期實(shí)施有效的介入治理，則可能出現(xiàn)后期風(fēng)險(xiǎn)難以控制的治理困境。

　　“各國雖在人工智能治理思路和具體方案上存在差異，但加強(qiáng)人工智能治理規(guī)則的全球協(xié)作日益成為各方共識(shí)?！睆埿勒f，2023年11月，人工智能安全峰會(huì)在英國舉行，達(dá)成了全球首個(gè)人工智能治理協(xié)議《布萊切利宣言》，包括中國、美國、英國等28個(gè)國家及歐盟共同簽署了該項(xiàng)宣言。

　　國際社會(huì)已形成共識(shí)：將“以人為本”作為人工智能研發(fā)和部署的基本原則和重要理念。張欣分析，“以人為本”這一共識(shí)意味著，在人工智能技術(shù)的開發(fā)與應(yīng)用過程中，首要任務(wù)是確保技術(shù)始終以人類利益為先，尊重每個(gè)個(gè)體的基本權(quán)利和人的尊嚴(yán)，維護(hù)人的主體性地位，確保人工智能技術(shù)的發(fā)展真正服務(wù)于增進(jìn)人類福祉的目標(biāo)?！耙匀藶楸尽钡睦砟钸€強(qiáng)調(diào)人工智能開發(fā)應(yīng)采取負(fù)責(zé)任的創(chuàng)新方式。這要求在技術(shù)設(shè)計(jì)、開發(fā)和部署階段，應(yīng)系統(tǒng)地評(píng)估和衡量潛在的影響與風(fēng)險(xiǎn)，確保系統(tǒng)設(shè)計(jì)的公平性和多樣性，避免技術(shù)濫用。

　　張欣說，從實(shí)踐來看，全球人工智能治理仍然存在以下不足：一是國際組織參與度高于政府，但尚未有國際組織承擔(dān)起全球人工智能核心監(jiān)管機(jī)構(gòu)的角色，各國際組織間呈現(xiàn)出高度分散的碎片化狀態(tài)。二是政府間合作多具有地域特征和大國競爭導(dǎo)向。以G7國家為代表的發(fā)達(dá)國家試圖構(gòu)建一套普適性的人工智能監(jiān)管規(guī)則， 而以金磚國家為代表的新興市場和發(fā)展中國家在人工智能治理的國際合作中潛力尚待發(fā)揮。

　　不斷彌合智能鴻溝和治理能力差距

　　由于技術(shù)發(fā)展水平和文化背景差異，各國對(duì)人工智能風(fēng)險(xiǎn)的感知也顯著不同。斯坦福大學(xué)人工智能研究所發(fā)布的《2023年人工智能指數(shù)報(bào)告》引用調(diào)查機(jī)構(gòu)易普索2022年的調(diào)查指出，部分發(fā)展中國家對(duì)人工智能普遍更加樂觀。如78%的中國受訪者同意“使用人工智能產(chǎn)品和服務(wù)的好處多于壞處”的觀點(diǎn)，76%的沙特阿拉伯受訪者和71%的印度受訪者認(rèn)為人工智能產(chǎn)品“利大于弊”。德國、荷蘭、澳大利亞、比利時(shí)和加拿大等一些發(fā)達(dá)國家對(duì)人工智能產(chǎn)品和服務(wù)的評(píng)價(jià)則稍顯負(fù)面。

　　“打造一個(gè)全方位、多層次、匯聚廣泛共識(shí)， 具有真正的包容性、平等性、多元性的治理框架仍然面臨多項(xiàng)挑戰(zhàn)。其中尤為突出的當(dāng)屬意識(shí)形態(tài)對(duì)人工智能治理框架的影響以及資本逐利帶來的負(fù)面沖擊?！睆埿勒J(rèn)為，面對(duì)人工智能技術(shù)創(chuàng)新及接踵而來的治理挑戰(zhàn)，全球人工智能治理確實(shí)已站在歷史選擇的“關(guān)鍵十字路口”，能否超越分歧達(dá)致共識(shí)，能否超越個(gè)別利益實(shí)現(xiàn)共同利益，是決定全球人工智能治理模式是否有韌性、有效的關(guān)鍵因素。

　　張欣說，全球人工智能治理面臨歸責(zé)框架不清晰和協(xié)作治理機(jī)制不健全等問題。如何處理數(shù)據(jù)安全、隱私保護(hù)、算法濫用等問題，并形成全球范圍內(nèi)的協(xié)同有效治理，也是當(dāng)前的重要議題。

　　中國始終將發(fā)展中國家的期待與需求放在重要位置?！度蛉斯ぶ悄苤卫沓h》指出，增強(qiáng)發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，確保各國人工智能發(fā)展與治理的權(quán)利平等、機(jī)會(huì)平等、規(guī)則平等，開展面向發(fā)展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。

　　中國常駐聯(lián)合國代表傅聰介紹加強(qiáng)人工智能能力建設(shè)國際合作決議草案時(shí)表示，大多數(shù)國家特別是發(fā)展中國家尚未能真正接觸、使用人工智能并從中受益，全球數(shù)字鴻溝仍有擴(kuò)大之勢。在此背景下，中國順應(yīng)廣大國家特別是發(fā)展中國家的期待，倡導(dǎo)人工智能能力建設(shè)國際合作，平等發(fā)展和利用人工智能技術(shù)，共享人工智能知識(shí)成果，體現(xiàn)了中國對(duì)人工智能發(fā)展和治理的負(fù)責(zé)任態(tài)度。

　　“發(fā)展中國家與發(fā)達(dá)經(jīng)濟(jì)體之間在人工智能技術(shù)發(fā)展和治理議程設(shè)置能力上仍存在‘智能鴻溝’和治理代差?！睆埿勒f，構(gòu)建全球人工智能治理機(jī)制需要以包容性、平等性、多元性為基礎(chǔ)原則，探索政府間、企業(yè)間、專家間的對(duì)話交流和磋商機(jī)制，通過在重點(diǎn)領(lǐng)域率先凝聚治理共識(shí)推動(dòng)實(shí)現(xiàn)協(xié)同發(fā)展、和諧共榮的治理格局。（賈平凡）

　　轉(zhuǎn)自：人民日報(bào)海外版

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場。版權(quán)事宜請聯(lián)系：010-65363056。

延伸閱讀