二〇二四世界人工智慧大會暨人工智慧全球治理高級別會議外景。王 初攝（人民視覺）

日前，2024世界人工智慧大會暨人工智慧全球治理高級別會議在中國上海舉辦，主題為“以共商促共用 以善治促善智”。

近年來，人工智慧的新技術不斷突破、新業態持續湧現、新應用加快拓展，已成為新一輪科技革命和產業變革的重要驅動力量。同時，人工智慧發展在法律、安全、就業、道德倫理等方面也面臨著一系列新課題。作為負責任的人工智慧大國，中國在大力推進人工智慧創新發展的同時，積極致力於為國際社會提供更多公共產品，以開放姿態開展人工智慧國際交流合作，為全球人工智慧發展和治理作出積極探索，貢獻了建設性思路和方案。

積極探索全球人工智慧治理共識機制

“2024世界人工智慧大會暨人工智慧全球治理高級別會議有很多亮點值得關注。”復旦大學發展研究院副研究員姚旭接受本報記者採訪時說，一是各方搭臺。來自全球50多個國家地區的上千位人工智慧治理和產業發展的領軍人物齊聚中國，積極參與這場討論人工智慧技術和產業前沿發展趨勢的盛會，引發對人工智慧的關注熱潮，線下參觀人數突破30萬人次，再創新高。二是產業唱戲。參加大會的知名人工智慧企業數量、發佈的人工智慧新品數量、參展的展品數量都創歷年新高，全球頂級的人工智慧科研機構和企業充分交流，加速人工智慧成果轉化。三是強調合作。大會發佈《人工智慧全球治理上海宣言》，為全球人工智慧的治理範式和路徑提供了新思路，得到各界積極回應。

中國一直是人工智慧全球治理的積極宣導者和踐行者。去年10月，中國提出《全球人工智慧治理倡議》，系統回答了為什麼要加強、如何加強人工智慧全球治理的重大時代課題，提出了中國方案，貢獻了中國智慧，為凝聚國際社會共識、推進全球共用共治發揮了積極作用。日前，第78屆聯合國大會以協商一致方式通過了中方主提的“加強人工智慧能力建設國際合作”決議，143個聯合國會員國參加連署。這是全球首個聚焦人工智慧能力建設的共識性檔。

對外經濟貿易大學數字經濟與法律創新研究中心主任張欣在接受本報記者採訪時表示，近年來，中國在全球人工智慧治理方面作出了一系列積極貢獻。中國頒佈的《生成式人工智慧服務管理暫行辦法》是世界上首部以生成式人工智慧為對象的正式立法。中國頒佈的《科技倫理審查辦法（試行）》明確了科技倫理原則，是中國科技倫理治理的標誌性事件，意味著中國科技倫理的頂層設計和治理體系日趨完善。中國提出的《全球人工智慧治理倡議》是在凝聚中國多年來人工智慧治理成熟經驗基礎上對全球人工智慧治理共識機制的有力探索。

“近年來，中國在人工智慧領域堅持統籌發展和安全，以發展促安全、以安全保發展，已取得令人矚目的成績。”姚旭介紹，2020年7月，中國發佈《國家新一代人工智慧標準體系建設指南》。2023年7月，中國的《生成式人工智慧服務管理暫行辦法》正式發佈，是全球範圍內最早的針對生成式人工智慧的監管方案。2024年3月1日，全國網路安全標準化技術委員會發佈了《網路安全技術 生成式人工智慧服務安全基本要求（TC260-003）》，對人工智慧服務安全方面的基本要求做出了規定。

“此外，中國在人工智慧全球治理中展現大國擔當，和美國、法國等建立高層級對話機制。2023年11月，中美元首三藩市會晤期間，兩國就建立人工智慧政府間對話機制達成重要共識。2024年5月，中美人工智能政府間對話首次會議成功舉行。2024年5月7日，中法兩國發佈《中華人民共和國和法蘭西共和國關於人工智慧和全球治理的聯合聲明》。”姚旭說。

推動全球人工智慧治理法治化進程

世界知識產權組織近日發佈的報告顯示，2014年至2023年，中國生成式人工智慧專利申請量超3.8萬件，居世界第一。高速發展催生了更為豐富的治理經驗和治理策略，中國通過各種國際對話平臺與世界交流分享。

“近年來，中國的人工智慧技術和產業都發展迅速，處於世界領先水準。”姚旭介紹，國家數據局局長劉烈宏在中國發展高層論壇2024年年會上表示，中國10億參數規模以上大模型數量已超100個。中國資訊通信研究院最新發佈的《全球數字經濟白皮書（2024年）》顯示，全球人工智慧大模型數量為1328個，中國大模型數量占比為36%，居世界第二。此外，中國正築牢人工智慧發展的人才培養底座。《紐約時報》援引保爾森基金會旗下智庫的研究稱，中國已經成為人工智慧人才的最大出產國，幾乎培養了全球一半的頂尖人工智慧研究人員。

“人工智慧快速發展一方面是基於科技產業精英主導的技術突破，另一方面也必須考慮應用落地的普適性和易用性。”姚旭說，中國在人工智慧技術發展和應用的過程中，始終關注場景落地時降本增效。在自動駕駛、智能製造、氣象預測、安全巡檢等各種場景中，中國產學研各界正在加速強化國際合作，將中國人工智能技術落地方案和世界各國尤其是南方國家充分共用。此外，共建“一帶一路”國家在傳統基礎設施、數字基礎設施和數據基礎設施領域的協同共建，是推動普惠發展、彌合智能鴻溝的重要基石。

據人工智慧、演算法、自動化事件和爭議資料庫顯示，2021年新報告的人工智慧事件和爭議數量是2012年的26倍。其中生成式人工智慧引發的虛假資訊問題尤為突出。由於虛假資訊面向的是互聯網資訊內容領域，因此其產生的影響具有行業和場景的廣泛性。

“加強人工智慧治理規則的全球協作日益成為各方共識。”張欣說，人工智慧技術的突破式發展導致新舊風險疊加，影響社會倫理秩序，帶來了一系列安全和倫理挑戰。例如，生成式人工智慧的發展既導致傳統技術風險加劇，又帶來了一系列新興風險。尤其在人工智慧研發和應用環節對個人隱私和數據安全帶來了數據洩露、數據濫用、侵犯個人隱私等隱患。而與傳統技術風險有所不同，人工智慧技術風險具有隱蔽性、跨域性、全球性、長期性，需要從國際層面展開持續性、系統性和協同性的治理努力。此外，由於人工智慧的技術迭代以日為單位，若不在早期實施有效的介入治理，則可能出現後期風險難以控制的治理困境。各國雖在人工智慧治理思路和具體方案上存在差異，但從數據安全和個人隱私保護的視角對人工智慧訓練環節施加規制和約束已成為共識。

“全球人工智慧治理還呈現‘法治化’特徵，從早期以科技倫理、技術標準、自律承諾等為代表的軟法治理，逐步轉向一種更為成熟的‘軟法與硬法雙軌並行、剛柔並濟’的新型治理模式。”張欣說，各國雖就人工智慧治理提出了多元化的治理理念和治理路徑，但通過法治化道路為人工智能治理提供“制度圍欄”已在國際層面形成廣泛共識。中國推出了《科技倫理審查辦法（試行）》和《生成式人工智慧服務管理暫行辦法》，提出了人工智慧治理的中國方案。《全球人工智慧治理倡議》中關於逐步建立健全人工智慧領域的法律和規章制度的提議，不僅是為國際社會貢獻中國智慧和中國經驗的重要舉措，也是中國在推動全球人工智慧治理法治化進程中扮演關鍵角色的重要體現。

各國需在形成充分共識基礎上通力協作

由於技術發展水準和文化背景差異，各國對人工智慧風險的感知也顯著不同。斯坦福大學人工智慧研究所發佈的《2023年人工智慧指數報告》引用調查機構易普索（IPSOS）2022年的調查指出，部分發展中國家對人工智慧普遍更加樂觀。如78%的中國受訪者同意“使用人工智慧產品和服務的好處多於壞處”的觀點，76%的沙烏地阿拉伯受訪者和71%的印度受訪者認為人工智慧產品“利大於弊”。德國、荷蘭、澳大利亞、比利時和加拿大等一些發達國家對人工智慧產品和服務的評價則稍顯負面。

“當前，全球人工智慧治理面臨不少挑戰。”姚旭說，一是一些國家將人工智慧等科技領域安全泛化，在合作當中設置了諸多藩籬。二是人工智慧全球治理的總體架構尚不明確。各個層面建立何種機制更為有效尚未明確，全球範圍內人工智能治理的制度競爭正變得愈發激烈。三是人工智慧全球治理的思路尚未統一，具體的治理方案和標準上還有很多爭論，例如如何進行人工智慧安全分級標準界定，如何確立重點治理的人工智慧風險類別，如何將立法節奏和創新動力進行適配等。

張欣表示，現階段，全球人工智慧發展面臨的監管挑戰集中體現在5個方面：一是步伐困境。人工智慧監管框架發展跟不上技術發展迭代的速度。二是技術鴻溝。人工智慧模型越來越複雜，參數量越來越大，這導致原來構建的基於透明度的人工智慧治理框架應對乏力。三是資本逐利。人工智慧發展過程中資本的逐利可能導致技術異化。四是歸責框架仍不清晰，對人工智慧產生的風險和損害如何有效歸責仍然是一項亟待解決的問題。五是協作治理機制尚不健全。由於人工智慧帶來的很多風險具有全球性，各國需要在形成充分共識的基礎上通力協作。但目前的人工智慧全球治理格局初步形成，仍然有碎片化特徵，需要採取更多措施構建共建共治共用的全球治理機制。

《人工智慧全球治理上海宣言》提出，宣導開放與共享的精神，推動全球人工智慧研究資源的交流與合作。建立合作平臺，促進技術轉移與成果轉化，推動人工智慧基礎設施公平分配，避免技術壁壘，共同提升全球人工智慧的發展水準；宣導建立全球範圍內的人工智慧治理機制，支持聯合國發揮主管道作用，歡迎加強南北合作和南南合作，提升發展中國家的代表性和發言權；鼓勵國際組織、企業、研究機構、社會組織和個人等多元主體積極發揮與自身角色相匹配的作用，參與人工智慧治理體系的構建和實施。

作為全球最大的發展中國家，中國始終將發展中國家的期待與需求放在重要位置。《全球人工智慧治理倡議》指出，增強發展中國家在人工智慧全球治理中的代表性和發言權，確保各國人工智慧發展與治理的權利平等、機會平等、規則平等，開展面向發展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。

中國常駐聯合國代表傅聰介紹加強人工智慧能力建設國際合作決議草案時表示，大多數國家特別是發展中國家尚未能真正接觸、使用人工智慧並從中受益，全球數字鴻溝仍有擴大之勢。在此背景下，中國順應廣大國家特別是發展中國家的期待，宣導人工智慧能力建設國際合作，平等發展和利用人工智慧技術，共用人工智慧知識成果，體現了中國對人工智慧發展和治理的負責任態度。

清華大學人工智慧國際治理研究院副院長肖茜日前表示，作為推動人工智慧技術和治理發展的重要國家，中國在不同場合提出為發展而治理，以聯合國為核心的治理模式，豐富了人工智慧全球治理的理論與實踐，使大多數還沒有享受人工智慧發展紅利、沒有從人工智慧發展中受益的廣大發展中國家看到了希望。她還表示，發展與安全作為人工智慧治理的一體兩翼，應當平衡推進。安全不是人工智慧治理的全部，更不是發達國家俱樂部的專利。人工智慧全球治理應致力於在聯合國框架內團結全球更多國家，調動多元力量。國際社會在持續推進人工智慧安全治理進程的同時，應推動技術開源開放、人才交流互通，幫助更多的國家和人群享受人工智慧發展成果。（賈平凡）