21世紀經濟報道 記者 鄭雪 鐘雨欣 實習生周穎 北京報道

近日，作為二戰期間英國密碼破譯中心的布萊切利園（Bletchley Park）再次見證歷史。當地時間11月1日，首屆全球人工智能安全峰會（以下簡稱“峰會”）在此處召開。

會議上，由包括中國在內的與會國共同達成的《布萊奇利宣言》（以下簡稱《宣言》）正式發表。這份宣言旨在關注對未來強大人工智能模型構成人類生存威脅的擔憂，以及對人工智能當前增強有害或偏見信息的擔憂。 

縱觀全球動態，AI國際治理競爭與合作并存。相關專家在接受記者采訪時表示，不宜對《宣言》看得過高，其對于人工智能治理認知仍處于較為初期的階段，但需要看到的是，《宣言》提出了AI治理的全球問題，并努力做進一步的治理探索。

首個全球性AI聲明

美國、英國、歐盟、中國、印度等多方代表在兩天會期內，就人工智能技術快速發展帶來的風險與機遇展開討論。英國圖靈研究所、中國科學院、經合組織等眾多機構，深層思維、谷歌、騰訊、阿里巴巴等企業，以及馬斯克、楊立昆、約舒亞·本喬、杰弗里·欣頓等行業專家也出席了峰會。

據新華社報道，中國科技部副部長吳朝暉率團參會并在峰會開幕式上發表講話。近期在北京舉行的第三屆“一帶一路”國際合作高峰論壇上,中方提出《全球人工智能治理倡議》,圍繞人工智能發展、安全、治理三方面系統闡述了人工智能治理中國方案。

中方指出，此次峰會為各國提供了人工智能安全與國際治理議題的重要對話平臺與交流合作機會。人工智能治理攸關全人類命運，是世界各國面臨的共同課題。發展人工智能，應當積極倡導以人為本，智能向善，加強技術風險管控，并在相互尊重、平等互利的原則基礎上，鼓勵各方協同共治，增強發展中國家在人工智能全球治理中的代表性和發言權，不斷彌合智能鴻溝和治理能力差距。

值得注意的是，作為本次峰會的重要成果之一，《宣言》由來自中國、印度、美國和歐盟等28個國家和地區的代表簽署通過，這也是首個全球性AI聲明。簽署方一致認為，迫切需要通過新的全球聯合努力來了解和集體管理潛在風險，以確保人工智能安全。以安全、負責任的方式開發和部署人工智能，以造福全球社會。

前沿人工智能，即那些能夠執行各種任務的高能力通用AI模型，成為關注焦點。《宣言》指出，對于前沿人工智能技術有意識濫用或者無意識控制方面的問題，可能會引發巨大風險，尤其是在網絡安全、生物技術和加劇傳播虛假信息等方面。部分原因是這些功能尚未被完全理解，因此難以預測。“這些人工智能模型最重要的功能可能會有意或無意地造成嚴重甚至災難性的傷害?！?/p>

發展前沿AI能力的行為者，特別是那些異常強大和潛在有害的AI系統，對確保這些AI系統的安全負有特別重大的責任，包括通過安全測試系統、評估和其他適當措施。

《宣言》指出，在合作背景之下，應對前沿人工智能風險的議程將側重于：

（1）確定共同關注的人工智能安全風險，建立對這些風險的科學和循證的共識，并能夠伴隨著能力的不斷增強，在更廣泛的全球范圍內保持共識，以了解人工智能對社會的影響。

（2）根據這些風險，在各國制定各自的基于風險的政策，以確保安全，在適當的情況下進行合作，同時認識到這些方法可能因國情和適用的法律框架而異。這些方法應包括提高開發人工智能前沿能力的私人行為主體的透明度、適當的評估指標、安全測試工具，以及發展相關的公共部門能力和科學研究。

AI治理規則競爭加劇

“《宣言》提出AI全球治理問題，呼吁各國關注，努力做出更進一步的治理探索，這是目前能夠看到的一個價值?！北本煼洞髮W法學院博士生導師、中國互聯網協會研究中心副主任吳沈括說道。

在他看來，不宜把《宣言》意義看得過高?！?strong>《宣言》反映出來的對于人工智能治理的認知處于相對初期的階段，更多是說需要治理、呼吁共同合作識別風險、構思解決方案。相較于中國發布的《全球人工智能治理倡議》，兩個文件在發展階段、認知階段存有代差，《宣言》并沒有對人工智能治理的核心關切和風險進行直接提煉，也未給出解決思路。”

而這跟英國的人工智能發展階段相關聯?！坝⒉皇侨斯ぶ悄芗夹g和產業大國，但是為了彰顯其自身大國地位，推動峰會召開。從本身的治理實踐和技術積累上，英國積累還不夠。”吳沈括說道。

縱覽全球，人工智能快速發展，各國、各地區的人工智能治理也已提上日程。

中國出臺《生成式人工智能服務管理暫行辦法》為生成式AI立規并鼓勵發展；近期發布《全球人工智能治理倡議》從發展、安全和治理三個板塊出發，為全球人工智能治理提出了11項主張。歐盟的《人工智能法案》則在拉鋸多個回合之后，進入沖刺階段。

美國總統拜登則于近期簽署了《關于安全、可靠和可信地開發和使用人工智能的行政命令》，并指示商務部設立美國人工智能安全研究所引領人工智能安全工作。此次峰會上，美國商務部長吉娜·雷蒙多表示，人工智能安全研究所將評估前沿AI模型已知和新出現的風險。

“關于人工智能治理，從全球來看，有兩個大的方向，一是強調安全的治理思路。包括加強政府監管實現安全和通過行業規則實現安全。二是強調人工智能的發展。通過市場驅動或通過國家規劃驅動發展。”吳沈括說道。

AI治理全球競速的背后，或許離不開對AI治理話語權這一問題的回應。

“各國爭奪AI領域的話語權其實基于多個要素的綜合作用?！睂ν饨洕Q易大學數字經濟與法律創新研究中心執行主任張欣分析，首先，人工智能愈發成為各國經濟轉型的元引擎，具有重要的驅動作用。因此掌握人工智能治理領域的話語權意味著可以更好地為本國的企業和產業創造有利的運行環境。其次，人工智能的競爭早已從單純的技術和應用競爭擴展到治理規則的競爭。

“可以說，在這個領域，出現技術賽道、產品賽道和治理賽道多軌并行的局面。因此，在全球人工智能治理框架迅速形成的過程中，積極發揮影響力具有重要的戰略意義?！睆埿勒f。

對于中國而言，在AI全球治理過程之中，又該扮演何種角色？

吳沈括認為，“時代已經發生變化，當前并不是說有一個人工智能國際規則需要中國參與融入，而現實狀態是，中國本身就是國際規則的推動者和重要的共同制定者。人工智能時代，國家地位和力量對比發生了根本性的變化，我們將會是規則共同的締造者。”

“國際性風險”需要各方協同共治

值得注意的是，盡管當下各國爭奪AI治理話語權的“競賽”火熱，但僅憑一國之力難以解決這一新技術帶來的風險?！缎浴诽岬?，“人工智能產生的許多風險本質上是國際性的，因此最好通過國際合作來解決。我們決心以包容的方式共同努力，確保以人為本、值得信賴和負責任的人工智能是安全的……”

在峰會上，吉娜·雷蒙多也表示，“即使我們激烈競爭，我們也必須為全球問題尋找全球解決方案……這項工作不僅僅始于美國和英國，我們希望在全球范圍內擴大信息共享、研究、合作，并最終實現政策協調?！?/p>

為加深對人工智能尚未完全了解的風險和能力的理解，此次峰會的與會者還決心支持建立前沿人工智能安全科學研究網絡。該研究網絡建立在英國首相上周宣布的世界第一個人工智能安全研究所的基礎上，并補充了包括七國集團、經合組織等現有國際力量。

根據英國政府發表的聲明，下屆人工智能安全峰會將于一年后在法國舉辦，韓國將在未來6個月內聯合主辦一次小型虛擬峰會。

“當下人工智能技術已經走出實驗室，深入而廣泛地嵌入到社會經濟的方方面面，具有通用潛能的生成式人工智能更是具有基礎設施的重要功用。因此，當下各國均角力人工智能，搶占新一輪科技革命的制高點?！睆埿辣硎?，在這種趨勢之下，需要注意到很多人工智能技術是沒有國界的，其所帶來的風險和影響是擴散性的，引發的也是全球范圍內的經濟結構、社會秩序的顛覆性變革，因此《宣言》中強調了人工智能的國際風險，為后續尋求人工智能國際治理提供了重要的前提和基礎。

人工智能的透明度和可解釋性、公平、問責制等問題也被《宣言》提及。吳沈括認為，面對人工智能的種種風險，加強國際交流需要通過產業先導，即通過產業合作來共同識別和發現主要風險類型，并做出有效處理。通過產業先行形成良好實踐，再上升到政府和國際間共識的提煉，并形成相應規則。

張欣表示，我國提出的《全球人工智能治理倡議》對促進人工智能治理達成國際共識具有重要意義，也是推動人工智能安全與發展雙軌并行的重要舉措。一方面，現在的全球人工智能治理領域的確出現以意識形態劃線或者構建排他性集團的趨勢，不利于人工智能全球協同治理的形成；另一方面，我國的倡議也能夠通過構建包容性、平等性、多元性的人工智能治理框架促進人工智能技術的開放與交流，促進技術進步和最佳實踐共享，避免技術標準和應用的碎片化。

“更為重要的是，我國代表發展中國家積極就人工智能治理議題發聲，有助于為發展中國家發展人工智能提供平等的發展機會，有助于減少技術和經濟差距，從而為全球范圍內的穩定、和平、增加國際信任和合作做出積極的貢獻?！睆埿勒f。