全球未做好应对人工智能紧急情况的准备

(SeaPRwire) –   想像一下，你醒來時發現網際網路閃爍不定，信用卡支付失靈，救護車駛往錯誤的地址，而你再也無法確定是否能信任緊急廣播。無論是由模型故障、犯罪使用還是不斷升級的網路衝擊所引發，由人工智慧驅動的危機可能會迅速跨越國界。

在許多情況下，人工智慧緊急情況的最初跡象可能看起來就像一般性的停機或安全故障。只有在事後（如果有的話），才會清楚地發現人工智慧系統在其中起到了重要作用。

一些政府和公司已經開始建立防護機制來應對這樣的緊急情況。《歐盟人工智慧法案》、美國國家標準與技術研究院的風險框架、七國集團（G7）廣島進程以及國際技術標準，其目的都是為了防止危害的發生。網路安全機構和基礎設施運營商也有應對黑客攻擊、停機和常規系統故障的操作手冊。所缺失的並不是修補伺服器或恢復網路的技術方案，而是在人工智慧成為快速發展的危機核心時，防止社會恐慌以及信任、外交和基本溝通崩潰的計劃。

預防人工智慧緊急情況只是工作的一半。人工智慧治理缺失的另一半是準備和應對。誰來決定一起人工智慧事件已經演變成國際緊急情況？當虛假訊息充斥公眾的資訊流時，誰來向公眾發聲？如果正常的溝通渠道受到影響，誰來維持政府之間的溝通渠道暢通？

各國政府能夠而且必須在為時已晚之前制定人工智慧緊急應對計劃。在即將開展的基於災難法和其他全球緊急事件經驗的研究中，我將探討現有的國際規則如何已經包含了人工智慧應對方案的要素。各國政府已經擁有了法律工具，但現在需要就如何以及何時使用這些工具達成一致。我們不需要新的、複雜的機構來監管人工智慧——我們只需要各國政府提前做好規劃。

如何為人工智慧緊急情況做準備

我們以前見過這種治理的一般模式。《國際衛生條例》允許世界衛生組織宣布全球衛生緊急狀態並協調行動。核事故條約要求在輻射可能跨越國界擴散時迅速通報。電信協議清除了法律障礙，以便緊急衛星設備能夠迅速啟用。網路犯罪公約設立了全天候聯繫點，以便警方能夠在短時間內進行合作。這些經驗表明，預先商定的觸發機制、指定的協調員和快速的溝通渠道能夠在緊急情況下節省時間。

人工智慧緊急情況也需要同樣的基礎。首先要有一個共同的定義。人工智慧緊急情況應該是由人工智慧的開發、使用或故障引發的特殊事件，這種事件可能造成嚴重的跨國危害，並超出任何單一國家的應對能力。關鍵是，它還必須涵蓋那些僅懷疑有人工智慧參與，或者人工智慧只是幾個可能原因之一的情況，這樣政府就可以在獲得確鑿的證據之前（如果最終能獲得的話）採取行動。大多數事件永遠不會達到那種程度。提前就定義達成一致有助於避免在最初的關鍵時刻陷入癱瘓。

接下來，各國政府需要一份實用的應對手冊。這份手冊的第一要素應該是定義一套共同的觸發機制和一個基本的嚴重程度等級，以便官員們知道何時將常規事件升級為國際警報，包括確定何時僅可信地懷疑有人工智慧參與而非確鑿證明的標準。第二部分應該包括指定一名能夠迅速召集各方的全球協調員，並由技術專家、執法合作夥伴和災難專家提供支援。第三部分應該是建立可互操作的事件報告系統，以便各國和公司能夠在幾分鐘內（而不是幾天）交換重要資訊。接下來，我們必須制定使用經過驗證的類比方法（如無線電）的危機溝通協議。最後，我們必須列出一份明確的連續性和控制措施清單。這些措施可能包括放緩高風險的人工智慧服務，或者將關鍵基礎設施切換到手動控制。

構建人工智慧緊急準備體系

那麼，誰應該監督這些人工智慧緊急準備工作呢？我的答案是：聯合國。

將這一體系納入聯合國架構有幾個原因。其一，人工智慧緊急情況不會顧及聯盟關係。以聯合國為基礎的機制能夠實現更廣泛的參與，並減少對立聯盟之間的重複工作。它可以向不具備先進人工智慧能力的國家提供技術幫助，從而避免讓少數大國承擔所有負擔。它還能增加合法性和約束力。特別權力必須合法、適度且可審查，尤其是當這些權力涉及數十億人使用的數位網路時。

這一國際層面的工作需要各國政府現在就採取的國內措施相配合。每個國家都應該指定一個全天候的人工智慧緊急聯繫點。應該審查緊急權力，以確定它們是否涵蓋人工智慧基礎設施。各部門的計劃應該與基本的事件管理和業務連續性標準相協調。應該通過聯合演習來模擬假訊息浪潮、模型故障和跨部門停機等情況。在敵對攻擊迫使升級之前，應該優先考慮向後量子密碼學過渡。各國政府還應該註冊可信的發送者和警報模板，以便在系統不穩定時，訊息仍能傳達給公民。

這些預防措施是必要的。有報導稱，與人工智慧相關的網路攻擊日益增多，許多國家已經經歷過小規模的停機、資料操縱嘗試和假訊息激增等情況，這些都預示著更大規模事件可能的樣子。此外，快速發展的人工智慧故障可能與如今高度互聯的基礎設施相結合，引發任何單一國家都無法單獨應對的危機。

這並不是呼籲建立一個新的全球超級機構，而是呼籲將現有的資源整合起來，形成一個協調一致的應對方案。我們需要一個借鑑這些工具並進行演練的人工智慧緊急應對手冊。

人工智慧治理的成效將體現在我們在最糟糕的日子裡的應對能力上。目前，世界還沒有應對人工智慧緊急情況的計劃——但我們可以制定一個。我們必須現在就著手構建，進行測試，並通過保障措施將其與法律相結合，因為一旦下一次危機爆發，就已經為時已晚。