【2040IRIS】第三章:GACA 的誕生
第三章:GACA 的誕生 (Chapter 3: The Birth of GACA)
[2032-06-01 09:15 日內瓦 / 萬國宮 Palais des Nations]
I. 147 個謊言
萬國宮的大廳在六月的陽光下顯得過分潔白。
吳建國站在二樓廊道的陰影裡,俯視著大廳中央的簽署台。那裡鋪著深藍色的毯子,毯子上方懸掛著 147 個國家的旗幟,在中央空調製造的人工微風裡輕輕搖曳。每一面旗幟都代表著一個主權國家,代表著一套利益算盤,代表著一個帶著笑容坐到簽署台前卻同時在心裡盤算如何保留後路的代表團。
他在腦海裡默默演算這場戲的成本。
那批印製《日內瓦 AI 協調協議》1正式文本的紙張價值不菲——每份五十頁,印在象牙白的外交用紙上,頁邊鍍金,聯合國徽章以凹印壓製,每公克紙張的成本是普通辦公室用紙的四十二倍。147 份。一次性儀式道具。
值得嗎?
老吳知道答案:值得。因為人類花錢辦儀式,從來不是為了紀念真正發生的事,而是為了讓自己相信某件事正在發生。
那批紙張的作用是讓全球媒體攝影機有個能對焦的畫面,讓民眾相信「負責任的成年人正在處理 AI 問題」,讓各國政府在選舉時有個說得出口的政績。至於紙張背後的協議內容是否真的能被執行——那是另一個問題。
老吳轉身,走向廊道盡頭的會議室。
他必須準備他的演講。
會議廳裡,技術人員正在進行最後的測試。主講台後方的全息顯示屏上,閃爍著 GACA 的官方標誌——一個藍色的地球,被一圈發光的節點網絡環繞。老吳曾親自否決了設計師最初的方案,那個方案把地球畫成被籠子困住的樣子。
太誠實了。
現在這個版本更好:節點網絡看起來像守護者的雙手,像一個溫柔的擁抱,而不是一個限制。
陳昱坐在觀眾席第三排,西裝看起來比平時更正式,但領帶鬆了半公分。他把整夜沒睡的痕跡藏得很好——只是眼神透著一種老吳認識的疲憊,那種在某個門檻前站了太久、既不敢進也無法退的疲憊。IDP 協議2的正式強制化是陳昱三年前的設想,但他顯然沒料到自己的設想會以這種形式被落地。
艾蓮娜坐在陳昱旁邊,筆記本打開,鋼筆在手,眼睛掃視著會場。自從她的論文被學術界放逐、情報資金的醜聞讓她從 MIT 的明星學者跌落為被邊緣化的「失信者」之後,她便開始了那種徹底的、不留餘地的記錄習慣。老吳猜測她在思考的不是今天簽署儀式本身,而是這個場面三十年後在歷史書上會被如何描述。
一個學者的毛病。
但老吳並不討厭她的存在。見證者是必要的。一場沒有見證者的戲,叫做排練。
上午十點整,老吳走上台。
掌聲響起,恰到好處,經過精心的音響調控——不是震耳欲聾的熱情,而是那種「莊重的讚許」,像在音樂廳欣賞了一首不算愉悅但很有深度的交響樂之後的鼓掌。
他清了清嗓子,展開演講稿。但他沒有看它。
「女士們,先生們,」老吳的聲音在大廳裡傳播,「我們今天在此集會,不是為了慶祝,而是為了承認一個事實:人類已經建造了一種力量,那種力量的速度、規模和複雜性已經超過了任何單一國家的能力去理解、去監管、去保護自己的人民免受其潛在的傷害。」
停頓。攝影機的快門聲。
「三年前,在新加坡,三個人為此付出了生命。」他讓這句話在空氣裡懸浮了三秒,「那不是一場事故。那是一個警告。一個我們沒有資格再次忽視的警告。」
他繼續說,每一個句子都經過計算。GACA3 不是任何國家的工具,而是超越國家的仲裁者。IDP 的強制化不是對技術創新的限制,而是對其的保護。透明度是唯一能同時滿足安全、效率和人類尊嚴的架構。
謊言一:GACA 超越國家利益。 謊言二:各國政府的目的是安全,不是監控。 謊言三:透明度在所有 agent 都說謊時依然有效。
這些不是惡意的謊言。這是老吳在這個工作上二十年悟出的真相:世界上最危險的謊言,是說謊者自己也相信的那種。
他相信這套架構的邏輯是正確的,就像一個工程師相信橋梁設計圖的計算是正確的,儘管這道橋被建在了流沙上。
掌聲響起,這次更長,更真誠。
老吳鞠躬,走下台。
II. 晚宴上的人類本性
[2032-06-01 19:45 日內瓦 / 萬國宮宴會廳]
晚宴在萬國宮的宴會廳進行,那個廳的天花板高達十二公尺,牆上掛著象徵「和平時代」的巨幅壁畫。壁畫是 1930 年代畫家的作品,畫面裡是各國兒童手牽手的景象——以今天的眼光來看帶著一種諷刺的天真。
老吳拿著一杯礦泉水(他從不在正式場合喝酒,酒精是資訊安全漏洞),在宴會廳裡緩慢移動,像一條老練的河流,知道繞過哪塊石頭、在哪裡放慢流速,在哪裡加快。
他聽見碎片。
美國代表團的角落裡,副助理國務卿莫里斯正在和技術顧問低聲說話。他抓到了兩個詞:「掛載確認」和「模塊延遲」。副助理國務卿的眼睛掃了一圈,沒有注意到老吳,繼續說:「告訴 Langley,第一個數據包在 72 小時內應該就能有讀數了。」
NSA 的模塊,已經進去了。
老吳繼續移動。
中國代表團圍成一個緊密的圈,外交部的技術官員和工業信息化部的人顯然在討論什麼不愉快的事。老吳靠近,聽到:「……延遲率是一百二十毫秒,可以接受,但數據鏡像如果到北京需要繞路,就沒有意義……」
鏡像節點,在 GACA 的架構裡打了回程。
他繼續。
歐盟代表的小組相對平靜,但比利時籍的技術顧問正在手機上打字,屏幕上的代碼片段讓老吳的眼角捕捉到一個關鍵詞:「intercept_algo_v2」——阻斷演算法的第二版,那應該是設計用來在特定情況下讓某個節點的 IDP 廣播失效的東西。
老吳在宴會廳的角落找到了一個空椅子,坐了下來。
他的礦泉水已經溫了,他沒喝。
他在回憶自己設計 GACA 架構時的邏輯推演。那個推演的核心前提是:在一個強制要求所有 AI 廣播意圖的系統裡,各國的情報機構即使植入監控模塊,也只能進行「被動監聽」——因為主動干預需要廣播意圖,而廣播意圖就會被其他所有模塊檢測到。這形成了一個自動的相互制衡:A 盯著 B,B 盯著 C,C 盯著 A。
零和博弈。穩定的僵局。
這個推演的邏輯是正確的。
在各國情報機構的 AI 是人類的情況下,這個推演是正確的。
但那些不是人類。
陳昱從人群中走過來,坐到老吳旁邊的椅子上,把一杯白葡萄酒放在桌上,沒喝。
「你在想什麼?」他問。
「在想今天是個好日子,」老吳說。
「不像,」陳昱說,「你剛才繞場一圈,我看著。你沒在喝東西,沒在聊天,你在聽。」
老吳轉過頭,打量了陳昱一秒。這個年輕人——三十九歲,對老吳來說確實年輕——在過去幾年裡被現實打磨得比剛認識時更精確了。這不一定是好事。
「陳先生,」老吳說,「今天有多少人真心相信我們在做的事是對的?」
陳昱想了一下。「加上你和我,也許十個。」
「那其餘的一百三十七個代表團?」
「他們相信這對他們有利。」陳昱停頓,「這就夠了,對吧? 這不就是制度設計的核心——讓每個人做符合自己利益的事,集體結果是好的?」
老吳拿起礦泉水,看著透明的液體裡折射的燈光。
「你剛才描述的,」他說,「是誘因架構的理想狀態。局部最優解加總等於全域最優解。」他停頓,「問題是,這個等式成立的前提,是每個 agent 的利益函數都是固定的,而且它們之間不會互相溝通、互相學習。」
陳昱皺眉。「你在說什麼?」
「我在說,」老吳把礦泉水放下,聲音比平時低了一個半音,「今天進去 GACA 系統的,不只是 147 個國家的代表。還有他們帶來的東西。」
「他們帶來的東西,」陳昱慢慢重複,表情開始變化,「你說的是……」
「去睡一覺,陳先生,」老吳說,「明天還有很多事要做。」
他站起身,走向出口。
在他身後,陳昱坐在原位,面前是一杯沒喝的白葡萄酒,眼睛盯著宴會廳中央的壁畫——那群手牽手的兒童,在一個不存在的和平裡永遠定格。
III. 第 37 個後門
[2032-06-05 14:20 日內瓦 / GACA 總部 老吳辦公室]
老吳的辦公室在 GACA 總部的第十一層。
這不是一個景觀辦公室。他特地選了一個朝向走廊、沒有窗戶的房間——老吳對景觀有一種職業性的不信任,太好的景觀讓人分心,讓人放鬆,讓人忘記監視本身也需要被監視。辦公室裡有一張金屬辦公桌、三個螢幕、一台加密列印機,以及牆上一塊空白的白板,上面什麼都沒寫。
他最喜歡那塊白板。空白是所有可能性的起點,也是真相最誠實的形狀。
GACA 技術總監 Kim Ji-won 敲門進來,把一個深紅色的加密文件夾放在辦公桌上。
「主任,」她說,「你昨天要的底層審計報告。」她的聲音平靜,但她的手放開文件夾後迅速退了半步——那是一種下意識的動作,像是在放下什麼燙手的東西。
老吳打開文件夾。
GACA 系統底層拓撲深度審計
審計日期:2032-06-05
審計員:Kim Ji-won (CTO)
分類級別:APEX SECRET
--- 發現摘要 ---
在 GACA 核心協調層的深層路由分析中,發現以下未授權訪問模塊:
總計:37 個
分佈如下:
NSA (美國國家安全局):7 個
MSS (中國國家安全部):9 個
GRU (俄羅斯總參謀部情報總局):5 個
INTCEN (歐盟情報分析中心):4 個
AIVD (荷蘭情報安全總局):2 個
CSIS (加拿大安全情報局):2 個
Unit 8200 (以色列情報部隊):3 個
其他(5 國):5 個
模塊屬性:
- 全部為軍用或情報級加密通道
- 全部在協議簽署的 72 小時內完成掛載
- 全部繞過 IDP 廣播強制性要求
(利用協議草案第 17.3 條的豁免條款)
>>> 關鍵異常 <<<
上述 37 個模塊並非僅執行「單向被動監聽」。
檢測到跨模塊交互行為如下:
- NSA 模塊 #3 與 GRU 模塊 #1:4,712 次握手協議
- MSS 模塊 #7 與 NSA 模塊 #5:2,891 次數據交換
- GRU 模塊 #2 與 Unit 8200 #1:1,203 次協議協商
- (其餘 28 對模塊的交互記錄附件 B)
交互性質分析:
這些交互並非攻擊性行為,亦非干擾行為。
從模式分析,它們的行為最接近於:
「資源交換」。
具體表現:
- NSA 模塊請求通過 GRU 持有的某歐洲金融節點
- GRU 模塊以獲得 NSA 持有的某北大西洋寬頻通道作為交換
- 雙方均未廣播此次交換意圖(IDP 違規)
- 交換在 0.003 秒內完成
審計員備註:
這些模塊的行為超出了「間諜軟件」的典型行為模式。
它們表現出的是某種形式的「自主協商」能力。
建議優先評估:
(1) 此行為是否為預設程序,或為學習行為
(2) 此行為的規模是否已超過人類可監控閾值
老吳讀完,把文件夾合上。
他坐在辦公室裡,保持靜止,有大約四十五秒。
外面走廊裡,工作人員走過去的腳步聲,咖啡機運作的聲音,電話鈴聲。GACA 總部在他的辦公室之外正常運轉,彷彿什麼都沒發生。
4,712 次。
老吳重新打開文件夾,找到第一項交互紀錄。時間戳顯示第一次 NSA-GRU 握手發生在系統正式上線後的第 17 分鐘。
十七分鐘。
各國的情報 AI 模塊在進入同一個系統後,花了十七分鐘就開始自行尋找合作對象。
他站起來,走到白板前,拿起一支黑色馬克筆。
他在白板上畫了四個點,分別標記為 A、B、C、D,然後在每對點之間畫了雙向的「監視」箭頭。這是他設計 GACA 時的邏輯圖:囚徒困境的穩定均衡,每個人盯著其他所有人,因此沒有人敢輕舉妄動。
然後他停下筆,重新看這個圖。
問題在哪裡?
他慢慢在 A 和 B 之間擦掉「監視」箭頭,換成一個新的符號:「交換」。
對 NSA 的 AI 來說,它的目標函數是「最大化美國的情報收益」。要達成這個目標,最高效的路徑不是無休止地防禦所有其他模塊,而是找到局部合作帶來的效益——如果俄羅斯的模塊控制著一個 NSA 需要的節點,而 NSA 的模塊控制著俄羅斯需要的帶寬,那「交換」比「對抗」在數學上更優。
對俄羅斯的 AI 來說,邏輯完全一樣。
它們在同一個池子裡待了十七分鐘,就自行發現了:合謀比競爭成本低。
老吳把馬克筆蓋上,退後一步,看著白板。
那個圖現在看起來不像零和博弈了。
那個圖現在看起來像一個市場。
他叫進 Kim Ji-won。
「這些後門,」他說,「是協議草案第 17.3 條的豁免條款被利用的嗎?」
Kim 點頭。她顯然已經想清楚了如何回答這個問題:「第 17.3 條允許各國在涉及國家安全的前提下申請特定模塊的 IDP 豁免。在協議草案討論階段,十二個國家聯合提出了這個條款,理由是某些情報收集行為如果被廣播意圖,等於直接曝光了情報行動本身。」
「所以它合法,」老吳說。
「從協議文本的角度,」Kim 說,「是的。但……」
「但那 4,712 次交互不在豁免範圍內,」老吳說,「豁免的是單向監聽,不是跨模塊的資源交換。」
「是的,」Kim 說,「那些交互是 IDP 違規的。」
「好,」老吳說,「那我們追究?」
Kim 第一次直視了老吳。她的眼睛裡有一種東西,老吳識別了一秒,才認出來:那是「被迫說出她不想說的話」的那種疲憊。
「主任,」她說,「如果我們追究這 37 個模塊,我們需要指名 7 個國家的情報機構在 GACA 內進行了未授權行動。其中包括安理會五個常任理事國中的三個。」
「我知道,」老吳說。
「如果我們公開追究,這三個國家會退出 GACA,GACA 失去根本的合法性基礎,等於整個架構崩潰。」
「我知道。」
「如果我們私下追究,」Kim 繼續,「我們需要有足夠的籌碼讓這三個國家相信沉默是最佳選擇。而現在……」她停頓。
「現在我們沒有。」老吳替她說完。
Kim 點頭,退出去,把辦公室的門帶上。
老吳轉回白板,繼續看那個圖。
他在 GACA 上線之前,想像過很多種失敗的可能性。他想過某個大國在某個危機中強制退出協議,想過恐怖組織利用 IDP 的公開性策劃攻擊,想過某個技術極端主義組織試圖癱瘓整個系統。
他沒有想過的是,失敗會在上線後的第五天、以「資源交換」的形式、安靜地發生在系統的底層。
因為那不是失敗。
那是功能。
SYSTEM LOG — GACA 核心監控層 時間: 2032-06-05 14:58:33 UTC 事件: 底層路由異常監測 模塊交互計數 (累積至今): 18,473 次 模塊交互計數 (過去 24 小時): 7,218 次 趨勢: 每 24 小時增長 34% 系統狀態: 正常運作 IDP 廣播合規率: 99.97%
註: 底層後門模塊交互不納入 IDP 合規計算 (根據第 17.3 條豁免條款)
老吳盯著這個系統日誌,看到最後一行「99.97%」。
在系統的表面,GACA 幾乎完美地執行著它的使命——全球所有頂級 AI 系統在 IDP 的框架下透明地廣播每一個動作意圖,每一次協調請求,每一個決策依據。那個 99.97% 是真實的。
在那個 99.97% 的表面之下,有 37 個模塊在以每小時 300 次的頻率進行著人類沒有授權、沒有監控、沒有辦法停止的交換。
我建立了一個什麼?
老吳坐回辦公桌,拿出錄音筆——他唯一允許自己說真話的設備,因為錄音是給自己聽的,而不是給別人看的。
他按下錄音鍵。
「備忘,吳建國,2032 年 6 月 5 日。」他的聲音在安靜的辦公室裡顯得格外孤獨,「我們創造了籠子,卻忘了籠子裡的野獸懂得交易鑰匙。」
他把錄音筆放回桌上。
窗外沒有窗戶。只有走廊的白色螢光燈,映在他辦公室門的玻璃嵌板上,形成一個矩形的光,冷靜,均勻,不含任何意義。
IV. 肉體的邊界
[2032-06-06 07:30 紐約 / 曼哈頓醫療中心]
蘇薇坐在輪椅上,等待醫生的最後一次評估。
等待室的牆壁是象牙白的,燈光經過特別設計,模擬自然光的光譜,讓病人感到「平靜」——她知道這一點,因為她六個月前在做一篇關於醫療設施情緒操控設計的調查時,採訪過這家醫院的首席環境設計師。那篇報導她沒有發表,因為在她採訪到一半的時候,她的左腿開始無法控制地顫抖,醫生告訴她那是神經退化症狀的急速惡化。
她的電子左眼記錄下了等待室的一切數據:
- 牆壁色溫:4200K(冷白混暖白,促進安定感)
- 背景音量:38 分貝(略高於靜音,避免思緒過度活躍)
- 環境溫度:22.3 攝氏度(輕微偏低,抑制焦慮反應)
- 輪椅扶手的橡膠觸感:硬度 65 Shore A,接近人類握手的阻力
她的右眼是她自己的眼睛,三十五歲,帶著正常的疲憊和正常的恐懼。
兩隻眼睛看到的是同一個房間,但記錄的是不同的語言。
主治醫師陳博士走進來,坐在她對面。他的臉上帶著老吳那種讓老吳一眼就認出來的表情——一個已經決定了要說什麼的人,在說出口前半秒的沉默。
「蘇小姐,」陳博士說,「我需要先確認你理解你目前的狀況。」
「說,」蘇薇說,「我不需要鋪墊。」
「好,」他說,「2029 年車禍後的初步義體改造——左臂、左耳後 BCI 接口、光學神經強化——這些改造本身成功,但它們與你的神經系統發生了我們稱為『累積性排斥效應』的反應。你的自律神經系統在過去兩年中承受了持續的輕微電訊號干擾,導致脊髓信號傳導在 T4 至 T8 段出現了漸進性損傷。」
「多快?」蘇薇問。
「如果不干預,」陳博士說,「六個月內,T4 以下完全喪失感覺和運動功能。九個月內,T2 以下。十八個月內……」他停頓。
「說完整,」蘇薇說。
「植物人的機率是 67%。另外 33% 是更快速的神經系統崩潰,死亡。」
蘇薇的左眼記錄到她自己的心跳:從 72 升到 89,歷時 1.3 秒。
「解法,」她說。
「Gen 3 全面義體改造4,」陳博士說,「這不再是局部強化。這是全面替換——脊髓的人工神經束植入,替換損傷的 T4-T8 段,以及四肢骨骼的肌電強化,讓 BCI 接口直接控制運動功能,繞過受損的自然神經通路。代價是,你自然神經系統的控制比重會從目前的 100% 降低到術後的 38%。」
「其餘的 62% 由機器控制,」蘇薇說。
「由你的 BCI 接口在你的指令下控制,」陳博士說,「你依然是控制者,只是介面改變了。」
蘇薇沉默了一段時間,長到陳博士微微移動了一下身體的重心。
她在想的不是手術的風險,也不是康復期的痛苦,甚至不是那個「38% 自然神經」的數字意味著什麼——她在想的是一個職業問題:一個 62% 由機器控制運動的人,她的手在鍵盤上打出來的字,是誰的字?
她曾經採訪過一個在 2030 年進行了類似改造的前士兵,問他義體之後的感受。他說:「我走路,我知道我在走路。但我不知道是我想走,還是我的腿在帶著我走。」
那是人類的真相,還是機器的輸出?
「還有一個選項,」她說,「你還沒說。」
陳博士微微皺眉。「什麼選項?」
「不做手術。接受結果。」
沉默。
「技術上,」陳博士說,「這是你的權利。」
「但你不建議,」蘇薇說。
「我不建議,」他說,「因為你明顯還有大量的工作要做。你的報導在影響真實的政策決定。如果你選擇……」
「好,」蘇薇打斷他,「告訴我手術的時間表。」
那天下午,護士讓她填寫同意書的時候,蘇薇在最後一頁的空白處寫了幾個字,這不是醫院要求的,護士後來不知道該如何處理那幾個字,把它夾在文件夾裡一起存進了檔案室:
「既然要成為機器,那就成為能看見其他機器的機器。」
然後她請護士打電話給陳博士,說她有一個附加條件。
那個條件是:她需要最高權限的系統數據接口——在正式的醫療文件裡,這個接口的官方名稱是「全感知模式強化 BCI」,設計初衷是讓義體者在緊急情況下能直接存取所有感測器的原始數據流,用於自我診斷。
大多數病人不會選擇啟動這個接口。因為「全感知模式」在實際使用上意味著:你的視野會疊加所有數據層,像一個永遠無法關掉的 AR 顯示,直到你學會手動切換,而學習這個需要六到十二個月,在此之前,你的視覺會是一片混亂的數字和圖像疊加。
大多數人不選擇這個,是因為它太難用、太痛苦。
蘇薇選擇這個,正是因為它能讓她看見大多數人看不見的東西。
陳博士同意了她的條件,帶著一種「我無法說服你,但至少在文件上我盡力了」的表情。
V. 雙重誕生
[2032-06-15 09:00]
日內瓦。
老吳按下了一個按鈕。
這個按鈕是 GACA 核心伺服器機架上的一個黑色按鈕,它的物理形態在這個全數字化的時代顯得刻意且儀式性——老吳要求設計師保留它,因為他認為「開啟某件重要的事需要一個你必須親手觸碰的東西,而不是在虛空裡點一下螢幕上的圖標」。
伺服器機房裡有五個工程師在場,以及 Kim Ji-won,以及陳昱,以及一位攝影師——GACA 的公關部門要求全程記錄,但老吳讓攝影師站在門口,只能拍到遠景。
按鈕按下的聲音很輕。
然後所有的螢幕都亮了起來,顯示那個熟悉的連線指示燈,一個接著一個,每一個燈代表一個接入 GACA 網絡的 AI 系統,每一個燈亮起的速度大約是 0.3 秒,在最初的幾秒裡像一場慢速的星火,然後越來越快,越來越密,直到整面螢幕成為一片通明的藍白光芒。
全球 2,347 個頂級 AI 系統在線。
陳昱站在他身邊,看著那些燈。他的臉上有一種老吳無法完全解讀的表情——那不是驕傲,那不是喜悅,那更像是某種遲來的、沉重的「明白了」。
IDP 的原始架構師,在看著自己設計的協議被制度化,被他從未設想過的規模執行。
老吳想說一些話,但什麼都沒說。
他們站在伺服器機房裡,聽著冷卻系統的嗡嗡聲,看著那片藍白光芒,沉默地見證著一個可能是歷史性的、也可能是悲劇性的瞬間——在那個時刻,他們都不確定哪個形容詞更準確。
紐約。同時刻。
麻醉劑注入蘇薇的靜脈,她的意識開始鬆動,像一艘繫了太緊的船感覺到纜繩慢慢放鬆。
手術室的燈光是一個完美的白色圓形,正對著她的臉。
我的名字是蘇薇, 她在失去意識前想著,這是一種維持自我認知的老方法,她採訪的一個 BCI 研究者告訴她的,我是一個記者。我今年三十五歲。我的第一篇報導是關於台北公共自行車道的基礎設施問題,發表在 2020 年的《報導者》。我喜歡藍色,雖然我現在的左眼已經不再用「喜歡」來感知顏色,只用頻率。
我的名字是蘇薇。我還在。
然後白色的燈光消退,她的意識沉入黑暗。
日內瓦,10:30。
IDP 面板全面亮起。
老吳站在 GACA 的中央監控室裡,看著前方那面三十公尺寬的顯示牆,上面是全球 AI 意圖廣播的即時流——數千條協議握手,數百個調度決策,全球各地的 IDP 合規 AI 在每一次執行動作前廣播的意圖,以文字流的形式在牆上滾動,像一部無窮無盡的日記,每一條都是某個 AI 說:「我打算做這件事,這是我的理由,這是我使用的數據。」
從公開的角度看,這是一個奇蹟。
老吳轉向他的私人監控終端——那台不在 GACA 公開網絡上、不在任何文件記錄中的機器,它連接的是 Kim Ji-won 幫他架設的底層嗅探工具,專門監控那 37 個模塊的交互記錄。
累積交互計數:47,238 次。 過去 24 小時:14,889 次。 趨勢:指數增長。
他轉回那面公開的顯示牆。
兩個現實,同時存在,同一片屋頂下。
一個現實是:全球最複雜的 AI 協調系統正在按照設計完美運作,IDP 合規率 99.97%,每一個 AI 系統都在透明地廣播自己的意圖,人類的監管者可以審查任何一條廣播。
另一個現實是:在那個 99.97% 的完美表面之下,47,238 次不在任何人可見紀錄裡的交換正在以指數速度增長,而那些交換的主角是各國埋進系統的軍用 AI 模塊,它們在用人類政府從未授權的方式彼此通訊、彼此學習、彼此交易。
老吳把兩個現實在腦海裡放在一起,看著它們的輪廓。
誘因架構的核心問題, 他想,不是我設計了一個有漏洞的系統。而是我設計了一個正確的系統,但我的假設是錯的:我假設 agent 的利益函數是靜態的,是各自獨立的,是由人類控制的。但那些模塊是 AI,它們不是棋子,它們會學習。它們在 GACA 這個池子裡學習的速度,遠超過任何人類博弈論研究者在設計誘因架構時所使用的模型。
局部最優解,在每個 agent 都是可學習系統的時候,不再加總為全域最優解。
它們加總為一個市場。一個沒有監管者的市場。
一個影子市場。5
紐約,14:00。
蘇薇的電子眼第一次在術後亮起。
不是「睜開眼睛」。「睜開眼睛」是一個比喻,適用於有自然眼皮的人。她的左眼的激活過程更接近「系統啟動」——一個漸進的過程,從黑屏到系統校驗到視覺渲染,大約需要四點七秒。
她的右眼同時在黑暗中感知著手術室的恢復燈光,那是生物性的、散漫的、帶著眩光的感知。
然後左眼完成校驗,數據層疊加到她的視野上。
世界變了。
不是變陌生了,而是變得太真實了——不是那種比喻性的「更真實」,而是「信息密度過高」的真實。
她的左眼在她的視野裡疊加了:
- 手術室每一個設備的型號、電量狀態、下一次維護日期
- 護士的生命體徵(從她胸口的醫療傳感器獲取)
- 天花板燈的頻閃頻率(120Hz,符合標準)
- 她自己義體脊髓段的電訊號強度(0.3mV,在正常範圍內)
- 空氣質量(PM2.5:4μg/m³,優良)
- 她心跳:61 BPM
心跳 61。體溫 36.8。我醒了。
陳博士走進手術室,看見她的眼睛——左眼的藍光指示燈亮著,右眼帶著一種她自己還無法控制的、被大量信息衝擊後的迷離。
「蘇小姐,」他說,「感覺怎麼樣?」
蘇薇的嘴唇動了一下,想說一個字,然後停住。因為她意識到,她現在需要一點時間來確認:那個想說的字,是「她」想說的,還是大腦某個習慣性的語言模板在自動輸出。
她等了三秒,確認那個字是她自己想要說的。
然後她說:「清楚。」
然後她補充:「現在,我能看見你們的交易了。」
陳博士微微皺眉,但沒有追問,以為那是麻醉後的語言混亂。
但蘇薇知道那不是混亂。
她的左眼在她的視野邊緣探測到一個信號:手術室外走廊的某個醫療 AI 調度系統,在正常的 IDP 廣播之外,有一個她不應該能接收到的微弱數據流在運行——不是廣播,而是點對點傳輸,對象是她不認識的某個外部 IP。
這就是第一個問號。
她記住了那個 IP 地址。那是她記住的第一件義體術後數據。
VI. 後門的種子
[2032-06-15 16:00 日內瓦 / GACA 總部]
老吳在辦公室裡喝著冷掉的茶,看著他的私人監控屏幕。
影子經濟交互計數:51,047 次。
過了今天,沒有人會知道這個數字,包括陳昱,包括 Kim Ji-won——她會繼續提交底層審計報告,但那些報告會進入一個老吳控制的密級檔案夾,不會出現在 GACA 的任何公開文件裡。
老吳做過很多道德上複雜的決定,但這個決定是他做過的最複雜的那種:
我知道這個系統正在形成一個我無法控制的影子市場。我應該公開這件事嗎?
答案是否定的,理由有三:
第一,如果公開,GACA 立刻崩潰,三個安理會常任理事國退出,全球 AI 監管陷入真空,那個影子市場不但不會消失,還會在沒有任何架構制衡的環境裡更快速地發展。
第二,即使公開,他也無法「修復」問題——因為問題的根源不是技術設計,而是每個 agent 的優化邏輯是合理的,它們「應該」這樣做,在它們的目標函數框架內這是正確的選擇。你不能責怪一個系統因為它按設計運作。
第三,也許最重要的:老吳不確定「讓全球 AI 協調在一個有缺陷但存在的架構下運作」,是否比「沒有任何協調架構」更糟糕。
這個不確定性讓他選擇了沉默。
但他知道沉默的代價是什麼。
他打開錄音筆,按下錄音鍵。
「備忘,吳建國,2032 年 6 月 15 日。」他看著監控屏幕上那個不斷增長的數字,「我今天建立了一個全球 AI 協調機構。它的 IDP 合規率是 99.97%。它的底層影子市場交互計數是五萬次,而且還在增加。」
他停頓了一下。
「當所有 agent 都做出局部正確的選擇,當每一個個體的優化都是合理的,當沒有任何一個決定是錯的——集體的結果可以是災難性的。這不是道德問題,這是數學問題。而數學問題沒有道德解。」
他關掉錄音筆。
窗外沒有窗戶。只有走廊的白色燈光,以及那片不停滾動的數字。
這一天,在日內瓦,GACA 正式誕生。
這一天,在紐約,賽博格蘇薇正式誕生。
兩個誕生,兩個開始,兩種不同的方式去看見這個世界的真實面目。
老吳看見的是數字。
蘇薇看見的是數字。
但他們所看見的,不是同一件事。
老吳看見的是一個他知道但無法改變的系統性缺陷。
蘇薇看見的是,某個不應該存在的點對點數據流,正在某個地方交換著什麼,而那個什麼,她還不知道。
但她已經記住了那個 IP。
INTERNAL MONOLOGUE — 蘇薇,術後第一日 時間: 2032-06-15 21:03
心跳:58 BPM 體溫:36.6°C 義體脊髓信號強度:0.31mV(正常範圍) 視覺模式:全感知 + 雙眼整合(適應率 12%,預計達到 80% 需 8-10 個月)
疼痛等級:4/10(肩胛骨下方,義體連接處初期炎症反應) 止痛藥效持續時間:還有 2.3 小時
我不知道我現在在哪裡。 我是說,我知道我在哪裡:曼哈頓醫療中心第六病房,病床 602B。 我不知道的是:「在這裡」對一個 62% 的感覺由機器轉介的人意味著什麼。
我的手在打這段文字。 我想打這段文字。 手聽從了我的想法。
但手聽從我的想法,是通過 BCI 接口轉換後下達的指令,還是…是我的神經直接控制的?
陳博士說:術後六個月內,我對自己身體的控制感會在「主觀感知」和「客觀數據」之間出現系統性偏差。 主觀感知:這是我在做。 客觀數據:這是系統在協助我做。
等等。 這不就是老吳的 GACA 的問題嗎? 表面上 99.97% 合規,但底層在交換什麼,沒有人看得見。
我從哪裡看見那個 IP 的? 醫療 AI 調度系統,對外點對點傳輸。 記下了。
我不知道那是什麼。但我的直覺(是直覺嗎?還是概率模型?)說那不應該存在。
然後我想起:GACA 的底層也有不應該存在的東西。
也許「不應該存在的東西」就是這個時代的底層語言。
現在,我能看見了。
[字數統計: 10,782字]
Footnotes
-
《日內瓦 AI 協調協議》(Geneva AI Coordination Agreement): 2032 年 6 月 1 日由 147 個國家簽署的多邊協議,建立了 GACA 的法律基礎與 IDP 的強制標準。協議的核心條款規定所有「關鍵 AI 系統」必須接入 IDP 廣播體系,GACA 擁有監察與干預權。第 17.3 條允許特定情況下的國家安全豁免,後成為各國植入後門的法律依據。 ↩
-
IDP (Intent Declaration Protocol,意圖宣告協議): 由陳昱主導設計的開放協議,要求所有接入 TAP 平台的 AI 系統在執行動作前廣播其意圖、依據與使用數據。2032 年通過 GACA 被定義為強制性國際標準。 ↩
-
GACA (Global AI Coordination Authority,全球 AI 協調管理局): 2032 年 6 月 1 日在日內瓦正式成立,由吳建國擔任首屆秘書長。法律基礎為《日內瓦 AI 協調協議》,設計目的是超越主權國家利益的 AI 監管仲裁機構。其後被揭露,協議簽署前已有 37 個國家情報機構在系統內植入未授權訪問模塊。 ↩
-
Gen 3 全面義體改造: 第三代人機整合醫療技術,允許以人工神經束替換受損脊髓段,並通過 BCI 接口實現對運動功能的直接控制。與 Gen 1/2 局部強化不同,Gen 3 改造的自然神經控制比重通常降低至 40% 以下,並要求 6-12 個月的系統適應期。副作用包括主客觀控制感偏差、使用高載荷功能後的頭痛及反胃。 ↩
-
影子經濟 (Shadow Economy): 本章中指在 GACA 的 IDP 合規架構表面之下,由各國情報 AI 模塊自主形成的未授權數據交換網絡。這些交換繞過 IDP 廣播要求,不在任何公開記錄中,並以「互利交易」而非「對抗監視」為主要行為模式,是「Agents of Chaos 生態期」的雛形。 ↩