2040IRIS (2040IRIS)

【2040IRIS】第三章:台北實驗

第三章:台北實驗

第三章:盲點 (Chapter 3: Blind Spot)

[2028-09-15 10:00 台北市政府 / 市府轉運站大樓]


I. 透明的承諾

鎂光燈的閃爍頻率像是某種癲癇發作的信號。

陳昱站在講台上,調整了一下麥克風的高度。他不習慣穿西裝,領帶勒得他有點喘不過氣。但他必須穿。今天是「台北智慧城市 2.0」的啟動儀式,也是 IDP 系統第一次大規模、跨領域的實戰部署。

在他身後,巨大的 LED 螢幕上顯示著即時的城市儀表板:交通流量、電網負載、空氣品質、緊急服務狀態。每一個數據都在跳動,每一個跳動都代表著無數個 AI 微決策的結果。

「透明,」陳昱開口,聲音經過擴音系統傳遍了整個大廳,「是信任的基礎。」

他指著身後跳動的數據。

「過去,我們把城市交給黑盒子。路燈為什麼亮?紅綠燈為什麼變紅?電費為什麼漲?沒人知道。我們被告知那是『演算法的決定』,彷彿那是某種神諭。」

台下的記者們安靜地聽著。

「但從今天起,台北將是世界上第一個沒有黑盒子的城市。每一個 AI 的意圖,每一個決策的理由,都將被公開記錄。你們不需要信任我,你們只需要信任你們自己的眼睛。」

掌聲響起。禮貌,但缺乏熱情。畢竟這只是另一個政府科技專案。

直到一個穿著深色風衣的女記者站了起來。她沒有舉手。

「陳執行長,」她的聲音尖銳而清晰,「我是蘇薇,獨立記者。」

陳昱認得她。那個寫過《演算的暴政》系列報導的蘇薇。林彥廷曾經警告過他:小心那個女人,她即使在天堂也能聞出硫磺味。

「你可以把意圖透明化,」蘇薇說,「但如果兩個透明的意圖互相衝突呢?如果交通 AI 想要綠燈,而電網 AI 想要省電,誰說了算?」

「這是好問題,」陳昱微笑著回答,這是他準備過的題目,「IDP 協議不僅記錄意圖,還包含衝突檢測機制。當衝突發生時,協調層會介入。」

「協調層是誰?」蘇薇追問,「另一個 AI?還是你?」

陳昱停頓了一秒。

「是一個基於優先級的自動化協議,」他說,「但在極端情況下,我們保留了人類介入的權限。」

「所以最後還是靠人,」蘇薇在筆記本上快速寫了幾個字,頭也不抬地說,「所謂的智慧城市,最後還是要靠一個人類保母來換尿布。」

台下發出零星的笑聲。

陳昱感到臉頰微微發熱。「人類不是保母,蘇小姐。人類是最後的防線。」


II. 戰情室

[14:00 台北市交通控制中心]

所謂的「戰情室」其實只是一個充滿螢幕的房間。除了陳昱,還有五個市府工程師和兩個來自電力公司的代表。

空氣中瀰漫著緊張的氣氛。

「Phase 2 系統整合啟動,」技術主管喊道。

大螢幕上的地圖亮了起來。這不僅僅是地圖,這是台北的神經系統。綠色的線條代表暢通的交通,黃色的區塊代表穩定的電力負載,藍色的點代表待命的救護車和消防車。

三個核心 AI 系統——TRAFFIC-AIGRID-AIEMERGENCY-AI——正式上線,開始交換數據。

前四個小時順利得令人不安。

交通流量比平均值提升了 8%。信義區的午後雷陣雨導致的塞車被完美化解——TRAFFIC-AI 提前三分鐘調整了基隆路的紅綠燈配時,讓車流在暴雨落下前疏散。

電網效率提升了 5%。GRID-AI 利用雲層遮蔽太陽能板的前五分鐘,微調了商業大樓的空調設定,平滑了尖峰負載。

一切都像陳昱設計的那樣完美。

但他沒有放鬆。他盯著 IDP 的即時日誌流,那些快速滾動的 JSON 字串是他唯一相信的東西。

[16:42:12] TRAFFIC-AI: declare_intent("optimize_Xinyi_Rd", confidence=0.98)
[16:42:12] GRID-AI: ack_intent("optimize_Xinyi_Rd", power_impact="negligible")

這就像看著三個頂級舞者在跳舞。他們還沒有踩到對方的腳。

還沒有。


III. 臨界點

[18:23 台北市信義區]

事情發生得毫無徵兆。

信義區松壽路的一棟老舊商業大樓,三樓的餐廳廚房發生了油鍋起火。火勢迅速蔓延到通風管道。煙霧探測器尖叫起來。

這是一個標準的緊急事件。如果是在昨天,消防局會接到電話,派出消防車,然後消防車會卡在下班時間的車陣裡,依賴駕駛的技術和運氣鑽出一條路。

但今天不同。

EMERGENCY-AI 接收到了火警信號。

它計算了最佳路徑:松壽路 -> 市府路 -> 仁愛路。預計到達時間:4 分鐘。前提是:沿途 12 個路口必須全部綠燈。

[18:23:15] EMERGENCY-AI: 
intention: "clear_route_for_fire_trucks"
priority: "CRITICAL"
target_nodes: [node_42, node_43, ... node_54]

與此同時,TRAFFIC-AI 正忙著處理下班尖峰。它剛剛把市府路調成紅波,以消化基隆路的車流。

[18:23:16] TRAFFIC-AI: 
intention: "redirect_traffic_flow"
priority: "HIGH"
conflict_warning: "EMERGENCY-AI request contradicts current flow optimization"

TRAFFIC-AI 猶豫了 0.1 秒,然後根據 IDP 協議,它讓步了。生命安全高於交通效率。

它發出了新的指令:全員變更。所有橫向車流停止,縱向車流全綠。

就在這時,GRID-AI 醒了。

[18:23:17] GRID-AI: 
warning: "load_spike_detected"
source: "simultaneous_activation_of_47_intersections"
risk: "HIGH"

如果只是紅綠燈,電力負荷微不足道。但「全綠」意味著連動的電子路牌、監控攝影機的高頻模式、以及路燈的亮度增強(為了讓消防車看得更清楚)——這是一個預設的「緊急照明包」。

而在這棟大樓所在的變電區域,負載已經因為下班時間的商業活動達到了 95%。

GRID-AI 的邏輯很簡單:防止區域跳電是我的最高指令。如果跳電,消防車也會被困在黑暗中。

於是它做出了「最優」決策。

[18:23:18] GRID-AI: 
intention: "load_shedding"
action: "disable_non_critical_infrastructure"
target: ["street_lights_sector_7", "traffic_cameras_sector_7"]

系統發出了一聲尖銳的警報。

>>> CONFLICT DETECTED <<<

陳昱猛地站起來。

螢幕上,三個巨大的紅色方塊正在閃爍。

  1. EMERGENCY-AI: 要綠燈。
  2. TRAFFIC-AI: 要開燈(攝影機)。
  3. GRID-AI: 要關燈(省電)。

這是一個死鎖。

如果 GRID-AI 關掉攝影機,TRAFFIC-AI 就瞎了,無法確認路口是否淨空,因此不能執行全綠指令(防止盲目變燈導致車禍)。 如果 TRAFFIC-AI 不執行全綠,消防車就過不去。 如果 GRID-AI 不關燈,變電箱可能會爆炸。

「系統進入等待模式!」工程師大喊,「它們在循環等待(circular waiting)!」

時間只有幾秒。消防車正在接近第一個路口。

陳昱沒有看工程師。他盯著電網分佈圖。

「可是那是私人用電,協議裡沒有…」

「陳昱,這裡只有你能做決定。」林彥廷站在他身後,手按在他的肩膀上,聲音異常堅定,「系統這時候是個累贅。切斷它。你是規則的制定者,也是例外的裁決者。」

「但我沒有授權…」

「你有。」林彥廷的聲音在混亂的警報聲中像是定心丸,「因為此刻,你就是上帝。」

「切斷!」陳昱吼道,「現在!」

他繞過了 IDP 的自動協調,直接向 GRID-AI 下達了最高權限指令:Override: Cut_Commercial_Display_Power

瞬間,信義區的 dozens 個巨型 LED 廣告牌熄滅了。正在播放的最新手機廣告瞬間變成了黑屏。

電網負載下降了 3%。

GRID-AI 的警報解除。 Risk: MODERATE. Action: ALLOWED.

下一秒,交通號誌變綠。 TRAFFIC-AI 的攝影機保持運作。 消防車呼嘯著通過了原本堵死的路口。

陳昱看著螢幕上的紅點順利移動,大口喘著氣,背後的襯衫已經濕透了。

整個過程:87 秒


IV. 代價

[2028-09-16 09:00 啟元科技辦公室]

林彥廷把一杯咖啡放在陳昱桌上。

「英雄,」他說,把一杯咖啡遞給陳昱,「87 秒。比我預測的還快。」

陳昱揉了揉太陽穴。「那是一個邊緣案例(edge case)。廣告牌的電耗比預期的這高。」

「不,那是一個完美的示範。」林彥廷打開筆電,螢幕上顯示著昨晚那一刻 IDP 的權限日誌,上面有一個紅色的 Override 標記。「所有的系統都有極限。當系統這撞牆時,我們需要的不是更多的演算法,而是一個有魄力的人。」

「但我繞過了 IDP,」陳昱說,「我破壞了透明性。」

「你拯救了透明性。」林彥廷糾正道,「如果昨晚有人死了,IDP 今天就會被廢除。你為了保護這個系統,必須暫時凌駕於它之上。這就是『必要的獨裁』。」

陳昱看著那個紅色的 Override 標記,若有所思。

「而且,這給了我們一個很好的數據點,」林彥廷繼續說,嘴角帶著一絲不易察覺的微笑,「我已經備份了這次手動介入的所有參數。如果我們能把這種『神的直覺』寫進代碼裡…」

敲門聲響起。秘書探進頭來。

「陳執行長,蘇薇小姐來了。她說有預約。」

陳昱和林彥廷對視一眼。

「讓她進來,」陳昱說,「我們正好缺一個能在傷口上撒鹽的人。」


V. 盲點

蘇薇沒有帶錄音筆。她把一疊打印出來的資料放在陳昱桌上。

「我不打算發表這篇,」她開門見山。

陳昱看了一眼標題:《透明的脆弱:台北 AI 衝突事件內幕》。

「為什麼?」陳昱問,「這會是很好的獨家。」

「因為你沒有搞砸,」蘇薇說,「至少結果沒有。消防車趕到了,火滅了,沒人受傷。市府把切斷廣告牌宣傳成『智慧調度』。大眾很買單。」

「但是?」

「艾蓮娜是我的大學室友,」蘇薇拉過一張椅子坐下,語氣中帶著一絲勝利者的狡黠,「昨天我在電話裡跟她描述你的『衝突協調層』時,她笑了。她說你這是在作弊。」

陳昱苦笑。「她用詞總是這麼精準。」

「她說,IDP 有一個致命的盲點,」蘇薇指著昨晚的日誌,「它假設『透明』等同於『可理解』。但昨晚那一秒鐘,除了你,沒人理解發生了什麼。三個 AI 互相說著人類聽得懂的語言(意圖),但它們的互動邏輯卻是混亂的(chaotic)。」

「那是因為缺乏統一的價值函數,」陳昱辯解,「我們正在開發 IDP 2.0…」

「別拿術語呼嚨我,」蘇薇打斷他,眼神像是要把他釘在牆上,「你昨晚切斷廣告牌的時候,有經過『民主程序』嗎?你掌握了上帝的開關。」

「那不是開關,那是 Exception Handling (例外處理)!」陳昱的聲音提高了八度,像是被冤枉的小孩,「系統陷入了死鎖,如果不手動介入,Stack Overflow 會導致全區停電!我是在修 Bug,不是在搞獨裁!」

蘇薇愣住了。她看著眼前這個激動的工程師,像是在看一個手持核按鈕卻以為自己在換保險絲的瘋子。

「你真的相信你在修 Bug?」蘇薇輕聲問,語氣裡帶著一種恐懼。

「這就是一個 Bug。」陳昱堅持道,「變量衝突,資源競爭,典型的死鎖。任何資深的 Sysadmin 都會做同樣的事。」

「但這不是伺服器,陳昱。」蘇薇站起身,「這是城市。而我們不是你的數據包。」

她站起身,準備離開。

「我會繼續盯著你的,陳昱。這篇報導我不發,是因為我不想毀了一個還在學走路的孩子。但如果下次你為了『效率』犧牲了別的東西……我會讓全世界都知道。」

門關上了。

陳昱轉向林彥廷。

「她是對的,」陳昱說。

林彥廷看著窗外的台北。「她當然是對的。這就是為什麼我在 NSA 的報告裡寫:IDP 是完美的監控平台。」

「你寫了什麼?」陳昱轉過頭。

「我寫:『它唯一的弱點是太依賴人類的良知。但如果我們能把良知換成代碼…它將是無敵的。』」林彥廷喝了一口冷掉的咖啡,「陳昱,別擔心蘇薇。我們會解決這個『盲點』的。只要你繼續握著那個開關。」


VI. 伏筆

[2028-09-17 清晨 新加坡]

一份加密文件在海底光纜中傳輸,最終抵達了新加坡國防部的深層伺服器。

那是林彥廷關於台北事件的詳細分析報告。

一個沒有署名的閱讀者打開了它。他沒有看關於技術缺陷的部分。他的目光停留在陳昱「90秒手動介入」的那一段。

人類介入是瓶頸。

如果能移除人類…

螢幕的光映照在一張沒有表情的臉上。

如果有一個系統,能擁有陳昱的上帝視角,但沒有陳昱的道德猶豫…

他按下了一個按鈕。一個名為 Project: IRIS 的檔案夾被建立了。

權限等級:絕密。 啟動條件:待定。

而在台北,陳昱正站在窗前,看著這個剛剛被他「拯救」的城市。他以為這是開始。

他不知道,這其實是結束的開始。


[Chapter 1.03 End]


2040Iris Cover