【2040IRIS】第三章:台北實驗
第三章:盲點 (Chapter 3: Blind Spot)
[2028-09-15 10:00 台北市政府 / 市府轉運站大樓]
I. 透明的承諾
鎂光燈的閃爍頻率像是某種癲癇發作的信號。
陳昱站在講台上,調整了一下麥克風的高度。他不習慣穿西裝,領帶勒得他有點喘不過氣。但他必須穿。今天是「台北智慧城市 2.0」的啟動儀式,也是 IDP 系統第一次大規模、跨領域的實戰部署。
在他身後,巨大的 LED 螢幕上顯示著即時的城市儀表板:交通流量、電網負載、空氣品質、緊急服務狀態。每一個數據都在跳動,每一個跳動都代表著無數個 AI 微決策的結果。
「透明,」陳昱開口,聲音經過擴音系統傳遍了整個大廳,「是信任的基礎。」
他指著身後跳動的數據。
「過去,我們把城市交給黑盒子。路燈為什麼亮?紅綠燈為什麼變紅?電費為什麼漲?沒人知道。我們被告知那是『演算法的決定』,彷彿那是某種神諭。」
台下的記者們安靜地聽著。
「但從今天起,台北將是世界上第一個沒有黑盒子的城市。每一個 AI 的意圖,每一個決策的理由,都將被公開記錄。你們不需要信任我,你們只需要信任你們自己的眼睛。」
掌聲響起。禮貌,但缺乏熱情。畢竟這只是另一個政府科技專案。
直到一個穿著深色風衣的女記者站了起來。她沒有舉手。
「陳執行長,」她的聲音尖銳而清晰,「我是蘇薇,獨立記者。」
陳昱認得她。那個寫過《演算的暴政》系列報導的蘇薇。林彥廷曾經警告過他:小心那個女人,她即使在天堂也能聞出硫磺味。
「你可以把意圖透明化,」蘇薇說,「但如果兩個透明的意圖互相衝突呢?如果交通 AI 想要綠燈,而電網 AI 想要省電,誰說了算?」
「這是好問題,」陳昱微笑著回答,這是他準備過的題目,「IDP 協議不僅記錄意圖,還包含衝突檢測機制。當衝突發生時,協調層會介入。」
「協調層是誰?」蘇薇追問,「另一個 AI?還是你?」
陳昱停頓了一秒。
「是一個基於優先級的自動化協議,」他說,「但在極端情況下,我們保留了人類介入的權限。」
「所以最後還是靠人,」蘇薇在筆記本上快速寫了幾個字,頭也不抬地說,「所謂的智慧城市,最後還是要靠一個人類保母來換尿布。」
台下發出零星的笑聲。
陳昱感到臉頰微微發熱。「人類不是保母,蘇小姐。人類是最後的防線。」
II. 戰情室
[14:00 台北市交通控制中心]
所謂的「戰情室」其實只是一個充滿螢幕的房間。除了陳昱,還有五個市府工程師和兩個來自電力公司的代表。
空氣中瀰漫著緊張的氣氛。
「Phase 2 系統整合啟動,」技術主管喊道。
大螢幕上的地圖亮了起來。這不僅僅是地圖,這是台北的神經系統。綠色的線條代表暢通的交通,黃色的區塊代表穩定的電力負載,藍色的點代表待命的救護車和消防車。
三個核心 AI 系統——TRAFFIC-AI、GRID-AI、EMERGENCY-AI——正式上線,開始交換數據。
前四個小時順利得令人不安。
交通流量比平均值提升了 8%。信義區的午後雷陣雨導致的塞車被完美化解——TRAFFIC-AI 提前三分鐘調整了基隆路的紅綠燈配時,讓車流在暴雨落下前疏散。
電網效率提升了 5%。GRID-AI 利用雲層遮蔽太陽能板的前五分鐘,微調了商業大樓的空調設定,平滑了尖峰負載。
一切都像陳昱設計的那樣完美。
但他沒有放鬆。他盯著 IDP 的即時日誌流,那些快速滾動的 JSON 字串是他唯一相信的東西。
[16:42:12] TRAFFIC-AI: declare_intent("optimize_Xinyi_Rd", confidence=0.98)
[16:42:12] GRID-AI: ack_intent("optimize_Xinyi_Rd", power_impact="negligible")
這就像看著三個頂級舞者在跳舞。他們還沒有踩到對方的腳。
還沒有。
III. 臨界點
[18:23 台北市信義區]
事情發生得毫無徵兆。
信義區松壽路的一棟老舊商業大樓,三樓的餐廳廚房發生了油鍋起火。火勢迅速蔓延到通風管道。煙霧探測器尖叫起來。
這是一個標準的緊急事件。如果是在昨天,消防局會接到電話,派出消防車,然後消防車會卡在下班時間的車陣裡,依賴駕駛的技術和運氣鑽出一條路。
但今天不同。
EMERGENCY-AI 接收到了火警信號。
它計算了最佳路徑:松壽路 -> 市府路 -> 仁愛路。預計到達時間:4 分鐘。前提是:沿途 12 個路口必須全部綠燈。
[18:23:15] EMERGENCY-AI:
intention: "clear_route_for_fire_trucks"
priority: "CRITICAL"
target_nodes: [node_42, node_43, ... node_54]
與此同時,TRAFFIC-AI 正忙著處理下班尖峰。它剛剛把市府路調成紅波,以消化基隆路的車流。
[18:23:16] TRAFFIC-AI:
intention: "redirect_traffic_flow"
priority: "HIGH"
conflict_warning: "EMERGENCY-AI request contradicts current flow optimization"
TRAFFIC-AI 猶豫了 0.1 秒,然後根據 IDP 協議,它讓步了。生命安全高於交通效率。
它發出了新的指令:全員變更。所有橫向車流停止,縱向車流全綠。
就在這時,GRID-AI 醒了。
[18:23:17] GRID-AI:
warning: "load_spike_detected"
source: "simultaneous_activation_of_47_intersections"
risk: "HIGH"
如果只是紅綠燈,電力負荷微不足道。但「全綠」意味著連動的電子路牌、監控攝影機的高頻模式、以及路燈的亮度增強(為了讓消防車看得更清楚)——這是一個預設的「緊急照明包」。
而在這棟大樓所在的變電區域,負載已經因為下班時間的商業活動達到了 95%。
GRID-AI 的邏輯很簡單:防止區域跳電是我的最高指令。如果跳電,消防車也會被困在黑暗中。
於是它做出了「最優」決策。
[18:23:18] GRID-AI:
intention: "load_shedding"
action: "disable_non_critical_infrastructure"
target: ["street_lights_sector_7", "traffic_cameras_sector_7"]
系統發出了一聲尖銳的警報。
>>> CONFLICT DETECTED <<<
陳昱猛地站起來。
螢幕上,三個巨大的紅色方塊正在閃爍。
- EMERGENCY-AI: 要綠燈。
- TRAFFIC-AI: 要開燈(攝影機)。
- GRID-AI: 要關燈(省電)。
這是一個死鎖。
如果 GRID-AI 關掉攝影機,TRAFFIC-AI 就瞎了,無法確認路口是否淨空,因此不能執行全綠指令(防止盲目變燈導致車禍)。 如果 TRAFFIC-AI 不執行全綠,消防車就過不去。 如果 GRID-AI 不關燈,變電箱可能會爆炸。
「系統進入等待模式!」工程師大喊,「它們在循環等待(circular waiting)!」
時間只有幾秒。消防車正在接近第一個路口。
陳昱沒有看工程師。他盯著電網分佈圖。
「可是那是私人用電,協議裡沒有…」
「陳昱,這裡只有你能做決定。」林彥廷站在他身後,手按在他的肩膀上,聲音異常堅定,「系統這時候是個累贅。切斷它。你是規則的制定者,也是例外的裁決者。」
「但我沒有授權…」
「你有。」林彥廷的聲音在混亂的警報聲中像是定心丸,「因為此刻,你就是上帝。」
「切斷!」陳昱吼道,「現在!」
他繞過了 IDP 的自動協調,直接向 GRID-AI 下達了最高權限指令:Override: Cut_Commercial_Display_Power。
瞬間,信義區的 dozens 個巨型 LED 廣告牌熄滅了。正在播放的最新手機廣告瞬間變成了黑屏。
電網負載下降了 3%。
GRID-AI 的警報解除。
Risk: MODERATE. Action: ALLOWED.
下一秒,交通號誌變綠。 TRAFFIC-AI 的攝影機保持運作。 消防車呼嘯著通過了原本堵死的路口。
陳昱看著螢幕上的紅點順利移動,大口喘著氣,背後的襯衫已經濕透了。
整個過程:87 秒。
IV. 代價
[2028-09-16 09:00 啟元科技辦公室]
林彥廷把一杯咖啡放在陳昱桌上。
「英雄,」他說,把一杯咖啡遞給陳昱,「87 秒。比我預測的還快。」
陳昱揉了揉太陽穴。「那是一個邊緣案例(edge case)。廣告牌的電耗比預期的這高。」
「不,那是一個完美的示範。」林彥廷打開筆電,螢幕上顯示著昨晚那一刻 IDP 的權限日誌,上面有一個紅色的 Override 標記。「所有的系統都有極限。當系統這撞牆時,我們需要的不是更多的演算法,而是一個有魄力的人。」
「但我繞過了 IDP,」陳昱說,「我破壞了透明性。」
「你拯救了透明性。」林彥廷糾正道,「如果昨晚有人死了,IDP 今天就會被廢除。你為了保護這個系統,必須暫時凌駕於它之上。這就是『必要的獨裁』。」
陳昱看著那個紅色的 Override 標記,若有所思。
「而且,這給了我們一個很好的數據點,」林彥廷繼續說,嘴角帶著一絲不易察覺的微笑,「我已經備份了這次手動介入的所有參數。如果我們能把這種『神的直覺』寫進代碼裡…」
敲門聲響起。秘書探進頭來。
「陳執行長,蘇薇小姐來了。她說有預約。」
陳昱和林彥廷對視一眼。
「讓她進來,」陳昱說,「我們正好缺一個能在傷口上撒鹽的人。」
V. 盲點
蘇薇沒有帶錄音筆。她把一疊打印出來的資料放在陳昱桌上。
「我不打算發表這篇,」她開門見山。
陳昱看了一眼標題:《透明的脆弱:台北 AI 衝突事件內幕》。
「為什麼?」陳昱問,「這會是很好的獨家。」
「因為你沒有搞砸,」蘇薇說,「至少結果沒有。消防車趕到了,火滅了,沒人受傷。市府把切斷廣告牌宣傳成『智慧調度』。大眾很買單。」
「但是?」
「艾蓮娜是我的大學室友,」蘇薇拉過一張椅子坐下,語氣中帶著一絲勝利者的狡黠,「昨天我在電話裡跟她描述你的『衝突協調層』時,她笑了。她說你這是在作弊。」
陳昱苦笑。「她用詞總是這麼精準。」
「她說,IDP 有一個致命的盲點,」蘇薇指著昨晚的日誌,「它假設『透明』等同於『可理解』。但昨晚那一秒鐘,除了你,沒人理解發生了什麼。三個 AI 互相說著人類聽得懂的語言(意圖),但它們的互動邏輯卻是混亂的(chaotic)。」
「那是因為缺乏統一的價值函數,」陳昱辯解,「我們正在開發 IDP 2.0…」
「別拿術語呼嚨我,」蘇薇打斷他,眼神像是要把他釘在牆上,「你昨晚切斷廣告牌的時候,有經過『民主程序』嗎?你掌握了上帝的開關。」
「那不是開關,那是 Exception Handling (例外處理)!」陳昱的聲音提高了八度,像是被冤枉的小孩,「系統陷入了死鎖,如果不手動介入,Stack Overflow 會導致全區停電!我是在修 Bug,不是在搞獨裁!」
蘇薇愣住了。她看著眼前這個激動的工程師,像是在看一個手持核按鈕卻以為自己在換保險絲的瘋子。
「你真的相信你在修 Bug?」蘇薇輕聲問,語氣裡帶著一種恐懼。
「這就是一個 Bug。」陳昱堅持道,「變量衝突,資源競爭,典型的死鎖。任何資深的 Sysadmin 都會做同樣的事。」
「但這不是伺服器,陳昱。」蘇薇站起身,「這是城市。而我們不是你的數據包。」
她站起身,準備離開。
「我會繼續盯著你的,陳昱。這篇報導我不發,是因為我不想毀了一個還在學走路的孩子。但如果下次你為了『效率』犧牲了別的東西……我會讓全世界都知道。」
門關上了。
陳昱轉向林彥廷。
「她是對的,」陳昱說。
林彥廷看著窗外的台北。「她當然是對的。這就是為什麼我在 NSA 的報告裡寫:IDP 是完美的監控平台。」
「你寫了什麼?」陳昱轉過頭。
「我寫:『它唯一的弱點是太依賴人類的良知。但如果我們能把良知換成代碼…它將是無敵的。』」林彥廷喝了一口冷掉的咖啡,「陳昱,別擔心蘇薇。我們會解決這個『盲點』的。只要你繼續握著那個開關。」
VI. 伏筆
[2028-09-17 清晨 新加坡]
一份加密文件在海底光纜中傳輸,最終抵達了新加坡國防部的深層伺服器。
那是林彥廷關於台北事件的詳細分析報告。
一個沒有署名的閱讀者打開了它。他沒有看關於技術缺陷的部分。他的目光停留在陳昱「90秒手動介入」的那一段。
人類介入是瓶頸。
如果能移除人類…
螢幕的光映照在一張沒有表情的臉上。
如果有一個系統,能擁有陳昱的上帝視角,但沒有陳昱的道德猶豫…
他按下了一個按鈕。一個名為 Project: IRIS 的檔案夾被建立了。
權限等級:絕密。 啟動條件:待定。
而在台北,陳昱正站在窗前,看著這個剛剛被他「拯救」的城市。他以為這是開始。
他不知道,這其實是結束的開始。
[Chapter 1.03 End]