這種悲劇並不是說，人們未能為機器人末日做好準備，或是無法上傳意識，從而要面臨死亡。

真正的威脅不是計算機以其能耐與智慧，在未來超越並摧毀人類，而是它們依然如今天這般普通、無力，但終究還是超越了人類。

彷彿一夜之間，一切都成了計算機。

手機、電視機自不必說，烤麵包機和門鎖，嬰兒監控器和榨汁機，門鈴和燒烤架，乃至水龍頭、澆水的軟管和指尖陀螺……所謂的“智慧”小玩意兒隨處可見，將計算機的福音傳播至形形色色的日常器物中。

這足以化腐朽為神奇，不過，只是在一段時間之內。

很快，人們就會產生疑慮。腳踏車鎖或煤氣罐根本沒必要用智慧手機來操作。

另外，很多智慧裝置都有一個通病：

不如它們所取代的“笨”裝置來得可靠。

但這種欲求是存在的，而且日益高漲。如今，聯網裝置的數量已經有數十億部。到2020年，這個市場的價值有望達到2500億美元。

為什麼會出現這種局面？

答案之一就是，市面上賣什麼，消費者就買什麼，而生產商則急於將“笨”裝置智慧化。

這樣做意味著更多的營收，更大的控制權，以及有更多的機會去淘汰上一代產品。這些裝置收集起來的資料也催生出了一個二級市場。例如，Roomba公司就想憑藉其掃地機器人的移動軌跡，推斷出使用者的家居平面圖，然後將其作為商業情報出售。

但市場的強制因素還不足以解釋這一切。

而且，日常物件的計算屬性已經成為目的本身，而不是實現目的的手段。

隨著它們從桌上型電腦拓展到後勤辦公室，繼而進入手機、相機、汽車和門鎖，人們的計算機情結不斷蔓延，拓展到更為普通的物件中。

人們做什麼都在用計算機，越是喜歡這樣，就越會覺得，一旦離開計算機，生活就變得不完整了。

***

有一種名為GasWatch的裝置。它是一種煤氣罐上的餘量標尺，與智慧手機上的應用程式相連線，旨在避免烹飪過程中氣罐耗盡的局面。

看到這樣的裝置，我曾驚詫於它的荒唐可笑。既然一個便宜的指標盤就能顯示煤氣的餘量，又何必勞駕計算機呢？

但如今，聯網裝置與服務日益常態化，這樣的譏諷便顯得有些蒼白無力。

這種趨勢的傳播速度比我預想中更快。

若干年前，一家時尚酒店曾自豪地宣稱，他們很快就會淘汰房卡，以智慧手機取而代之。如今，就連在最普通的漢普頓酒店，房客也可以用希爾頓的應用程式來開門了。它還有家庭版，其中一個甚至能記錄大門上鎖的時間。至於這一資料有什麼用處，我至今都不太清楚。

計算機已經佔據主導，人類的大部分生活已經在計算機內展開，而對於這樣的結果，人們感到很滿意。

這些裝置問題重重。

其中之一就是價格。

和便宜的煤氣罐指標盤一樣，傳統的腳踏車鎖也是一種同質化的商品，售價只需10或15美元。而Nokē智慧車鎖的價格是它的十倍。另外，它們還涉及安全和隱私問題。曾有不法分子入侵兒童監控器，試圖跟孩子對話。

聯網裝置還受到可靠性問題的困擾。

一旦網路出現故障，或裝置無法連線到相應服務，抑或是其他軟體從中作梗，產品往往就無法正常執行。

科技評論家尼古拉斯·卡爾（Nicholas Carr）最近指出，這不是我們所期待的機器人。

飛行汽車、機器人智慧家居和超光速飛行都尚未實現。但與此同時，根據最新的預測，人類也許會與機器融合，要麼是透過生物駭客技術，要麼是透過意識模擬。這樣的未來也顯得非常遙遠——也許是不可能實現的。

因為遙遠，與之相伴的AI末日恐慌也許得以減輕，但它也矇蔽了機器在人類命運中所扮演的真正角色：計算機已經佔據主導，人類的大部分生活已經在計算機內展開，而對於這樣的結果，人們感到很滿意。

***

計算機的普通用途和超凡用途之間存在一道鴻溝，這道鴻溝大約出現於70年前。

當時，阿蘭·圖靈（Alan Turing）的一條思路無意中促成了人工智慧（AI）領域的誕生。圖靈猜測，當機器變成可靠的人類伴侶時——實質上就是今天的智慧手機（以及智慧麵包機之類），它就很有說服力了。但計算機科學家誤解了圖靈的本意，將圖靈的思想實驗變成了一場模擬或取代人腦的挑戰。

在發表於1950年的論文中，圖靈描述了一種遊戲，他稱之為

模仿遊戲

。

一男一女分別站在兩扇門後，另一人在外提問，以猜測誰站在哪邊。圖靈繼而構想出另一個版本：一個人和一臺機器（比如計算機）分別站在兩扇門後。如果對話者無法分辨哪邊是人、哪邊是機器，計算機就算通過了測試。在制度化的過程中，圖靈測試的重點日益偏向於計算機角色——Twitter和Facebook Messager聊天機器人的前身。如今，依然有人將圖靈測試作為驗證機器智慧的合理方式。

但圖靈從沒有說過計算機可以思考，更沒有說它們會媲美人類大腦。他只是猜測，機器也許能展現出令人信服的行為。對圖靈而言，就是機器假裝成非機器的能力。隨著計算機科學的進步，“透過”圖靈測試、而不是“準確地描繪某一角色”成了成功的標誌。

這種誤解也許抹殺了圖靈當初對計算機的構想：一種令人信服的機器。但他也將這種說服力融入到了計算機硬體的設計中。1936年，圖靈提出了一種概念機器，它能根據一組有限的規則，對一條紙帶上的符號進行操作。

如今的情形不再是人們為了做事而使用計算機；而是人們做事以便能使用計算機。

這種設計名為通用圖靈機，它成為了影響深遠的計算機處理模型。經過約翰·馮·諾依曼（John von Neumann）等人的一系列調整，它最終演變成儲存式程式設計技術——程式指令和資料均可儲存的計算機。

在計算機史上，圖靈機這種創新常被認為是獨立於圖靈測試的。但實際上，兩者是相互聯絡的。一臺機器只要能進行一般計算，就有能力模擬任何圖靈機。圖靈機是一臺假裝成另一臺機器的機器，因此，計算機也是這樣一種機器。

試觀日常使用的計算機系統——它們全都在模擬別的東西。最初，圖靈的那臺思考機器試圖假裝成人。同樣地，計算機則試圖在某種程度上，假裝成另一種東西，或是計算器，或是賬本，或是打字機，或是電話，或是相機，或是店鋪，或是餐館。

一段時間之後，成功的模擬機器取代並超越了最初的模擬物件。最終，“模擬機器”中的“模擬”一詞就會被略去。

如今的計算界就遵循著這種規律。很少有什麼工作和娛樂內容是計算機無法處理的。因此，

計算機正在脫離它的初衷——操縱符號的一種手段，以實現效率與創造性——成為這項活動本身。

如今的情形不再是人們為了做事而使用計算機；而是人們做事以便能使用計算機。

* * *

一旦計算機的使用與目的脫節，計算機本身成為一種生活方式，那麼，只有能透過計算系統解決的目標與問題，才會成為有效的目標與問題。對於這種新的理想狀態，物聯網裝置就提供了一個範例。

人們選擇計算機作為介質，是為了享受使用計算機帶來的感官愉悅。

回到之前提到的GasWatch。在計算機可用的情況下，誰會選擇一個不涉及計算機的解決方案？

如果說煤氣罐和腳踏車鎖仍屬於極端案例，那麼，普通的數字服務也是類似的道理：人們找尋的服務是允許他們使用計算機的服務——從尋找資訊到打車，再到訂外賣。這既是商業成就，也是美學成就。

人們選擇計算機作為介質，是為了享受使用計算機帶來的感官愉悅，而不只是將其作為解決問題的高效實用方案。

對於那些看似毫無意義或毫無成功希望的服務、應用程式和物聯網裝置，它們存在的意義可以這樣理解：

在原先沒有計算機的地方放了一臺計算機，於是，將實體世界的體驗轉變成了計算體驗。

機器不再試圖假裝成人類，它們想讓人類相信：它們其實就是計算機。圖靈測試被逆轉了。

圖靈測試最好用的情況，就是大家都知道對話者是計算機，但還是樂於跟它對話。

這種現象恰好有個名字：反向圖靈測試。

網路表格中用於過濾自動機器人的驗證碼，就是運用了反向圖靈測試——由計算機判斷使用者是否為人類。還有的反向圖靈測試則是人們試圖在一群計算機中間，猜出哪個行為者是人類。

這些工作將圖靈測試作為目的本身，而不是衡量智力的手段。圖靈測試最好用的情況，就是大家都知道對話者是計算機，但還是樂於跟它對話。

門鈴、汽車和計程車根本沒有消失，只是搬進了計算機。

與1950年圖靈提出模仿遊戲時相比，如今“計算機”的含義已經不太一樣。針對人工智慧在技術方面的先決條件，“表現得像臺計算機”通常只意味著搬運一些資料，或充當控制者、執行者。而在計算機燒烤架、計算機腳踏車鎖、計算機電視中，計算機是一種媒介。

以Uber為例。

這家網約車巨頭之所以在商業上獲得成功，主要在於它繞過了僱傭政策和租車政策。

而它在美學上的成功則源於它允許人們用智慧手機來打車。其好處之一是不用跟任何人打電話。另外，手握數字地圖，看著汽車朝自己駛來，也頗具吸引力。類似地，對於那些喜歡自動駕駛汽車的人而言，它們的吸引力不僅在於擺脫了駕駛的負擔和危險，也在於汽車變得更像計算機了。當然，計算機進駐汽車已經有很多年。但在自動駕駛汽車中，人們才更加真切地體會到，它是由計算機執行的。

再以門鈴為例。

其實，在智慧門鈴出現之前，門鈴早已被計算機取代了。我孩子的朋友們來訪時，就會發一條簡訊叫門。沒有連線任何應用程式，也沒有聯網，門鈴已經被計算機化了。你非要稱之為“顛覆”也未嘗不可，但在此過程中，門鈴、汽車和計程車根本沒有消失，只是搬進了計算機，在那裡，它們會產生新的吸引力。

智慧機器的真實現狀比任何機器人末日都來得猛烈。

其中之一就是聯網的樂趣。

既然你不願意離線，為何讓麵包機或門鈴遭受這樣的命運？

如今，

被計算機吸收成為了一種理想狀態。

終極夢想是永遠線上，或者，至少能永遠連線到某種計算機上。

但在人們的設想中，這並不是計算機的最終結局。

早期反烏托邦場景提醒我們，計算機可能變成一個官僚或是法西斯主義者，把人類變成愚笨的機器，只剩下一些預先決定的能力。或者，人類沉迷於計算機，最終陷入麻木不仁的境地。

這些擔憂至今揮之不去，一個原因是，其中一些或多或少變成了現實。

但也有顛倒過來的，比如，讓人感到麻木不仁的不是沒完沒了地沉浸在計算機中，而是離開計算機。因此，計算機採取的行動帶上了自我指涉的性質：

將越來越多的事物變成計算機，以延長這種連線。

* * *

一切一如往常，只是，人們眼中的現實是在計算機之內的。

從這個角度看，現代科技文化的所有問題——企業層面的資料聚合、隱私、“超就業”（人們免費送給Facebook、谷歌等網站的“無形”勞動力）——這些都不再是剝削，而只是人們的選擇，不論是刻意還是無心。

在未來學家眼中，計算機變革帶來的期許（或威脅）通常和人工智慧的飛躍聯絡在一起。

哲學家尼克·博斯特羅姆（Nick Bostrom）給超越人類智慧的AI取了一個名字：超級智慧。

超級智慧實現後，人類要麼將永遠擺脫工作的枷鎖，要麼將被迫從機器人末日中拯救自我。

哲學家大衛·查默斯（David Chalmers）和計算機科學家雷·庫茲維勒（Ray Kurzweil）提出了“奇點”觀念，就是說，只要具備足夠的處理能力，計算機就能模擬人腦。若如此，人類就能將意識上傳至機器中，從而實現理論上的永生——至少是某種意義上的永生。

儘管智慧機器的真實現狀單調乏味，但卻比任何機器人末日都來得猛烈。

圖靈通常被稱為“AI之父”，但當初他只是說，機器也許能以假亂真，促進人們與之互動。這算不上智慧——不論是人工的還是機器的——實現起來也容易得多。

人們已將生活搬入計算機內部。機器無需讓人類永生，無需滿足人類的每一次心血來潮，也無需隨意毀滅人類。它們只需在人類的所有事務中扮演足夠重要的角色，以至於我們無法或根本不會去想象，沒有計算機會怎樣。

這樣的未來隱藏著某種悲劇。

這種悲劇並不是說，人們未能為機器人末日做好準備，或是無法上傳意識，從而要面臨死亡。

真正的威脅不是計算機以其能耐與智慧，在未來超越並摧毀人類，而是它們依然如今天這般普通、無力，但終究還是超越了人類。

翻譯：雁行

造就：劇院式的線下演講平臺，發現最有創造力的思想