什麼是智慧爆炸？

「智慧爆炸」這個術語是 I。J。Good 於 1965 年在其文章「Speculations Concerning the First Ultraintelligent Machine」中創造的。它指的是足夠智慧的機器能重複設計它自己的硬體和軟體來創造出一個更加智慧的機器的可能性，這個過程會一直重複下去，直到「人的智慧被遠遠的甩在後面」。

常見誤解

「一旦機器達到人類水平的智慧，智慧爆炸就在所難免」。反過來：雖然邏輯上是可行的，但是讓 N 代的機器設計出 N+1 代的機器太難了。同樣的道理，我們造的機器可能在一些重要的方面成為超過人類，但是在其他方面可能會落後於人類。在解決貧困、治療癌症等重要問題上，機器的能力肯定會比人類強，而且不需要在人工智慧研究上有大突破就能實現。

人工智慧系統何時才能超過人類智力？

這是一個難以回答的問題。因為首先它假定這件事必然發生，事實上它具有選擇性：假如人類選擇不去發展這樣的人工智慧，這件事就不太可能發生。第二，「超過」假定智力是線性的，而這不是真實情況，機器在某些任務的處理上比人類更快，而在更多放面則很糟糕。第三，如果我們認為「通用的」智慧是有用的，我們就可以開發這樣的機器，但目前我們不知道它是不是有用的。寬泛地說，實現這樣的人工智慧還需要很多技術突破，而這些都是難以預測的，大多數科學家認為這件事會在本世紀內發生。

常見誤解

「它永遠不會發生」。對技術突破進行預測是很難的。1933 年 9 月 11 日，Rutherford，也許是那個時代最著名的核物理學家，在英國科學促進年會上向人們宣佈：「任何想從原子變形過程中獲取能源的努力都是徒勞的。」（他在各種場合發表過許多類似言論，大意都是表達使用原子能是不可能的）結果第二天早上，Leo Szilard 發現了中子誘導鏈式反應，並很快對核反應堆申請了專利。

人工智慧系統現在能做什麼？

人工智慧的應用範圍已經比幾年前大很多了。從圍棋、紙牌、簡單的問答、從新聞中抓取資訊、組合複雜的物件、翻譯文字、識別語音、識別影象中的概念、到在「普通」交通條件下駕駛汽車，不一而足。在很多情況下，人工智慧在你不知道的情況下發揮著作用，如檢測信用卡欺詐，評估信用，甚至在複雜的電子商務拍賣中投標。搜尋引擎中的部分功能也是人工智慧的簡單形式。

常見誤解

「像『下棋』這樣的任務對機器來說和對人類來說是一樣的」。這是一個錯誤的假設：機器「掌握」一項技能的程度超過了人類。人類透過閱讀和理解學會遊戲規則，透過觀看棋局和下棋來提高水平。但典型的下棋程式沒有這樣的能力——將下棋規則程式設計，讓機器演算法直接給出所有可能的下一步。機器無法「知道」人類所謂的規則（目前新興的強化學習方式改變了這一點）。DeepMind 的人工智慧系統可以學會很多種遊戲，它不知道自己在學習什麼，看起來也不太可能學會這些遊戲的規則。

「機器執行任務的方式和人類一樣」。我們不知道人類思考問題的機制，但這種機制與人工智慧系統處理任務的方式看起來大不相同。例如，下棋程式透過考慮當前棋局狀態和下一步可能的序列比較結果考慮下一步，而人類經常是先發現可能獲得的優勢，然後繼續考慮如何找到一系列方式來實現它。

「如果機器可以做到任務 X，那麼它就可以做類似的所有任務了」。參見有關機器 IQ 的問題，機器目前還不能形成通用化的智慧，它們的功能通常侷限於某一領域。

人工智慧會對社會造成什麼樣的影響

在可預見的未來中，人工智慧的各種應用將會改變社會形式。自動駕駛汽車現在已經在路上進行測試，至少有一家公司承諾將在 2016 年內交貨（考慮到目前遇到的困難，其他公司的態度則更為謹慎）隨著計算機視覺和機械腿設計的進化，機器人非結構化環境正在變得更為實用——可能的應用範圍包括農業和服務領域（特別是對於老人和殘疾人而言）。

最後，隨著機器能夠理解人類語言，搜尋引擎和手機上的「個人助理」將會改變現有的人機互動方式，它們可以回答問題，整合資訊，提供建議，並促進交流。人工智慧還可能會對科學領域（如系統生物學）產生重大影響，這些學科中資訊的複雜性和數量一直令人望而卻步。

常見誤解

「機器人正在接管一切」。參見《人工智慧的智力何時才能超過人類》，人工智慧中的絕大多數進步是基於任務處理的改進。當然，從長遠來看，維持人類的控制很重要。

人工智慧與機器人的發展會取代大量人類的工作嗎？

一些研究（比如 Frey 和 Osborne 在 2013 年的調查）表明在未來美國將近一半的工作在自動化面前會變得很脆弱。其他作者，比如 Bryjolfsson 和麥肯錫在 2011 年的工作表明這一變化已經開始了：2008 年經濟蕭條之後就業率的緩慢恢復，生產率與停滯不前的工資之間的差異化增加了自動化的程序。隨著人工智慧與機器人的持續發展，更多的工作將受到影響看起來不可避免。大量的失業並不是必然的，但這可能會造成經濟結構的巨大轉變，需要想出組織工作與酬勞的新思路。

常見誤解

「機器人的工作越多意味著人類工作越少」。工作不是零和（zero-sum）的：由一對機器人協助的工人可能更具工作效率，也因此需要更多這樣的工人。沒有機器人的幫助，一些領域的工作由人類完成可能不具備經濟效益，或者一些工作單獨的人或機器無法完成。同樣，就像塗刷匠的刷子與滾筒：如果使用針尖大小的刷子一點一點的塗刷，我們就僱不起塗刷匠來塗刷一整間屋子了。