許多人受到《終結者》或《駭客帝國》等電影的影響，認為真正的人工智慧——賦予機器人或計算機獨立思考或自我意識的技術——可能是非常危險的。如果機器人可以像《星球大戰》系列電影的機器人那樣自己思考，我們是否可以買賣它們？埃隆·馬斯克和斯蒂芬·霍金都曾警告過：流氓人工智慧對人類具有巨大威脅，甚至可能會徹底消滅人類，但人工智慧開發專家表示，能夠獨立思考的、具有自我意識的計算機，至少還有幾十年的時間才會出現。

若人工智慧達到人腦智力水平，擁有自我意識的機器人或將毀滅人類，人工智慧開發專家已經在討論如何對未來的“會思考的機器”設定限制，以便它們始終以不損害人類的利益原則行事。人工智慧顧問馬修·克肖告訴《每日星報》，這項技術甚至有可能在我們中間年輕人的有生之年達到令人擔憂的高度。馬修表示：“這可能就會出現在我們有生之年。”並補充道：“如果你還很年輕的話！”

馬修的評論，其實早就被許多人視為現代最偉大的科學天才的斯蒂芬·霍金教授所警告，未來的人工智慧會不會發展到人腦的水平？著名科學家霍金教授就說：“我們已經擁有原始形式的人工智慧，而且已經證明非常有用，但我認為人工智慧的完全發展會導致人類的終結。”與此同時，SpaceX老闆埃隆·馬斯克也同意霍金的觀點，他說：“我認為我們應當格外警惕人工智慧，如果我不得不猜測我們最大的生存威脅是什麼，我覺得是人工智慧無疑，所以我們需要非常小心。”

但人工智慧開發專家馬修指出，真正的通用人工智慧將需要足夠強大的計算機來容納一個“不會很快”的世界綜合模型。他補充說：“鑑於我們自己並不真正理解有意識意味著什麼，我認為通用人工智慧不太可能很快成為現實，因為我們並不知道‘有意識’究竟意味著什麼？”馬修堅持認為，雖然現有的有限人工智慧使計算機能夠做一些不可思議的事情，但它們的學習能力仍然不如兒童：“人類的孩子不需要看到超過五輛汽車，就可以學習如何識別汽車，而一臺計算機至少需要看到數千個才能獲得這種學習能力。”

科幻電影中具有自我意識的機器人還有很長的路要走，在《星球大戰》和《西部世界》等科幻電影中，我們看到的那種具有自我意識的人工智慧並不是什麼新鮮事。早在1920年，卡雷爾·塞佩克的戲劇《RUR》（代表“羅斯森的通用機器人”），就預言了機器人的“起義叛亂”，塞佩克刻畫的是人造機器勝過其創造者的勝利，人造機器的產物已經擺脫了人類的控制，當機械化超越人類的基本特徵時，人們就會喪失繁殖能力，隨著機器人的能力，活力和自我意識的增強，人類變得越來越像他們的機器。

若人工智慧開發出人工智慧，殺手級人工智慧或在我們有生之年出現，但科學家所謂的“通用人工智慧”目前仍是一個科學夢想，Robonaut是美國宇航局和通用電氣聯合開發的一種航天機器人，是美國宇航局於2011年安裝在國際空間站上的、是第一個去地球以外的地方執行任務的先進人形機器人，但在宇航員發現它似乎逐漸有“失控”的跡象後，它不得不返回地球。

1950年，計算先驅艾倫·圖靈設計了一項測試，以確定人工智慧是否可以超越人類。到目前為止，還沒有人工智慧系統透過它——儘管有一些已經接近了。最接近的可能是2018年，當時谷歌的 Duplex AI 給理髮店打了電話，併成功預約了理髮。但是，就像在您嘗試預訂電影票時接聽電話的煩人的自動化系統一樣，Duplex正在處理一項非常具體的任務，一個真正的通用人工智慧將能夠繼續與美髮師聊天，談論它的假期去向。

如今，人工智慧無處不在——在自主武器系統、自動駕駛汽車中，甚至在牙刷中。但是，儘管這些系統非常擅長執行其專門的任務，但它們中沒有一個能夠學會在沒有人類幫助的情況下做一些不同的事情。在民調中，大多數人工智慧專家表示，到本世紀末，我們將看到通用人工智慧。最樂觀的估計往往在2040年左右，而一些專家則將日期定在21世紀80年代。

但即便如此，也可能有點過於樂觀了。早在1965年，人工智慧先驅 希爾伯特·西蒙就預測“機器將能夠在20年內完成人類可以完成的任何工作”。儘管如此，許多專家認為，人工智慧永遠不會實現真正的人工意識，因為我們並不完全瞭解我們自己的意識。從純科學轉向神秘主義，許多科學家聲稱人類的思想是獨立於物理大腦的東西。我們與地球的其他生命形式的區別在於我們是具有自我意識的，沒人能造出具備自我意識的機器的原因是大多數對意識是什麼以及人如何產生意識有著錯誤的想法。