谷歌DeepMind的聯合創始人和SpaceX的執行長在2400名簽署者中承諾阻止致命的自主武器

成千上萬的專門研究人工智慧（AI）的科學家已經宣稱他們不會參與開發或製造能夠識別和攻擊沒有人為監督的人的機器人。

谷歌DeepMind的Demis Hassabis和美國火箭公司SpaceX的Elon Musk是該簽署者的 2，400多名簽署者之一，旨在阻止軍事公司和國家建立致命的自治武器系統，也稱為法律。

此舉是有關科學家和組織的最新舉措，旨在強調將生死決定移交給AI增強型機器的危險。隨之而來的呼籲是先發制人地禁止技術，運動人士認為這可能會帶來新一代的大規模殺傷性武器。

由總部位於波士頓的組織“生命的未來研究所”精心策劃，該承諾呼籲各國政府商定規範，法律和法規，這些規範，法律和法規將扼殺和有效禁止殺手機器人的發展。在今天沒有采取此類措施的情況下，簽署方承諾“既不參與也不支援致命自主武器的開發，製造，貿易或使用。”150多家與智慧財產權相關的公司和組織在其承諾中加入了他們的名字。今天在斯德哥爾摩舉行的國際人工智慧聯合會上宣佈。

蒙特利爾學習演算法研究所的人工智慧先驅Yoshua Bengio告訴衛報，如果承諾能夠羞辱那些製造自主武器的公司和軍事組織，公眾輿論就會反對他們。“儘管像美國這樣的主要國家沒有簽署禁止地雷的條約，但由於國際條約和公眾羞辱，這種方法實際上對地雷有效。美國公司已經停止建造地雷，“他說。Bengio簽署了承諾，表達他對“致命自治武器的強烈關注”。

軍方是人工智慧技術的最大資助者和採用者之一。藉助先進的計算機系統，機器人可以在敵對地形上執行任務，在地面上航行，並在海上巡邏。更復雜的武器系統正在籌備中。週一，國防部長加文·威廉姆森（Gavin Williamson）公佈了一項價值20億英鎊的計劃，用於新的英國皇家空軍戰鬥機 “暴風雨”（Tempest），該計劃將能夠在沒有飛行員的情況下飛行。

英國部長們表示，英國不會發展致命的自主武器系統，而且其部隊將始終對其部署的武器進行監督和控制。但是活動人士警告說，人工授精和其他領域的快速發展意味著現在可以製造出能夠在未經人類控制者同意的情況下識別，跟蹤和射擊人類目標的尖端武器。對於許多研究人員而言，讓機器決定誰的生命和死亡都會跨越道德路線。

“我們需要使自主武器不被接受的國際規範。人類必須始終處於迴圈中，“悉尼新南威爾士大學的人工智慧教授託比沃爾什說。

“我們不能阻止一個堅定的人建造自主武器，就像我們無法阻止一個堅定的人制造化學武器一樣，”他補充說。“但如果我們不希望無賴國家或恐怖分子輕易獲得自主武器，我們必須確保他們不會被武器公司公開出售。”

研究人員可以選擇不使用自主武器，但其他人對其已釋出的突破所做的事情實際上超出了他們的控制範圍。蘭卡斯特大學另一位簽約人兼科學與技術教授Lucy Suchman表示，即使研究人員無法完全控制他們的工作方式，他們也可以在有顧慮時進行參與和干預。

“如果我是一名簽署了承諾的機器視覺研究員，我會首先承諾跟蹤我的技術的後續使用，並反對他們的應用以實現目標識別的自動化，其次，拒絕參與建議或直接幫助將該技術融入自主武器系統，“她說。