英國劍橋大學物理學家，暨宇宙學家霍金教授（Professor Stephen Hawking）曾表示，全面性發展的人工智能恐將導致人類自我毀滅。10月19日晚間在英國劍橋大學 「萊弗爾梅未來智能中心」（The Leverhulme Centre for the Future of Intelligence ，CFI）正式成立的啟動儀式上，霍金發表演說時，再度提出此一警示觀點，英國《天空新聞台》（Sky News）10月20日報導指出，霍金認為人工智能AI（即Artificial Intelligence）進一步發展所帶來的危險惡果，可能包括有，自行操控的強大自動武器；發展出只服務少數人，卻壓制多數人的新穎工具。
「未來智能中心」將分析研究人工智能，對於人類發揮的正負面影響，該項把關工作，關係到人類文明與人類物種的未來。霍金教授說，他很高興有人傾聽，願意從事AI的利弊風險研究，以及可能造成的潛在危險；一旦無所節制濫用，將形同人類「自我摧毀」。
在實際運用趨勢上，近來日愈增多的例子值得進一步詳加調查，例如智能手機，機器人擔任手術工作，以及終結者型態的軍用機器人。霍金並回顧AI領域最近出現的飛速發展，包括全自動無人駕駛汽車技術，以及谷歌計算機（即電腦）與人類頂尖圍棋選手，博弈過程得到的空前勝出。
機器人擁有自由意志的恐懼
霍金認為，相較於生物大腦與一台計算機，所能獲致成就，其間並不存在深度差異。從理論觀點，計算機可以效仿人類智能，並且青出於藍，勝過人類。他並表示，人工智能的發展可能幫助人類消除疾病，消除貧困，減緩氣候變遷速度，卻也可能釀成意想不到的種種後果，包括產生自主武器，造成經濟災難，以及當與人類發生意見衝突時，機器人展現出自由選擇意志不受控。
「簡言之，強大的AI人工智能崛起，可能是人類遇到的最好情況，也可能最糟；其結果如何？答案我們仍無從得知。」他說，「未來智能中心」的單純使命，就是要弄清楚未來AI會不會反倒毀滅人類自己？
人類對於機器人，可能從其創造者手中釋出自由意志的恐懼，已經有多部文學作品及電影指陳類似問題，例如1960年代著名的美國科幻電影《2001太空漫遊》（2001: A Space Odyssey）。另一方面，隨著AI智能日愈突飛猛進，可能直接取代人力，影響數以百萬計工作機會。
劍橋大學「未來智能中心」主任史蒂芬.凱（Stephen Cave）表示，該中心任務在於確保智能人造系統與「人類價值目標相符」，以及確保電腦朝「創新而非不受歡迎」的自主方向演進。
《BBC》報導引述，對AI議題長達50年研究的著名學者梅姬.博登教授（Professor Maggie Boden）於會議現場的演說內容指出，她對人類被毀滅的前景並不擔心，也不像霍金教授那麼憂慮於，AI智能時代的快速到來。不過，她擔心AI的確已產生負面影響，例如日本就有人，熱衷於用機器人照顧老人、病人，這讓人心生恐懼；她說，我們社會有理由提出質疑，這類做法是否太過欠缺人性？
