別讓人工智慧成脫韁野馬

我向來很喜歡電影裡的機器人，甚至壞機器人也喜歡。不過，隨著我們周遭的機器變得聰明到令人不安，就很難不擔憂有邪惡意圖的人工智慧〔像是某種版本的魔鬼終結者（Terminator）或某本小說中的反派角色HAL〕，未來某一天會失控闖入現實世界中。

當然，並不是只有我一人抱持這麼悲觀的想法。史蒂芬．霍金（Stephen Hawking）曾警告說：「全面人工智慧的發展，可能會導致人類的終結。」牛津大學（Oxford）哲學家托比．奧爾德（Toby Ord）在他啟迪人心的《險境》（The Precipice）一書中，研究了許多對人類的生存威脅，包括小行星、核子戰爭和氣候變遷等，他把「與人類價值觀不一致的人工智慧」（unaligned artificial intelligence）列為其中最可能出現的威脅。

我埋首最近出版的許多人工智慧書籍，專家的共識讓我覺得有些安心；專家認為，「奇異點...