人工智慧就是網路安全的未來

不久的將來，隨著人工智慧系統變得能力更強，我們會開始看到更多自動化與日益精密的社交工程攻擊（social engineering attack，編按：通常是指利用小技巧來操弄人們的心理，以騙取對方的資料）。人工智慧驅動的網路攻擊崛起，預料會造成大量出現網路滲透、個人資料竊取，以及智慧型電腦病毒迅速擴散等現象。諷刺的是，我們若要防禦人工智慧驅動的駭客攻擊，最佳希望也寄託在使用人工智慧上。但這非常有可能導致人工智慧的軍備競賽，就長期來說，這造成的後果可能非常棘手，特別是當政府重大機構也加入了網路戰爭。

我的研究領域介於人工智慧與網路安全的交會處。其中我特別專注研究，如何不讓人工智慧系統淪為不良行為的受害者，以及如何不讓民眾受到失敗或惡意的人工智慧所傷害。這項工作落在更廣大的人工智慧安全架構下，嘗試創造有傑出能力，同時又是安全且有益的人工智慧。

目前已有許多文章探討可能伴隨「真正的人工智慧」而來的諸多問題，有可能是來自這類發明造成的直接衝擊，也可能是程式設計人員失誤導致的影響。然而，科學文獻對惡意設計與人工智慧駭客攻擊的探討明顯不足。我們可以這麼說，有關惡意的智慧所造成的危險，任何事都是可能的。