多數大企業的人工智慧與機器學習系統都曾遭到欺騙、鑽漏洞，以及在無意間遭到誤導。面對新科技帶來的風險，現有的保險還無法完全因應。本文先分析目前人工智慧與機器學習系統若是失效，會造成哪些風險，再比較現有的網路保險，與專門針對人工智慧及機器學習的保險有何不同。企業領導人必須研究如何保護自己的機器學習模型，並為模型保險。
包括Google、亞馬遜（Amazon）、微軟（Microsoft）、優步（Uber）與特斯拉（Tesla）在內，多數大型公司的人工智慧（artificial intelligence）與機器學習（machine learning）系統都曾遭到欺騙、鑽漏洞，以及在無意間遭到誤導。但即使有這些知名的失效案例，大多數組織的領導人在打造和使用人工智慧與機器學習技術時，多半不太清楚本身面臨的風險。這並不完全是企業的錯。用來限制、彌補相關損害的科技工具，開發的速度向來不如機器學習技術；現有的網路保險（cyber insurance），大致上沒有完全涵蓋機器學習系統；法律救濟（例如著作權、法律責任、反駭客法）可能沒有涵蓋這類情況。目前逐漸出現的解決辦法，就是專門針對人工智慧／機器學習的保險。但是，誰會需要這種保險，以及這種保險的承保範圍為何，都還是問題。
近來的事件顯示，人工智慧與機器學習系統很容易受到破壞，而且若是出問題，可能會在現實世界引發災難。我們有系統地研究了學術界發表的人工智慧失效案例，結果發現機器學習系統的失效案例分為兩類：刻意或非刻意發生的。
■ 刻意的失效案例是指，有人抱著惡意
了解風險
近來的事件顯示，人工智慧與機器學習系統很容易受到破壞，而且若是出問題，可能會在現實世界引發災難。我們有系統地研究了學術界發表的人工智慧失效案例，結果發現機器學習系統的失效案例分為兩類：刻意或非刻意發生的。
■ 刻意的失效案例是指，有人抱著惡意
已經是會員？立即登入
閱讀完本模組的文章／個案後
我們建議您思考下列問題
Q.
什麼是數位轉型的真實意義？
Q.
你是否已盤點組織數字化、數位化與數位轉型的目標與能耐。
Q.
如何運用企業智慧決策分析學找出組織明確的發展盲點與機會點？
Q.
如何培養組織與時俱進的頂尖員工？
Q.
如何擬定組織的數位轉型策略？
Q.
如何讓組織數位轉型策略落地？
Q.
如何制定推動「分析成性，公私兩利」組織文化的戰術？
Q.
什麼是「轉識成智」？如何協助組織轉識成智進而推動智慧決策？
更多關聯主題
更多關聯主題
