當AI組成互聯網絡，你準備好迎接新風險了嗎？

醫生使用AI來草擬給保險公司的「事先授權」申請，讓原本單調費時的流程變得有效率。然而，如果保險公司的AI根據醫生的系統所不知道的一些標準而拒絕這項申請，則會造成延誤和令人沮喪的結果。這是AI生態系統的新現實；AI生態系統是由事業單位或組織內相互合作、競爭或衝突的智慧代理人和系統所組成的互聯網絡。這些生態系統可帶來新的機會，也會產生新的複雜性與風險。

想要安全及負責任地建立與管理這些生態系統，特別需要重新思考人力培訓、運用科技以維持一致並進行協調，以及建立治理架構以確保信任與責任承擔。我們將在本文中討論這些準則，並根據我們與其他人在AI風險與法規監管領域所做的研究提供範例。

有關AI生態系統內如何操作的訓練

企業全面採用AI時，應該加倍重視AI訓練。AI生態系統包含多個層次的相互依存系統，其中一個工具的輸出結果不僅影響使用者的決策，還會影響其他AI系統的運作——因此也會影響到...