人工智能安全風險分析

近年來，人工智能保持快速發(fā)展勢頭，但人工智能所帶來的安全風險 也不容忽視。

(一)用戶數(shù)據(jù)用于訓練，放大隱私信息泄露風險

當前，人工智能利用服務過程中的用戶數(shù)據(jù)進行優(yōu)化訓練的情況較為 普遍，但可能涉及在用戶不知情情況下收集個人信息、個人隱私、商業(yè)秘 密等，安全風險較為突出。

(二)算法模型日趨復雜，可解釋性目標難實現(xiàn)

長期以來可解釋性都是制約人工智能用在司法判決、金融信貸等關鍵 領域的主要因素，時至今日問題尚未解決、且變得更為棘手。由于深度模 型算法的復雜結構是黑盒，人工智能模型天然缺乏呈現(xiàn)決策邏輯進而使人 相信決策準確性的能力。

(三)可靠性問題仍然制約人工智能關鍵領域應用

由于現(xiàn)實場景中環(huán)境因素復雜多變，人工智能難以通過有限的訓練數(shù) 據(jù)覆蓋現(xiàn)實場景中的全部情況，因此模型在受到干擾或攻擊等情況下會發(fā) 生性能水平波動，嚴重時甚至可引發(fā)安全事故。

(四)濫用誤用人工智能，擾亂生產(chǎn)生活安全秩序

人工智能在對加速社會發(fā)展、提升生產(chǎn)效率等方面產(chǎn)生極大促進作用 的同時，也出現(xiàn)了被濫用誤用、惡意使用的現(xiàn)象，引起威脅社會安全、人 身安全等負面事件。

(五)模型和數(shù)據(jù)成為核心資產(chǎn)，安全保護難度提升

人工智能訓練數(shù)據(jù)的獲取以及模型開發(fā)已經(jīng)逐漸變成重資產(chǎn)投入、重 人力投入的工作，算法模型、參數(shù)、加工后的訓練數(shù)據(jù)已成為核心資產(chǎn)， 不免遭到覬覦。

(六)網(wǎng)絡意識形態(tài)安全面臨新風險

人工智能的目標是模擬、擴展和延伸人類智能，如果人工智能只是單 純追求統(tǒng)計最優(yōu)解，可能表現(xiàn)得不那么有“人性”；相反，包含一些人類 政治、倫理、道德等方面觀念的人工智能會表現(xiàn)得更像人、更容易被人所 接受。