人工智能安全屬性

伴隨著人工智能應(yīng)用的常態(tài)化，人工智能安全問題的研討也持續(xù)開展。

1、網(wǎng)絡(luò)安全基本屬性，即人工智能系統(tǒng)及其相關(guān)數(shù)據(jù)的機密性、完 整性、可用性以及系統(tǒng)對惡意攻擊的抵御能力之外，討論人工智能安全一 般還需要考慮以下屬性。

2、透明性： 指人工智能在設(shè)計、訓(xùn)練、測試、部署過程中保持可 見、可控的特性，只有具備了透明性，用戶才能夠在必要時獲取模型有關(guān) 信息，包括模型結(jié)構(gòu)、參數(shù)、輸入輸出等，方可進一步實現(xiàn)人工智能開發(fā)過程的可審計以及可追溯。

3、可解釋性： 描述了人工智能算法模型可被人理解其運行邏輯的特性。具備可解釋性的人工智能，其計算過程中使用的數(shù)據(jù)、算法、參數(shù)和 邏輯等對輸出結(jié)果的影響能夠被人類理解，使人工智能更易于被人類管 控、更容易被社會接受。

4、公平性： 指人工智能模型在進行決策時， 不偏向某個特定的個體 或群體，也不歧視某個特定的個體或群體，平等對待不同性別、不同種 族、不同文化背景的人群，保證處理結(jié)果的公正、中立，不引入偏見和歧 視因素。

5、隱私性： 指人工智能在開發(fā)與運行的過程中實現(xiàn)了保護隱私的特 性，包括對個人信息和個人隱私的保護、對商業(yè)秘密的保護等。隱私性旨 在保障個人和組織的合法隱私權(quán)益，常見的隱私增強方案包括最小化數(shù)據(jù) 處理范圍、個人信息匿名化處理、數(shù)據(jù)加密和訪問控制等。

6、可靠性： 指人工智能及其所在系統(tǒng)在承受不利環(huán)境或意外變化 時，例如數(shù)據(jù)變化、噪聲、干擾等因素，仍能按照既定的目標運行、保持 結(jié)果有效的特性。可靠性通常需要綜合考慮系統(tǒng)的容錯性、恢復(fù)性、健壯 性等多個方面。