近年(nian)來(lai)，人(ren)工(gong)智能保持快速發(fa)展勢頭(tou)，但人(ren)工(gong)智能所(suo)帶來(lai)的(de)安全風(feng)險 也不容忽(hu)視。

(一)用戶數(shu)據用于訓練，放大隱私信息泄露風險(xian)

當前(qian)，人(ren)工(gong)智能(neng)利用服務過程中的用戶數(shu)據進行(xing)優化(hua)訓(xun)練(lian)的情(qing)況(kuang)較(jiao)(jiao)為 普遍，但可能(neng)涉(she)及在用戶不知情(qing)情(qing)況(kuang)下收集個人(ren)信息、個人(ren)隱私、商(shang)業秘 密(mi)等，安全風險較(jiao)(jiao)為突出。

(二)算法(fa)模型日趨復雜(za)，可解釋性目標(biao)難實現

長期以來可解(jie)(jie)釋性(xing)都是(shi)制約(yue)人工(gong)智(zhi)能(neng)(neng)用在司(si)法判決(jue)(jue)、金融信貸等關鍵(jian) 領域的(de)(de)主要(yao)因素，時至今日問題尚未解(jie)(jie)決(jue)(jue)、且(qie)變得更為(wei)棘手。由(you)于深度模(mo) 型算法的(de)(de)復雜結構是(shi)黑盒(he)，人工(gong)智(zhi)能(neng)(neng)模(mo)型天(tian)然(ran)缺乏呈現決(jue)(jue)策(ce)邏輯進而使人 相信決(jue)(jue)策(ce)準確(que)性(xing)的(de)(de)能(neng)(neng)力。

(三)可靠性(xing)問(wen)題仍然制約人工智能關鍵領域應用(yong)

由于現實場(chang)景(jing)中(zhong)環境因素復雜多變，人工智(zhi)能難以通過有限(xian)的(de)訓練數 據(ju)覆(fu)蓋現實場(chang)景(jing)中(zhong)的(de)全(quan)部情(qing)況，因此(ci)模(mo)型在受到(dao)干擾或攻擊等(deng)情(qing)況下會發 生性(xing)能水(shui)平波(bo)動(dong)，嚴重時甚至可引發安全(quan)事故。

(四)濫用(yong)誤(wu)用(yong)人工智能，擾亂生(sheng)產生(sheng)活安全秩序

人(ren)工智能在(zai)對加速(su)社會(hui)發展(zhan)、提升生產(chan)效率等方面(mian)產(chan)生極大促進作用 的同時(shi)，也出現(xian)了被濫(lan)用誤用、惡(e)意(yi)使用的現(xian)象，引(yin)起威脅社會(hui)安全、人(ren) 身安全等負面(mian)事件。

(五)模型和數據成為核心(xin)資產，安全(quan)保護難度提(ti)升

人工智(zhi)能訓練數(shu)據的獲取(qu)以及模型開發已經逐漸變成(cheng)重(zhong)資產(chan)投(tou)入(ru)、重(zhong) 人力投(tou)入(ru)的工作(zuo)，算(suan)法模型、參數(shu)、加(jia)工后的訓練數(shu)據已成(cheng)為核心(xin)資產(chan)， 不免遭到(dao)覬覦(yu)。

(六)網絡(luo)意識(shi)形(xing)態(tai)安(an)全面臨新(xin)風險

人工智能(neng)(neng)(neng)的目標是模擬、擴展和延伸人類(lei)智能(neng)(neng)(neng)，如果人工智能(neng)(neng)(neng)只是單 純(chun)追求統(tong)計最優(you)解，可能(neng)(neng)(neng)表(biao)現(xian)得不(bu)那(nei)么有“人性”；相反(fan)，包含(han)一些人類(lei) 政治、倫理(li)、道德(de)等方面觀(guan)念的人工智能(neng)(neng)(neng)會表(biao)現(xian)得更(geng)像人、更(geng)容易被人所 接受。