一 數據不完備和濫用風險突出

1 數(shu)據(ju)不(bu)完備： 人工智能進(jin)行自(zi)動化決策時，如果數(shu)據(ju)不(bu)充分、不(bu)達標，就會造成結論偏離的(de)情況。

2 數據(ju)投毒：如果訓(xun)練集中混雜了虛(xu)假的(de)數據(ju)，還(huan)會對(dui)算法(fa)形成(cheng)欺騙，在自動化決策中給(gei)出錯誤(wu) 的(de)結果。

3 數(shu)據濫用(yong)：技術進步擴(kuo)大了用(yong)戶(hu)個人(ren)信息的(de)(de)(de)邊界，互(hu)聯網平臺企業(ye)可以(yi)在線且(qie)及(ji)時的(de)(de)(de)采(cai)集用(yong)戶(hu) 購(gou)買、收藏、瀏覽等行為(wei)，擁有豐富(fu)的(de)(de)(de)算(suan)力資源和出眾的(de)(de)(de)算(suan)法能力，如果企業(ye)在借 助人(ren)工(gong)智能對用(yong)戶(hu)數(shu)據進行加工(gong)、使(shi)用(yong)的(de)(de)(de)過程中不能夠嚴格(ge)遵守法律法規，則可能因(yin)為(wei)數(shu)據濫用(yong)而損害用(yong)戶(hu)的(de)(de)(de)權益。

二 人工智能算法存在固有缺陷

當前，以深(shen)度學習為(wei)代表的人工智能(neng)技術在產業界廣泛應用，取得了一系(xi)列突破， 但(dan)其在可(ke)解釋性、魯(lu)棒性、偏見歧視等方面尚存在局限。

1 可解釋性不(bu)足：深度學(xue)習算法的(de)一(yi)個的(de)顯著特點是訓練(lian)過程中自動提取特征(zheng)(zheng)，通常比人工(gong)挑選的(de)特 征(zheng)(zheng)效(xiao)果更好，但這一(yi)過程目(mu)前尚不(bu)可控(kong)，在不(bu)恰當的(de)數據集上(shang)算法可能選擇錯(cuo)誤的(de)特征(zheng)(zheng)。

2 魯(lu)棒性(xing)不足(zu)：深度學習(xi)算法在訓練過程中會對數據的(de)魯(lu)棒特(te)(te)征(zheng)(zheng)和非魯(lu)棒特(te)(te)征(zheng)(zheng)逬行(xing)(xing)學習(xi),并依據這些特(te)(te)征(zheng)(zheng)進行(xing)(xing)識別(bie)。

3 偏見(jian)與歧(qi)視：深度(du)學習(xi)算法(fa)會挖掘訓(xun)練數(shu)據(ju)(ju)集中不同因素的(de)相關性(xing)，擬合數(shu)據(ju)(ju)分(fen)布特性(xing)，訓(xun)練數(shu) 據(ju)(ju)集本身的(de)偏見(jian)與歧(qi)視，會被引入到訓(xun)練出的(de)模型之中。

三 企業人工智能管理體系不完善

人工智能(neng)(neng)等新技(ji)術特有的(de)(de)應用(yong)特征(zheng)對企業的(de)(de)管(guan)理措(cuo)施提出了極大挑戰(zhan)。一方面(mian)(mian)，過 去為了鼓勵(li)創新和(he)效率優先，通常讓(rang)基層擁有較大的(de)(de)自主權；另(ling)一方面(mian)(mian)，人工智能(neng)(neng) 新技(ji)術的(de)(de)負(fu)面(mian)(mian)影響通常不(bu)會立即顯現，也難以全面(mian)(mian)評估。這就使得原(yuan)有的(de)(de)體系并不(bu) 能(neng)(neng)適(shi)應當前(qian)人工智能(neng)(neng)治理原(yuan)則。

1 算法(fa)需要(yao)人為干預： 由于人工智能算法(fa)固(gu)有的缺(que)陷(xian)，需要(yao)對可能出現的錯誤結果進(jin)行干預糾偏。

2 用戶(hu)權益保障不足： 人工智能算法用于自動化決策，對用戶(hu)帶來(lai)明(ming)顯影(ying)響，并不能做(zuo)到完全技術中立， 需(xu)要注意保障用戶(hu)權益。

3 主體責(ze)任(ren)落實(shi)不到位(wei)： 由于人工智能技術門檻高(gao)，且(qie)在企業(ye)中(zhong)的(de)運用往(wang)往(wang)呈現(xian)出高(gao)動態性、高(gao)復雜度等特 點，使得外(wai)部難以理解其(qi)運行機制。