技術局(ju)限尚需(xu)突破方能釋放更大價值

• 知(zhi)(zhi)識更(geng)新與(yu)自主學(xue)習(xi)能力，目(mu)前(qian)大語言(yan)模型(xing)仍然(ran)為靜(jing)態數據(ju)驅(qu)動的學(xue)習(xi)范式(shi)，無法(fa)實現(xian)新知(zhi)(zhi)識的快(kuai)速學(xue)習(xi)與(yu)迭代，尤其是涉及到(dao)時(shi)效數據(ju)與(yu)專有數據(ju)的場(chang)景下存(cun)在 障礙，OpenAI正在通過(guo)Plugins生態來突破這一局限

• 垂直領域泛化(hua)能(neng)力(li)，通用任(ren)務的(de)(de)卓越能(neng)力(li)已經顯現，但(dan)是進入垂直細分領域與(yu)知識體系下，大模(mo)型的(de)(de)性能(neng)與(yu)泛化(hua)能(neng)力(li)仍然需要增強，行業大模(mo)型訓(xun)練是當前挑戰的(de)(de) 破(po)局之道之一

• 長(chang)期記憶能力，目前正在通過增大上(shang)下(xia)文容量、數據向量化(hua)，以及AI agent等多種(zhong)方式探(tan)索(suo)突(tu)破

巨大的模型(xing)訓練與推理算力等成本拉低效(xiao)益比

• 訓(xun)練(lian)與微調(diao)成(cheng)(cheng)本(ben)，該訓(xun)練(lian)成(cheng)(cheng)本(ben)僅針對企業應用基礎(chu)模型結合(he)行業知識(shi)(shi)與數(shu)據集進行訓(xun)練(lian)與微調(diao)的成(cheng)(cheng)本(ben)，并非(fei)基礎(chu)大模型訓(xun)練(lian)成(cheng)(cheng)本(ben)，與上述“垂直領域泛化能力”相 對應，該成(cheng)(cheng)本(ben)仍(reng)然為(wei)行業知識(shi)(shi)壁壘顯著的企業必(bi)須承擔的成(cheng)(cheng)本(ben)，開源基礎(chu)模型在一(yi)定程(cheng)度上可以降(jiang)低這一(yi)階(jie)段的訓(xun)練(lian)成(cheng)(cheng)本(ben)

• 推(tui)(tui)理成本，大(da)模型(xing)在參數(shu)體量巨大(da)的(de)情(qing)況下，仍然存(cun)在較(jiao)高的(de)推(tui)(tui)理成本，這方面可以通過模型(xing)壓縮與(yu)剪(jian)枝等技術的(de)發展進(jin)一步降低

• 模型能(neng)力與業(ye)務(wu)場(chang)(chang)景的適應成(cheng)本，這部分成(cheng)本雖然由于人機交(jiao)互(hu)方式的變化顯著降低，但是前期仍然需(xu)要考(kao)慮(lv)提示工程在(zai)特定場(chang)(chang)景的磨合成(cheng)本

安(an)全合規可信應用底線尚需剛性保障

• 模(mo)型(xing)安全與可控(kong)(kong)制性問題(ti)，這(zhe)是(shi)人(ren)工智能普遍面臨的問題(ti)，大(da)模(mo)型(xing)并不能幸免，包括(kuo)模(mo)型(xing)攻防、數據注入等問題(ti)；同時，模(mo)型(xing)能力(li)來(lai)自于“涌(yong)現(xian)”，需(xu)要進行模(mo)型(xing) 能力(li)，尤其是(shi)生(sheng)成結果(guo)的可控(kong)(kong)制，方能進入到生(sheng)產環(huan)境

• 對齊(qi)問(wen)題，既包括(kuo)(kuo)人工(gong)智能與人類社會(hui)價(jia)值觀(guan)保持一致，也包括(kuo)(kuo)與不(bu)(bu)同國家(jia)價(jia)值觀(guan)，不(bu)(bu)同類型企(qi)業經營以及商業法則相匹配等，前者最(zui)為(wei)關鍵(jian)，這也是目前最(zui)為(wei)關 注的AI不(bu)(bu)受控制(zhi)的風險之一，目前在通過RLHF與RLAIF不(bu)(bu)同方(fang)式(shi)來實現

• 隱(yin)私與數據安全問題，無(wu)論是大模(mo)型(xing)的(de)訓練推理，還是對話(hua)應用的(de)過(guo)程(cheng)中，都(dou)存(cun)在過(guo)多(duo)的(de)隱(yin)私暴露與數據安全風(feng)險，這有賴于技術突(tu)破和監管(guan)合規的(de)進一(yi)步建立

附件：AI結合電商、廣告應用發展飛速！AI+教育暫處最底位！2023中國人工智能產業應用發展圖譜