《大模(mo)型(xing)安(an)全(quan)實(shi)踐（2024）》白皮書深入分析了大模(mo)型(xing)技術的安(an)全(quan)風(feng)險，并提出了全(quan)面的安(an)全(quan)治理(li)框(kuang)架(jia)和(he)建議，以確保大模(mo)型(xing)技術的穩健與負(fu)責任發展。

大模型作為AI領(ling)域(yu)的(de)(de)(de)一個重要分支(zhi)，日(ri)益成為推動社會進步和創新(xin)的(de)(de)(de)關(guan)鍵力量。依托于龐大的(de)(de)(de)參數規模、海量的(de)(de)(de)訓(xun)練(lian)數據(ju)、強大的(de)(de)(de)算力資(zi)源(yuan)，大模型在多個領(ling)域(yu)的(de)(de)(de)能(neng)力已超越(yue)人類。而縱觀歷史，每一輪新(xin)技術(shu)革命都會帶來社會的(de)(de)(de)變(bian)革與不確定性(xing)(xing)，隨著大模型能(neng)力的(de)(de)(de)不斷增強，大模型的(de)(de)(de)安全(quan)性(xing)(xing)、可靠性(xing)(xing)、可控(kong)性(xing)(xing)正面(mian)臨前(qian)所未有的(de)(de)(de)挑戰。

伴(ban)隨大(da)模(mo)(mo)型(xing)(xing)的深度應(ying)用，產(chan)學研用各方也加強(qiang)了大(da)模(mo)(mo)型(xing)(xing)安(an)全威(wei)脅和(he)防御技(ji)術(shu)(shu)體系研究，在原有(you)可(ke)信(xin)人(ren)工(gong)智能治理體系框架基礎上，提(ti)升大(da)模(mo)(mo)型(xing)(xing)的魯(lu)棒性(xing)、可(ke)解釋性(xing)、公平性(xing)、真實性(xing)、價值對(dui)齊、隱(yin)私(si)保(bao)護(hu)等方向(xiang)的能力成為行業研究熱點(dian)。安(an)全評測技(ji)術(shu)(shu)和(he)安(an)全防御技(ji)術(shu)(shu)不斷成熟也有(you)效護(hu)航了大(da)模(mo)(mo)型(xing)(xing)發展。

大模(mo)(mo)(mo)型(xing)(xing)(xing)正在(zai)(zai)成為推(tui)動各(ge)垂類領域產業升級的關鍵核心力(li)量。金融、醫療、教育、政務、制造等眾(zhong)多領域都在(zai)(zai)積極探索大模(mo)(mo)(mo)型(xing)(xing)(xing)安(an)(an)全(quan)(quan)應用(yong)范(fan)式(shi)，以應對大模(mo)(mo)(mo)型(xing)(xing)(xing)安(an)(an)全(quan)(quan)風險(xian)。大模(mo)(mo)(mo)型(xing)(xing)(xing)安(an)(an)全(quan)(quan)實(shi)踐(jian)案例從(cong)系統化的角度為大模(mo)(mo)(mo)型(xing)(xing)(xing)數據、訓(xun)練(lian)、部署、應用(yong)等環節提供安(an)(an)全(quan)(quan)應用(yong)經驗(yan)，展示了如何(he)有效地識別和(he)防控(kong)大模(mo)(mo)(mo)型(xing)(xing)(xing)風險(xian)，促(cu)進了業內(nei)最佳(jia)實(shi)踐(jian)的交流(liu)和(he)分享，助力(li)了大模(mo)(mo)(mo)型(xing)(xing)(xing)安(an)(an)全(quan)(quan)生態發展。

本報(bao)告(gao)在(zai)分析了(le)(le)大(da)(da)模型(xing)(xing)發(fa)展趨勢挑(tiao)戰的基(ji)礎上(shang)，提出(chu)了(le)(le)大(da)(da)模型(xing)(xing)安(an)全實(shi)踐總體框(kuang)架(jia)，并從安(an)全性(xing)、可靠性(xing)、可控性(xing)以及評測(ce)四個角度對大(da)(da)模型(xing)(xing)安(an)全技術進行(xing)了(le)(le)深度剖析。最(zui)后，在(zai)大(da)(da)模型(xing)(xing)安(an)全未來發(fa)展趨勢基(ji)礎上(shang)，提出(chu)了(le)(le)大(da)(da)模型(xing)(xing)安(an)全“五(wu)維一體”治(zhi)理框(kuang)架(jia)，對于大(da)(da)模型(xing)(xing)安(an)全生態形成、大(da)(da)模型(xing)(xing)可持續發(fa)展具有(you)非常重要和積(ji)極的意義。

附件：大模型安全實踐白皮書2024-安全性、可靠性、可控性以及評測四個角度剖析