9月9日，在2024年國(guó)家網(wǎng)絡(luò)安全宣傳周主論壇上，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（以下簡(jiǎn)稱(chēng)“網(wǎng)安標(biāo)委”）發(fā)布了《人工智能安全治理框架》1.0版。

據(jù)介紹，為貫徹落實(shí)《全球人工智能治理倡議》，網(wǎng)安標(biāo)委研究制定了《人工智能安全治理框架》（以下簡(jiǎn)稱(chēng)《框架》）。《框架》以鼓勵(lì)人工智能創(chuàng)新發(fā)展為第一要?jiǎng)?wù)，以有效防范化解人工智能安全風(fēng)險(xiǎn)為出發(fā)點(diǎn)和落腳點(diǎn)，提出包容審慎、確保安全，風(fēng)險(xiǎn)導(dǎo)向、敏捷治理，技管結(jié)合、協(xié)同應(yīng)對(duì)，開(kāi)放合作、共治共享等人工智能安全治理原則。《框架》按照風(fēng)險(xiǎn)管理理念，緊密結(jié)合人工智能技術(shù)特性，分析人工智能風(fēng)險(xiǎn)來(lái)源和表現(xiàn)形式，針對(duì)模型算法安全、數(shù)據(jù)安全和系統(tǒng)安全等內(nèi)生安全風(fēng)險(xiǎn)，和網(wǎng)絡(luò)域、現(xiàn)實(shí)域、認(rèn)知域、倫理域等應(yīng)用安全風(fēng)險(xiǎn)，提出相應(yīng)技術(shù)應(yīng)對(duì)和綜合防治措施，以及人工智能安全開(kāi)發(fā)應(yīng)用指引。

網(wǎng)安標(biāo)委秘書(shū)處主要負(fù)責(zé)人表示，《框架》1.0版的發(fā)布，對(duì)推動(dòng)社會(huì)各方積極參與、協(xié)同推進(jìn)人工智能安全治理具有重要促進(jìn)作用，為培育安全、可靠、公平、透明的人工智能技術(shù)研發(fā)和應(yīng)用生態(tài)，促進(jìn)人工智能的健康發(fā)展和規(guī)范應(yīng)用，提供了基礎(chǔ)性、框架性技術(shù)指南，同時(shí)也有助于在全球范圍推動(dòng)人工智能安全治理國(guó)際合作，推動(dòng)形成具有廣泛共識(shí)的全球人工智能治理體系，確保人工智能技術(shù)造福于人類(lèi)。（記者崔爽 龍躍梅 葉青）