安全亟須與“智”同行

——總體國家安全觀學(xué)習(xí)輔導(dǎo)系列述評

自1956年首次提出概念，人工智能技術(shù)的發(fā)展經(jīng)歷多次起落。近年來，隨著大數(shù)據(jù)、云計(jì)算、互聯(lián)網(wǎng)、物聯(lián)網(wǎng)等新興技術(shù)的融合發(fā)展，人工智能又迎來了蓬勃發(fā)展期，并成為舉世公認(rèn)的前沿技術(shù)代表“名片”之一。在新一輪科技革命和產(chǎn)業(yè)革命加速演進(jìn)的浪潮下，圖像分類、語音識別、問答系統(tǒng)、人機(jī)交互、無人駕駛等人工智能技術(shù)正成為推動傳統(tǒng)產(chǎn)業(yè)升級換代的決定性力量和全球經(jīng)濟(jì)發(fā)展的新引擎，世界各國紛紛把發(fā)展人工智能作為提升國家競爭力、維護(hù)國家安全的重要抓手。然而，一枚硬幣分兩面，技術(shù)的狂飆突進(jìn)也伴隨著風(fēng)險(xiǎn)的陡然上升。著名物理學(xué)家霍金就曾表示，強(qiáng)大人工智能的崛起，對人類來說，可能是最好的事情，也可能是最糟糕的事情。人們驚呼“未來已來”的同時也在擔(dān)心“未來安不安全”，人工智能安全問題越來越受到重視。

人工智能安全是指通過采取必要措施，防范對人工智能系統(tǒng)的攻擊、侵入、干擾、破壞和非法使用以及意外事故，使人工智能系統(tǒng)處于穩(wěn)定可靠運(yùn)行的狀態(tài)，以及遵循人工智能以人為本、權(quán)責(zé)一致等安全原則，保障人工智能算法模型、數(shù)據(jù)、系統(tǒng)和產(chǎn)品應(yīng)用的完整性、保密性、可用性、魯棒性、透明性、公平性和隱私的能力。人工智能安全涉及內(nèi)生安全、衍生安全和發(fā)展安全，是國家安全的關(guān)鍵領(lǐng)域。

以善治促善“智”

習(xí)近平總書記深刻指出：“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，具有溢出帶動性很強(qiáng)的‘頭雁’效應(yīng)。”

人工智能是人類發(fā)展的新領(lǐng)域，也是國家安全最為前沿的新興領(lǐng)域。作為一項(xiàng)賦能型技術(shù)，人工智能在智能交互、決策輔助、智能建模等方面具有強(qiáng)大創(chuàng)新能力和廣泛應(yīng)用場景，能夠帶動國家安全能力整體躍升和跨越式發(fā)展，是維護(hù)和支撐經(jīng)濟(jì)、科技、網(wǎng)絡(luò)等其他領(lǐng)域安全的重要力量。作為一項(xiàng)革命性技術(shù)，人工智能具有技術(shù)屬性和社會屬性雙重特征，人工智能的發(fā)展和應(yīng)用將對倫理道德、社會穩(wěn)定帶來一系列影響，如何實(shí)現(xiàn)人工智能發(fā)展與治理的平衡，是國家安全治理的重要議題。

黨的十八大以來，以習(xí)近平同志為核心的黨中央高瞻遠(yuǎn)矚，搶抓新一輪科技革命、產(chǎn)業(yè)變革風(fēng)口，把發(fā)展人工智能提升到戰(zhàn)略高度，深化人工智能研發(fā)應(yīng)用，開展“人工智能+”行動，推進(jìn)人工智能賦能千行百業(yè)，大力推動發(fā)展方式轉(zhuǎn)變、經(jīng)濟(jì)結(jié)構(gòu)優(yōu)化、增長動力轉(zhuǎn)換，有力支撐現(xiàn)代化產(chǎn)業(yè)體系完善和新質(zhì)生產(chǎn)力發(fā)展，智慧農(nóng)場、智能工廠、智能港口、智慧家居、智能教育等應(yīng)用場景得到極大拓展，人民群眾日益增長的美好生活需要得到不斷滿足，中國人工智能創(chuàng)新水平已進(jìn)入世界前列，為強(qiáng)國建設(shè)、民族復(fù)興提供了新的澎湃動能。

以可控促可靠

人工智能技術(shù)發(fā)展和其他技術(shù)進(jìn)步一樣，也是一把“雙刃劍”。由于技術(shù)的不確定和應(yīng)用的廣泛性，可能會給國家安全和人民利益帶來諸多風(fēng)險(xiǎn)，因此未雨綢繆十分必要，必須加強(qiáng)對人工智能發(fā)展的戰(zhàn)略研判，加強(qiáng)前瞻預(yù)防和約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)。

總的來看，隨著人工智能技術(shù)在不同領(lǐng)域應(yīng)用程度的深化，其引發(fā)的安全風(fēng)險(xiǎn)也涵蓋了國家、社會、企業(yè)和個人等多個層面。不法分子可能借助人工智能技術(shù)進(jìn)行數(shù)據(jù)竊取、網(wǎng)絡(luò)攻擊、經(jīng)濟(jì)犯罪、制造傳播虛假信息等違法犯罪活動，敵對勢力甚至可能開展攻擊抹黑、輿論造勢、文化滲透等干擾破壞活動，對國家安全和社會秩序帶來風(fēng)險(xiǎn)與挑戰(zhàn)。

中國始終以鼓勵人工智能創(chuàng)新發(fā)展為第一要務(wù)，以有效防范化解人工智能安全風(fēng)險(xiǎn)為出發(fā)點(diǎn)和落腳點(diǎn)，按照風(fēng)險(xiǎn)管理的理念，緊密結(jié)合人工智能技術(shù)特性，分析人工智能風(fēng)險(xiǎn)來源和表現(xiàn)形式，針對模型算法安全、數(shù)據(jù)安全和系統(tǒng)安全等內(nèi)生安全風(fēng)險(xiǎn)和網(wǎng)絡(luò)域、現(xiàn)實(shí)域、認(rèn)知域、倫理域等應(yīng)用安全風(fēng)險(xiǎn)，開展綜合防治、系統(tǒng)施治，推動社會各方積極參與、協(xié)同治理，不斷培育安全、可靠、公平、透明的人工智能技術(shù)研發(fā)和應(yīng)用生態(tài)，促進(jìn)人工智能健康有序發(fā)展。

以共建促共享

人工智能治理攸關(guān)全人類命運(yùn)，是世界各國面臨的共同課題。作為人工智能技術(shù)大國，中國始終致力于在人工智能領(lǐng)域構(gòu)建人類命運(yùn)共同體，積極推動深化人工智能發(fā)展和治理國際合作，先后提出了《中國關(guān)于加強(qiáng)人工智能倫理治理的立場文件》《全球人工智能治理倡議》等一系列文件倡議，主提的加強(qiáng)人工智能能力建設(shè)國際合作決議獲第78屆聯(lián)合國大會協(xié)商一致通過，持續(xù)為推進(jìn)人工智能的全球治理提供中國方案，貢獻(xiàn)中國智慧，得到國際社會的高度評價(jià)。中方新近成立中國-金磚國家人工智能發(fā)展與合作中心，愿同各方深化創(chuàng)新合作，釋放人工智能能量。

國家安全機(jī)關(guān)將在黨中央堅(jiān)強(qiáng)領(lǐng)導(dǎo)下，貫徹總體國家安全觀，與有關(guān)部門一道，以有力行動維護(hù)人工智能安全，保障人工智能始終朝著有利于維護(hù)國家安全、促進(jìn)社會進(jìn)步和增進(jìn)人民福祉的方向發(fā)展。

原標(biāo)題：安全亟須與“智”同行

編輯：楊四海責(zé)編：廖異審核：馮飛