自1956年首次提出概念,人工智慧技術的發展經歷多次起落。近年來,隨著大數據、雲端運算、互聯網、物聯網等新興技術的整合發展,人工智慧又迎來了蓬勃發展期,並成為舉世公認的前沿技術代表「名片」之一。在新一輪科技革命和產業革命加速演進的浪潮下,影像分類、語音辨識、問答系統、人機互動、無人駕駛等人工智慧技術正成為推動傳統產業升級換代的決定性力量和全球經濟發展的新引擎,世界各國紛紛把發展人工智慧作為提升國家競爭力、維護國家安全的重要抓手。然而,一枚硬幣分兩面,技術的狂飆突進也伴隨著風險的陡峭上升。著名物理學家霍金曾表示,強大人工智慧的崛起,對人類來說,可能是最好的事情,也可能是最糟糕的事情。人們驚呼“未來已來”的同時也在擔心“未來安不安全”,人工智慧安全問題越來越受到重視。
人工智慧安全是指透過採取必要措施,防範對人工智慧系統的攻擊、侵入、幹擾、破壞和非法使用以及意外事故,使人工智慧系統處於穩定可靠運作的狀態,以及遵循人工智慧以人為本、權責一致等安全原則,保障人工智慧演算法模型、資料、系統和產品應用的完整性、保密性、可用性、穩健性、透明性、公平性和隱私的能力。人工智慧安全涉及內生安全、衍生安全和發展安全,是國家安全的關鍵領域。

以善治促善“智”
習近平總書記深刻指出:“人工智慧是引領這一輪科技革命和產業變革的戰略性技術,具有溢出帶動性很強的'頭雁'效應。”
人工智慧是人類發展的新領域,也是國家安全最為前沿的新興領域。作為一項賦能型技術,人工智慧在智慧互動、決策輔助、智慧建模等方面具有強大創新能力和廣泛應用場景,能夠帶動國家安全能力整體躍升和跨越式發展,是維護和支撐經濟、科技、網路等其他領域安全的重要力量。作為一項革命性技術,人工智慧具有技術屬性和社會屬性雙重特徵,人工智慧的發展和應用將對倫理道德、社會穩定帶來一系列影響,如何實現人工智慧發展與治理的平衡,是國家安全治理的重要議題。
黨的十八大以來,以習近平同志為核心的黨中央高瞻遠矚,搶抓新一輪科技革命、產業變革風口,把發展人工智能提升到戰略高度,深化人工智能研發應用,開展“人工智能+”行動,推動人工智慧賦能千行百業,大力推動發展方式轉變、經濟結構優化、成長動力轉換,有力支撐現代化產業體系完善和新質生產力發展,智慧農場、智慧工廠、智慧港口、智慧家居、智慧教育等應用場景得到極大拓展,人民群眾日益增長的美好生活需要得到不斷滿足,中國人工智慧創新水準已進入世界前列,為強國建設、民族復興提供了新的澎湃動能。
以可控促可靠
人工智慧技術發展和其他技術進步一樣,也是一把「雙面刃」。由於技術的不確定性和應用的廣泛性,可能會對國家安全和人民利益帶來許多風險,因此未雨綢繆十分必要,必須加強對人工智慧發展的戰略研判,加強前瞻預防和約束引導,最大限度地降低風險。
總的來看,隨著人工智慧技術在不同領域應用程度的深化,其引發的安全風險也涵蓋了國家、社會、企業和個人等多個層面。不法分子可能藉助人工智慧技術進行資料竊取、網路攻擊、經濟犯罪、製造散播假訊息等違法犯罪活動,敵對勢力甚至可能進行攻擊抹黑、輿論造勢、文化滲透等乾擾破壞活動,對國家安全與社會秩序帶來風險與挑戰。
中國始終以鼓勵人工智慧創新發展為第一要務,以有效防範解人工智慧安全風險為出發點和落腳點,按照風險管理的理念,緊密結合人工智慧技術特性,分析人工智慧風險來源和表現形式,針對模型演算法安全、資料安全與系統安全等內生安全風險及網路域、現實域、認知域、倫理域等應用安全風險,進行綜合防治、系統施治,推動社會各方積極參與、協同治理,不斷培養安全、可靠、公平、透明的人工智慧技術研發和應用生態,促進人工智慧健康有序發展。
以共建促共享
人工智慧治理攸關全人類命運,是世界各國面臨的共同議題。身為人工智慧科技大國,中國始終致力於在人工智慧領域建構人類命運共同體,積極推動深化人工智慧發展與治理國際合作,先後提出了《中國關於加強人工智慧倫理治理的立場文件》《全球人工智慧治理倡議》等一系列文件倡議,主提的加強人工智慧能力建設國際合作決議獲第78屆聯合國大會協商一致通過,持續為推動人工智慧的全球治理提供中國方案,貢獻中國智慧,得到國際社會的高度評價。中方新近成立中國-金磚國家人工智慧發展與合作中心,願同各方深化創新合作,釋放人工智慧能量。
國家安全機關將在黨中央堅強領導下,貫徹總體國家安全觀,與有關部門一道,以有力行動維護人工智慧安全,保障人工智慧始終朝著有利於維護國家安全、促進社會進步和增進人民福祉的方向發展。