![]() 原文刊載于《中國科學院院刊》2025年第3期'政策與管理研究”,本文為精簡改編版 李輝 王娜 王龍* 中國人民公安大學公安管理學院 當前,算力在數字政府、AI、金融科技、醫療健康、交通運輸、信息安全、科學研究等領域產生巨大影響,成為驅動新質生產力的核心引擎。然而,在算力規模指數級增長和算力應用場景多元化的發展態勢下,算力安全風險的形態、邊界、閾值持續變化。作為一種新興的科技安全類型,算力安全及其治理正在成為國家安全治理的重要領域。但在理論研究中,有關算力安全治理的基本概念、理論框架構建的研究還比較薄弱,致使對算力安全治理的重要性與特殊性的理解亟待拓展和深入。因此,針對目前算力安全治理研究的碎片化現狀,有必要引入新的理論視角來分析。總體國家安全觀是一個系統完整的理論體系,強調安全的系統性、關聯性、辯證性特征,具有豐富的內涵和外延,適合作為分析算力安全治理的理論工具。 1 算力安全治理的內涵透視及驅動邏輯 算力安全治理的內涵透視 算力安全可被視為安全在算力領域的聚焦化表達,是一種結合算力這一安全標的物形成的融合性概念。作為新興技術發展的產物,算力被認為是集信息計算力、網絡運載力、數據存儲力于一體的新型生產力,而算力安全則用于描述算力效能能夠穩定有序釋放的安全狀態。算力安全的基本目標,便是盡可能將風險控制在可接受程度范圍內。算力安全治理則是一種風險控制活動,強調將人的主觀能動性與算力的安全功能銜接起來,相關治理主體通過治理過程和治理舉措來消解、降低及防御系統內外的算力安全風險,其治理范疇包括對算力這一技術現象本身及其應用相關的安全風險治理。 總體國家安全觀視域下算力安全治理的驅動邏輯 1 以算力安全保障國家安全體系和能力現代化的目標使然 《算力基礎設施高質量發展行動計劃》強調了保障算力平穩運行的系列重點任務,保障算力安全已經成為維護總體國家安全的重要關切點。作為數字時代的核心生產力,算力以“倍增效應”為千行百業賦能,算力安全問題直接關系到經濟社會的穩定,推動算力安全治理對于筑牢維護國家安全屏障具有關鍵支撐作用。 2 積極應對各類算力安全風險挑戰的現實使然 新態勢下,算力愈加成為世界主要大國競爭的重要戰略領域。與此同時,近年來全球網絡攻擊重心也從個人電腦(PC)向非傳統計算領域遷移,各種算法攻擊、數據泄露、供應鏈攻擊事件多發,各國面臨的算力安全挑戰日益復雜,加強我國算力安全治理迫在眉睫。 3 主動創造和引領高質量算力安全防護體系的實踐必然 我國相繼啟動“東數西算”工程、建設國家超算互聯網、上線運行“東數西算”一體化算力服務平臺等,在實踐中逐漸形成連點成線、密織成網的算力布局。在數智時代把握好發展的主動權,就要擰緊算力安全這個支撐產業數字化轉型和智能化發展的關鍵“閥門”,形成高質量算力安全防護體系。 2 總體國家安全觀下算力安全風險的識別與分析 總體國家安全觀強調大安全理念和大安全格局。大安全理念是一種系統全面的安全觀念,重點強調系統思維、整體思維的應用。系統性地識別算力生成和落地的全鏈條過程,才能準確把握算力安全的風險來源。從算力的生成和落地的過程來看,前端環節的數據要素和算法工具、保障環節的基礎設施支撐、落地環節的算力應用等,都可能成為算力安全風險的多維來源(圖1)。 ![]() 圖1 算力生成過程及應用表現 算料輸入:數據風險帶來的算力安全風險 1 數據采集階段的安全風險 在數據采集過程中,數據造假、惡意數據插入等都會造成數據失真,在“質”的層面影響算力結果的準確性和可信性。 2 數據存儲階段的安全風險 在數據存儲過程中,無論是內部數據管理層的操作失誤、技術漏洞,抑或自然災害、基礎設施損壞或老化、黑客攻擊等,都可能導致數據資源在調度、訪問和傳輸過程中被篡改、刪除、泄露和丟失,影響作為算料的數據質量及其穩定供給。 3 數據分析階段的安全風險 當前,全球范圍內的網絡攻擊、數據投毒、數據陷阱等事件頻發,導致受攻擊數據庫的數據參數、結構和功能改變,而基于此類數據形成的分析結果會導致算法結論誤導決策,使得算力結果失真、失效,進而影響算力的有效生成。 算法嵌入:算法工具帶來的算力安全風險 1 算法的程序設計風險 算法邏輯缺陷、算法漏洞或惡意植入、算法模型更新滯后等原生性算法安全風險,可能會引起算力分析結果異常。并且,掌握算法的技術強勢一方也可能會濫用算法權力,引致算法操控、技術專制、“信息繭房”等問題。 2 算法“黑箱”的運行風險 “算法黑箱”的存在使得算法運行過程難以理解,算法在執行過程中即便出現了算法誤用、算法歧視等問題也很難被識別和排查,進而影響到算力運行結果。 3 算法監管引致的風險 算法產業監管模式通常包括備案式和主動檢查式兩種。由于當前算法安全測試標準不統一、測試技術和手段不健全,導致算法備案和第三方監管等無法發揮真正的監管作用,使得算法安全風險仍具有不確定性。 底座支撐:基礎設施帶來的算力安全風險 在保障環節,算力的生成和落地離不開基礎設施的保障和支撐。從算力基礎設施的基本樣態出發,可劃分為制度組件、技術組件和能源組件。 1 制度組件 現有法律、行政法規等對于保障算力運行的網絡環境、數據、算法和設備安全發揮了一定的支撐作用,但相對于算力安全的復雜形勢任務變化和高質量發展的目標來說,立法保障仍然相對比較零散,不能充分滿足算力安全領域快速發展的現實需要。 2 技術組件 算力技術的發展衍生了新的安全治理議題,帶來諸如算力基礎設施的外包風險、算力硬件設備復雜化風險、數據中心過度分散等新的難題。并且,美西方國家對我國采取嚴格的技術封鎖、出口管制、算力融資渠道截斷等措施,壓縮了我國算力發展能力和空間,加之國內智能計算生態仍相對孱弱,進一步放大了我國算力安全面臨的技術風險和挑戰。 3 能源組件 算力流轉過程中,服務器運轉、制冷/散熱設備的驅動、大模型平臺資源調度需要消耗大量水熱電等能源。不穩定的水電熱供應以及對能量供應鏈路和設施的物理破壞,都會導致宕機風險,引致算力安全問題。 算力落地:算力應用帶來的算力安全風險 1 算力安全治理與業務場景相對分離值得關注 算力嵌入到不同行業不同領域的場景,因此要實現因時因地的安全治理,就要以場景和需求為牽引。但在實踐中,不同行業和領域的算力安全防護表現參差不齊,尚未形成針對性的安全防護舉措和方案,在某種程度上會造成算力安全治理的被動。 2 算力應用引發社會不確定性問題日益凸顯 依托算力開展的AI泛在使用對安全、隱私、倫理提出了更多挑戰,如利用AI算法進行精準網絡攻擊、通過AI“換臉”實施詐騙,以及在應用過程中衍生的算力監管等,形塑了算力應用風險的新樣態,導致算力安全邊界泛化程度加大。 3 算力安全在國家發展布局中具有重要戰略地位 算力發展和應用的國際化程度持續加深,其伴生而來的全球智能鴻溝加大、隱私泄露嚴重、技術的歧視性壁壘加劇、算法意識形態加深等現實問題,也對國家安全,乃至全人類命運帶來了多重威脅和挑戰。 3 總體國家安全觀下推進算力安全治理的路徑導向 算力安全風險廣泛性地存在于前置環節的數據輸入和算法嵌入、保障環節的底座支撐和落地環節的算力應用中。因此,既需要在治理理念上形成對算力安全治理的整體性認識,也需要在治理行動中針對不同環節的算力安全治理需求,以明確算力安全的治理側向。 算力安全治理要以總體國家安全觀為指導,貫徹統籌發展和安全的理念,強化算力安全治理的總體戰略布局,在治理行動上主動關注前端環節的數據和算法衍生的潛在安全問題,加強算力安全的前瞻性治理。同時,要在保障環節兼顧不同風險來源條件下算力安全底座的治理側重點,加強算力安全的精細化治理。此外,還要主動創設算力安全發展和應用的新圖景,加強算力安全的適應性治理(圖2)。 ![]() 圖2 總體國家安全觀下的算力安全治理路徑 以統籌安全和發展的理念強化算力安全治理的戰略布局 算力安全治理“統籌”的核心在于把握“全面”,體現在內容層面的系統性、時間層面的動態性以及主體層面的多元性3個維度。 1 注重算力安全治理內容的系統性 與算力有關的制度框架、數據要素、算法工具、基礎設施、平臺應用等安全隱患風險都應納入關注范疇,并分析這些要素的關鍵節點及安全防護中存在的不足、可能波及的影響程度和范圍等,將安全技術組合起來形成整體安全防御體系。 2 突出算力安全治理實踐的動態性 算力的內涵范疇、應用場景、內容體系與時俱進,隨著外部形勢的變化而不斷調整,因此要把握算力安全的在不同階段的新內涵,主動面向經濟社會發展全局,提升網絡安全、強化數據安全、算法安全創新、供應鏈安全等,加強算力安全保障能力建設。 3 突出算力安全治理主體的多元性 構建由政府、算力服務企業、跨學科專家、行業和個人用戶等相關方共同參與的多元化治理機制。同時,明確算力安全治理主體的治理范疇、安全要求和法律責任等,形成政府監管、企業履責、行業自律、社會監督的算力安全多元共治體系。 以前瞻性治理應對數據安全、算法安全衍生的算力安全風險 1 在認識上,把握數據安全、算法安全對保障算力安全的重要嵌入作用 跳出對算力單一技術現象的靜態解構,關注算力安全與數據安全、算法安全的系統性關聯,以前瞻視角預見、預判數據輸入和算法嵌入環節可能衍生的算力安全風險。 2 在知識生產上,加強算力安全風險演化中新的安全關系和風險規律研究 算力行業組織、企業、科研機構和有關專業機構可通過具體的知識生產活動,推進數據安全、算法安全與算力安全風險要素關聯研究,發現風險演化過程中新的因果關系和風險規律,為算力安全治理提供新理解、新經驗。 3 在行動創新上,探索和推動數據安全、算法安全和算力安全的協同共治模式 一方面,引導多元治理主體參與,針對數據安全和算法安全可能衍生的影響范圍和危害程度深入研討,形成系統性的算力安全治理方案和行動計劃。另一方面,建立數據安全、算法安全和算力安全的協同共治方案,明確不同界面、不同階段治理主體的責任。 以精細化治理應對算力底座支撐可能引發的算力安全風險 1 完善算力安全相關的制度設計,加強算力制度供給 加強統籌規劃和宏觀引領,加快涵蓋算力治理全流程、內容相互銜接的制度建設。同時結合算力產業的發展需求、市場化需求,在精準定位算力安全治理主體責任的基礎上,構建算力安全防護的行業規范,貫徹算力安全保護制度。 2 保障算力關鍵基礎設施安全,加強算力技術自主創新 針對支撐算力運行的各類硬件安全及軟件安全風險,采取技術保護和其他必要措施來應對風險沖擊。同時要有序加大資金投入和政策扶持,推動高性能計算技術、算法模型、高端芯片等關鍵軟硬件的自主研發,解決算力技術的可控性問題。 3 保障支撐算力發展的能源安全,加強運行保障能力 保障各類供給設備和管線設施正常生產運行的能源供應鏈安全,切實做到能源供應自主可控可靠,實現風、火、水、電等綠色能源的高質量、可持續供給。 以適應性治理應對算力落地和應用過程中衍生的安全風險 1 加強算力安全需求分析,確保風險治理的匹配性 重點是結合算力的一般技術特性和具體應用領域的情境特征,以及不同應用領域或任務特征來選擇對應的算力安全治理方式,完善行業性方案,形成安全有機體。 2 創新算力安全機制,確保風險治理的靈活性 基于算力安全需求分析,構建算力安全風險預警體系和評價指標,建立健全算力安全風險研判機制、防范化解機制、溝通機制、激勵機制和合作機制等。 3 加強算力安全運營監管,確保風險治理的準確性 一是根據不同業務場景和應用情境錨定安全節點,構建內容精細化、拓展性強的算力安全評估標準。二是善用人機協同模式推進算力監管模式創新,如引入自動化和智能化漏洞發現技術、模擬攻擊等,推進算力安全風險的智慧排查。三是推動政府、企業、網民共同參與算力安全監督和治理,發揮各類監督主體的優勢并形成互補性。 4 全面深化算力安全國際合作,確保風險治理的長效性 推動算力安全的國際治理,重點在于順應國際算力產業發展大勢,推動我國算力發展積極融入全球算力產業鏈。在此基礎上,積極尋求對外合作,打造安全穩定、互利共贏的算力網絡環境。 李 輝 中國人民公安大學公安管理學院副院長、教授、博士生導師。中國發展戰略學研究會公共安全戰略專業委員會副秘書長。主要研究領域:公共安全治理、公安管理。 王 龍 中國人民公安大學發展規劃與學科建設處處長、公安管理學院副教授。中國發展戰略學研究會公共安全戰略專業委員會秘書長。主要研究領域:數據安全治理、戰略管理。 文章源自:李輝, 王娜, 王龍 . 總體國家安全觀視域下的算力安全治理研究 . 中國科學院院刊, 2025, 40(3): 511-521. DOI: 10.16418/j.issn.1000-3045.20241024003. |
|