人工智能時代的國家安全與高校對策

2024世界人工智能大會暨人工智能全球治理高級別會議在上海舉行 　　新華社記者 黃曉勇 攝

面對百年未有之大變局，在挑戰日趨復雜、風險源日益多樣的今天，由習近平總書記 2014 年創造性提出的總體國家安全觀為全面認識和統籌應對與防范化解重大風險提供了指引和要求。這其中，人工智能（AI）在國際關系與國家安全領域的應用正日益展現出“雙刃劍”效應。一方面，AI技術驅動科技變革、提升生產力，為處理復雜的國內挑戰、國家間關系、應對全球政治變遷、維護國家利益與國家安全提供了新的賦能條件，為構建新安全格局和新發展格局強健了基礎。但另一方面，AI技術在社會的廣泛應用也帶來了不可忽視的安全風險。

當前，數字技術等新興領域已納入國家安全范疇，“人工智能安全”已成為國家安全的重要組成部分。中國倡導的全球安全倡議和全球人工智能治理倡議為全球共同兌現AI發展紅利、協力應對 AI 挑戰提供了中國路線。在此背景下，大學作為思想陣地、育人平臺和多元社群，既需要加強安全風險應對能力，也需要發揮在國家安全能力建設的主力軍作用。

高校不是世外桃源，對AI帶來的風險與挑戰要有清醒的認識，要有應對之策。

AI 的快速發展伴隨著一系列安全隱患，包括數據安全、算法操控、信息和網絡安全等。大學對于這些風險來說并非絕緣，而相關人才的培養也需系統布局。

國家安全教育體系必須適應 AI 技術的發展，培養兼具技術理解、倫理意識、政策把握和國際視野的復合型人才，以滿足國家安全需求。大學應成為善用 AI 賦能與參與 AI 善治的主體之一，既要做好安全風險應對，也要乘勢做好相關領域國家安全人才的培養工作。

在當前主流的數據驅動 AI 技術路徑下，數據泄露和濫用成為國家安全的重要隱患。個人信息、社會經濟數據、敏感領域信息的存儲和處理需要嚴格、合理監管，以避免出現泄露甚至誤導性決策。大學需要相應地加強 AI 安全課程，引導師生認識數據安全的法律法規，掌握必要的隱私保護技術。

AI 算法能夠在不同程度上決定信息傳播，干預社會輿論，甚至影響重大政策和行動。惡意行為者利用 AI 生成虛假新聞、偽造身份、操縱社交媒體。大學師生群體作為這些惡意行為的目標人群之一和應對這類風險的重要群體，應加強 AI 倫理和治理素養，提升對算法偏見、信息操縱的認知，并加強輿論戰防御策略培養，加強師生AI安全攻防實驗，幫助師生了解一定的攻防前沿技術，培養必要的網絡+AI 安全實戰能力。

面對上述風險和需要，大學在 AI 安全人才梯隊的培養和儲備中可以發揮關鍵作用。其主體任務可通過課程體系、復合培養、實戰演練、人才對接以及推動普及全民教育來落實。

首先，在構建 AI 安全課程體系方面，當前 AI 教育主要集中在技術和應用層面，對于安全問題的涉及不足。大學可建立完備的 AI 安全課程體系，如設置關于 AI 安全基礎的課程，涵蓋數據安全、算法安全、隱私保護、網絡安全等基礎知識；涉及人工智能倫理與法律的課程，探討 AI 治理、法律法規、國際規范等內容；有關 AI 安全攻防實戰的課程，模擬真實環境演練，提高實戰能力；體現深度偽造與信息戰認知戰的課程，涉及深度偽造檢測、輿論操控防御、信息溯源技術等。這些課程應覆蓋計算機、法學、國際關系、國家安全等專業，確保不同學科的學生都能系統接觸 AI 安全知識。

其次，在培養復合型人才方面，應加強跨學科融合。AI安全涉及技術、法律、倫理、政策等領域，單一學科難以全面覆蓋和立體應對。大學應推動計算機科學、國際關系、法律、社會學等學科交叉培養。這些學科既要各專其職，更需有組織的跨域培養。如計算機專業學生需學習AI倫理與政策，理解算法監管、隱私保護、國家安全法等內容；法學專業學生需掌握 AI 技術基礎，提高對AI法規的技術認知；國際關系學生需學習AI在軍事與外交中應用的技術機理，理解 AI 對國際安全秩序的影響。這種跨學科培養模式能夠讓學生具備多維度思考能力，更好地適應國家安全環境。

再者，在推動實戰訓練方面，可建立相應的跨學科AI安全實驗室，突破和超越課堂教學，提供實操機會。這些實踐可包括：AI 攻防演練，設置模擬網絡環境，組織師生進行 AI 漏洞挖掘、紅藍對抗訓練；輿論戰與假信息檢測，利用真實數據進行信息溯源、深度偽造檢測訓練；AI 武器化與國家、國際安全的關系：模擬無人機、自動化武器的作戰決策，探索AI在安全領域的應用邊界和風險應對。相應的實踐實戰體系需開放、靈活、立體、有機。

在上述工作基礎上，還要推動產學研合作，建立人才輸送機制。大學與政府、企業、科研機構應緊密合作，共同推動 AI 安全研究和人才培養。這包括與國家有關部門合作，培養適應國家安全需求的AI人才，如網絡安全專家和分析人員等；與科技公司和產業界合作，共同研發 AI 安全技術，確保 AI 產品符合國家安全和國際治理要求；與國際組織合作，推動全球 AI 治理研究，為中國在國際 AI 安全治理中提供智庫支持和人才儲備。這些合作將有助于形成“高?！a業”的AI國家安全人才輸送機制。

最后，發揮大學的公民教育陣地作用，需要積極參與普及國家安全教育，提高全民 AI 安全意識。AI 安全不僅是技術問題，也關乎社會認知。大學應結合如全民國家安全教育日等重要節點，開展 AI 安全科普活動，提高社會對 AI 安全風險的認知?？梢劳袑W校的多學科優勢，組織“AI安全挑戰賽”，讓校內外人群體驗不同的AI賦能與風險場景。亦可通過綜合學術和政策資源，舉辦專家講座，邀請政府人員、學者探討 AI 安全政策和法律框架。還可通過已經較為成熟的在線課程平臺，開發相關課程，面向社會普及AI安全基本知識，引導公眾更好地善用 AI，提高公眾對AI濫用的警惕性。

AI發展第一、二梯隊的一些國家已在AI安全教育上采取多種措施，可資借鑒。如美國通過在大學設立AI倫理、安全相關研究中心，與政府合作支持AI安全研究計劃；歐盟推動高校 AI 治理課程，并與政府合作開發 AI 安全標準等。相比較，中國AI安全教育的優勢在于政府推動力強、產學研結合緊密、多學科布局完整、人才儲備量大，但需有效加強跨學科融合與國際合作，以切實提升AI安全治理的人才儲備質量。

AI在國內事務、國際關系和國家安全領域的應用，既可能帶來前所未有的賦能效應，也伴生復雜多樣的安全風險。我們必須在總體國家安全觀的指引下，統籌發展和安全兩件大事，既充分利用 AI 提升國家安全和發展水平的能力，又要嚴密防范多種、多重風險對國家安全的侵蝕，更要積極發揮中國在全球 AI 善治中的責任和作用。中國倡導“共同、綜合、合作、可持續”的全球安全觀，積極推動將AI納入全球安全治理議程，通過對話合作化解風險，讓 AI 這柄“雙刃劍”的正面效應最大化，負面效應最小化。唯有如此，人類才能在人工智能時代既享受技術進步帶來的福祉，又避免陷入新技術失控的安全陷阱，實現持續的和平與安全。大學是培養 AI安全專業人才、提升全社會的科技安全素養的平臺，也是為國家安全、全球治理夯實人才儲備的陣地。通過構建系統的 AI 安全課程、推動跨學科融合、強化實驗室訓練、深化產學研合作、普及國家安全教育，中國高校方可大有作為，為國家安全提供堅實的技術與智力支持。

（作者康濤為北京大學國際關系學院黨委書記，祁昊天為北京大學國際關系學院長聘副教授）