積極探索建立我國人工智能治理與應用指南制度

　　近年來，人工智能技術快速發展，在賦能人類社會經濟進步的同時也帶來安全隱患和風險挑戰。既要促進人工智能技術發展和應用，又要確保其發展過程中的安全性、可靠性和可控性，構建人工智能治理體系的緊迫性日益凸顯。世界各國都積極探索人工智能治理的方法路徑。

　　今年3月，美國白宮行政管理和預算辦公室（OMB）發布《致行政部門和機構負責人的備忘錄》（以下簡稱“《指南》”）。《指南》要求，設立首席人工智能官（CAIO）、成立人工智能治理委員會、推動人工智能應用創新、遵循最低風險管理實踐等，為推進人工智能治理、創新和風險管理確立了新的管理要求和實踐指引。作為負責任的科技大國，我國也積極推動人工智能治理體系優化完善，《指南》中的一些內容對于促進我國政府部門人工智能應用和治理實踐具有參考價值。

　　《指南》的主要內容

　　首先，強化人工智能治理架構體系。一是設立首席人工智能官。各聯邦機構自《指南》發布60日內設立首席人工智能官，《指南》還對首席人工智能官的角色、職責、級別、職位以及匯報結構做出明確要求。二是組建人工智能治理委員會，由委員會召集高級別官員會議，統籌管理本單位人工智能應用，并且掃除障礙、管控風險。三是實施遵從計劃管理，各聯邦機構自《指南》簽署180天內至2036年，每兩年向OMB提交指南遵從計劃，確保本單位治理原則與治理方向與《指南》保持一致。四是實施用例清單管理。各聯邦機構需建立人工智能用例清單，并以年度為單位提交至OMB，同時面向公眾公開。各聯邦機構還需識別影響安全和權利的人工智能用例，披露用例風險細節與風險防控措施。

　　其次，推動負責任的人工智能創新。一是落實人工智能戰略管理。各聯邦機構需自《指南》發布365天內制定并公開發布本單位人工智能發展戰略，識別并掃除人工智能應用障礙，提升本單位人工智能發展整體成熟度。二是為負責任地使用人工智能掃除障礙。《指南》明確了“負責任地使用人工智能”的基本原則，即強化底線監管的同時消除人工智能使用的不必要和無益障礙，確保各聯邦機構擁有使用人工智能的足夠柔性，并提出IT設施、數據、網絡安全、生成式人工智能等四個方面具體指導建議。三是強化人工智能人才培養。《指南》明確各聯邦機構需強化機構內部人工智能人才的選擇、使用、培育、留用，提升機構人工智能創新應用能力。四是推動人工智能共享合作。各聯邦機構需以有利于政府與公眾再利用與協同的方式共享其人工智能代碼、模型和數據，保障人工智能應用的法律政策遵從與公眾權利保護。

　　最后，有效管控人工智能應用風險。一是實施最低風險管理實踐。所有聯邦機構對涉及安全與權利的人工智能（系統）實施最低風險管理實踐。各機構需于2024年12月1日前實施該項管理，終止使用不符合最低風險管理要求的人工智能。二是實施定期審查、報告披露與豁免管理制度。各聯邦機構需定期開展審查評估，明確人工智能系統是否對安全和權利造成影響、是否符合《指南》規定的最低風險管理實踐，對不符合要求的人工智能系統決定終止使用或尋求豁免。各聯邦機構需記錄并報告審查結果，在必要時向公眾披露。

　　《指南》本質上是基于原有網信安全、隱私保護、公民權利、數據開放等法律基礎，編織出一套以“人工智能應用”為核心的監管治理體系，既鼓勵人工智能應用與創新，同時亦形成對人工智能（尤其是生成式人工智能）風險的系統性防控。

　　《指南》的發布，是對通用人工智能廣泛應用的主動回應，既為政府部門部署和使用人工智能提供了可靠遵循，又形成對市場部門的示范性實踐與軟性行為約束。

　　我國人工智能治理的主要特點

　　作為負責任的科技大國，我國積極推動人工智能治理體系優化完善。目前，已形成以《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》為主體的人工智能治理法律框架，對人工智能涉及數據采集、數據處理、網絡安全、數據安全、個人信息保護等做出明確要求。《生成式人工智能服務管理暫行辦法》對生成式人工智能服務的提供與使用做出規范，包括技術發展、服務規范、監督檢查和法律責任等。《國家人工智能產業綜合標準化體系建設指南》《國家新一代人工智能標準體系建設指南》的發布亦有效推進我國人工智能標準體系的形成。

　　國內治理方面，推出《科技倫理審查辦法（試行）》和《生成式人工智能服務管理暫行辦法》，提出人工智能治理的中國方案。全球治理方面，積極倡導國際合作與全球共治，《全球人工智能治理倡議》《人工智能全球治理上海宣言》，堅持“以人為本、智能向善”，為世界提供了基于人類命運共同體理念的人工智能治理新視角，為全球人工智能治理積極貢獻中國智慧。

　　2022年《關于加快場景創新以人工智能高水平應用促進經濟高質量發展的指導意見》提出尊重人工智能發展規律，發揮政府和市場的積極性，共同為場景創新提供制度供給，促進人工智能創新發展與監管規范相協調。2024年6月，工信部等四部門發布《國家人工智能產業綜合標準化體系建設指南（2024版）》亦是要求完善治理標準，結合人工智能治理實際需求，規范人工智能的技術研發、運營服務和全生命周期治理。我國人工智能治理不斷走向體系深入。

　　我國雖然通過制定上述法律法規及標準指南構成人工智能治理基本遵從，但在細分領域（包括政務），如何使用和治理人工智能（尤其是生成式人工智能）尚缺乏可靠的規范指引。同時，由于我國在人工智能治理架構設置、制度規范方面仍然存在一些短板和不足，缺乏類似首席人工智能官、人工智能治理委員會的治理架構設置及諸如遵從計劃管理、用例清單管理、部門發展戰略管理、最低風險管理實踐、定期審查與報告披露等制度規范，中央或省級政府層面難以形成對內部人工智能使用情況的全面掌握和有序統籌，各部門無法在人工智能應用創新和人工智能風險管理上形成有效協同。

　　此外，我國還存在高層次指南性文件缺位的問題，這將造成三方面不利影響：一是不利于政府內部各部門條線形成協同一致的人工智能部署應用和治理監管；二是不利于政府引導示范作用發揮。政府采購與使用是最好的“產業政策”，通常會形成對各行業的示范引領作用；三是不利于人們消除對人工智能系統應用的焦慮與抗拒。

　　加快制定符合我國實際的人工智能治理指南

　　它山之石可以攻玉，其他國家在人工智能治理和應用實踐方面的一些有益探索也可以為我所用。當前，應結合我國人工智能治理和應用實踐，加快制定符合我國實際的人工智能治理指南。

　　第一，優化人工智能治理組織架構。由中央政府或省級政府統籌本級行政單位人工智能的應用和治理。在當前強化數據要素管理的基礎上，嘗試引入首席人工智能官和人工智能治理委員會制度，形成包含各層級、各部門的人工智能治理體系和報告體系。

　　第二，完善人工智能治理工具體系。建議引入遵從計劃管理、用例清單管理、部門發展戰略管理、最低風險管理實踐、定期審查與報告披露等管理工具，完善我國政府部門人工智能治理工具體系。

　　第三，推廣人工智能治理最佳實踐。在全國范圍內征集政府部門人工智能應用和治理最佳實踐，并基于《國家新一代人工智能標準體系建設指南》，結合生成式人工智能廣泛應用實際，形成并推廣具有全國范圍約束力的政府人工智能應用和治理指南。

　　（作者單位：中國電信研究院）