積極探索建立我國人工智能治理與應(yīng)用指南制度

　　近年來，人工智能技術(shù)快速發(fā)展，在賦能人類社會經(jīng)濟進步的同時也帶來安全隱患和風(fēng)險挑戰(zhàn)。既要促進人工智能技術(shù)發(fā)展和應(yīng)用，又要確保其發(fā)展過程中的安全性、可靠性和可控性，構(gòu)建人工智能治理體系的緊迫性日益凸顯。世界各國都積極探索人工智能治理的方法路徑。

　　今年3月，美國白宮行政管理和預(yù)算辦公室（OMB）發(fā)布《致行政部門和機構(gòu)負責(zé)人的備忘錄》（以下簡稱“《指南》”）�！吨改稀芬�求，設(shè)立首席人工智能官（CAIO）、成立人工智能治理委員會、推動人工智能應(yīng)用創(chuàng)新、遵循最低風(fēng)險管理實踐等，為推進人工智能治理、創(chuàng)新和風(fēng)險管理確立了新的管理要求和實踐指引。作為負責(zé)任的科技大國，我國也積極推動人工智能治理體系優(yōu)化完善，《指南》中的一些內(nèi)容對于促進我國政府部門人工智能應(yīng)用和治理實踐具有參考價值。

　　《指南》的主要內(nèi)容

　　首先，強化人工智能治理架構(gòu)體系。一是設(shè)立首席人工智能官。各聯(lián)邦機構(gòu)自《指南》發(fā)布60日內(nèi)設(shè)立首席人工智能官，《指南》還對首席人工智能官的角色、職責(zé)、級別、職位以及匯報結(jié)構(gòu)做出明確要求。二是組建人工智能治理委員會，由委員會召集高級別官員會議，統(tǒng)籌管理本單位人工智能應(yīng)用，并且掃除障礙、管控風(fēng)險。三是實施遵從計劃管理，各聯(lián)邦機構(gòu)自《指南》簽署180天內(nèi)至2036年，每兩年向OMB提交指南遵從計劃，確保本單位治理原則與治理方向與《指南》保持一致。四是實施用例清單管理。各聯(lián)邦機構(gòu)需建立人工智能用例清單，并以年度為單位提交至OMB，同時面向公眾公開。各聯(lián)邦機構(gòu)還需識別影響安全和權(quán)利的人工智能用例，披露用例風(fēng)險細節(jié)與風(fēng)險防控措施。

　　其次，推動負責(zé)任的人工智能創(chuàng)新。一是落實人工智能戰(zhàn)略管理。各聯(lián)邦機構(gòu)需自《指南》發(fā)布365天內(nèi)制定并公開發(fā)布本單位人工智能發(fā)展戰(zhàn)略，識別并掃除人工智能應(yīng)用障礙，提升本單位人工智能發(fā)展整體成熟度。二是為負責(zé)任地使用人工智能掃除障礙。《指南》明確了“負責(zé)任地使用人工智能”的基本原則，即強化底線監(jiān)管的同時消除人工智能使用的不必要和無益障礙，確保各聯(lián)邦機構(gòu)擁有使用人工智能的足夠柔性，并提出IT設(shè)施、數(shù)據(jù)、網(wǎng)絡(luò)安全、生成式人工智能等四個方面具體指導(dǎo)建議。三是強化人工智能人才培養(yǎng)�！吨改稀访鞔_各聯(lián)邦機構(gòu)需強化機構(gòu)內(nèi)部人工智能人才的選擇、使用、培育、留用，提升機構(gòu)人工智能創(chuàng)新應(yīng)用能力。四是推動人工智能共享合作。各聯(lián)邦機構(gòu)需以有利于政府與公眾再利用與協(xié)同的方式共享其人工智能代碼、模型和數(shù)據(jù)，保障人工智能應(yīng)用的法律政策遵從與公眾權(quán)利保護。

　　最后，有效管控人工智能應(yīng)用風(fēng)險。一是實施最低風(fēng)險管理實踐。所有聯(lián)邦機構(gòu)對涉及安全與權(quán)利的人工智能（系統(tǒng)）實施最低風(fēng)險管理實踐。各機構(gòu)需于2024年12月1日前實施該項管理，終止使用不符合最低風(fēng)險管理要求的人工智能。二是實施定期審查、報告披露與豁免管理制度。各聯(lián)邦機構(gòu)需定期開展審查評估，明確人工智能系統(tǒng)是否對安全和權(quán)利造成影響、是否符合《指南》規(guī)定的最低風(fēng)險管理實踐，對不符合要求的人工智能系統(tǒng)決定終止使用或?qū)で蠡砻�。各�?lián)邦機構(gòu)需記錄并報告審查結(jié)果，在必要時向公眾披露。

　　《指南》本質(zhì)上是基于原有網(wǎng)信安全、隱私保護、公民權(quán)利、數(shù)據(jù)開放等法律基礎(chǔ)，編織出一套以“人工智能應(yīng)用”為核心的監(jiān)管治理體系，既鼓勵人工智能應(yīng)用與創(chuàng)新，同時亦形成對人工智能（尤其是生成式人工智能）風(fēng)險的系統(tǒng)性防控。

　　《指南》的發(fā)布，是對通用人工智能廣泛應(yīng)用的主動回應(yīng)，既為政府部門部署和使用人工智能提供了可靠遵循，又形成對市場部門的示范性實踐與軟性行為約束。

　　我國人工智能治理的主要特點

　　作為負責(zé)任的科技大國，我國積極推動人工智能治理體系優(yōu)化完善。目前，已形成以《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》為主體的人工智能治理法律框架，對人工智能涉及數(shù)據(jù)采集、數(shù)據(jù)處理、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個人信息保護等做出明確要求。《生成式人工智能服務(wù)管理暫行辦法》對生成式人工智能服務(wù)的提供與使用做出規(guī)范，包括技術(shù)發(fā)展、服務(wù)規(guī)范、監(jiān)督檢查和法律責(zé)任等�！秶�家人工智能產(chǎn)業(yè)綜合標準化體系建設(shè)指南》《國家新一代人工智能標準體系建設(shè)指南》的發(fā)布亦有效推進我國人工智能標準體系的形成。

　　國內(nèi)治理方面，推出《科技倫理審查辦法（試行）》和《生成式人工智能服務(wù)管理暫行辦法》，提出人工智能治理的中國方案。全球治理方面，積極倡導(dǎo)國際合作與全球共治，《全球人工智能治理倡議》《人工智能全球治理上海宣言》，堅持“以人為本、智能向善”，為世界提供了基于人類命運共同體理念的人工智能治理新視角，為全球人工智能治理積極貢獻中國智慧。

　　2022年《關(guān)于加快場景創(chuàng)新以人工智能高水平應(yīng)用促進經(jīng)濟高質(zhì)量發(fā)展的指導(dǎo)意見》提出尊重人工智能發(fā)展規(guī)律，發(fā)揮政府和市場的積極性，共同為場景創(chuàng)新提供制度供給，促進人工智能創(chuàng)新發(fā)展與監(jiān)管規(guī)范相協(xié)調(diào)。2024年6月，工信部等四部門發(fā)布《國家人工智能產(chǎn)業(yè)綜合標準化體系建設(shè)指南（2024版）》亦是要求完善治理標準，結(jié)合人工智能治理實際需求，規(guī)范人工智能的技術(shù)研發(fā)、運營服務(wù)和全生命周期治理。我國人工智能治理不斷走向體系深入。

　　我國雖然通過制定上述法律法規(guī)及標準指南構(gòu)成人工智能治理基本遵從，但在細分領(lǐng)域（包括政務(wù)），如何使用和治理人工智能（尤其是生成式人工智能）尚缺乏可靠的規(guī)范指引。同時，由于我國在人工智能治理架構(gòu)設(shè)置、制度規(guī)范方面仍然存在一些短板和不足，缺乏類似首席人工智能官、人工智能治理委員會的治理架構(gòu)設(shè)置及諸如遵從計劃管理、用例清單管理、部門發(fā)展戰(zhàn)略管理、最低風(fēng)險管理實踐、定期審查與報告披露等制度規(guī)范，中央或省級政府層面難以形成對內(nèi)部人工智能使用情況的全面掌握和有序統(tǒng)籌，各部門無法在人工智能應(yīng)用創(chuàng)新和人工智能風(fēng)險管理上形成有效協(xié)同。

　　此外，我國還存在高層次指南性文件缺位的問題，這將造成三方面不利影響：一是不利于政府內(nèi)部各部門條線形成協(xié)同一致的人工智能部署應(yīng)用和治理監(jiān)管；二是不利于政府引導(dǎo)示范作用發(fā)揮。政府采購與使用是最好的“產(chǎn)業(yè)政策”，通常會形成對各行業(yè)的示范引領(lǐng)作用；三是不利于人們消除對人工智能系統(tǒng)應(yīng)用的焦慮與抗拒。

　　加快制定符合我國實際的人工智能治理指南

　　它山之石可以攻玉，其他國家在人工智能治理和應(yīng)用實踐方面的一些有益探索也可以為我所用。當(dāng)前，應(yīng)結(jié)合我國人工智能治理和應(yīng)用實踐，加快制定符合我國實際的人工智能治理指南。

　　第一，優(yōu)化人工智能治理組織架構(gòu)。由中央政府或省級政府統(tǒng)籌本級行政單位人工智能的應(yīng)用和治理。在當(dāng)前強化數(shù)據(jù)要素管理的基礎(chǔ)上，嘗試引入首席人工智能官和人工智能治理委員會制度，形成包含各層級、各部門的人工智能治理體系和報告體系。

　　第二，完善人工智能治理工具體系。建議引入遵從計劃管理、用例清單管理、部門發(fā)展戰(zhàn)略管理、最低風(fēng)險管理實踐、定期審查與報告披露等管理工具，完善我國政府部門人工智能治理工具體系。

　　第三，推廣人工智能治理最佳實踐。在全國范圍內(nèi)征集政府部門人工智能應(yīng)用和治理最佳實踐，并基于《國家新一代人工智能標準體系建設(shè)指南》，結(jié)合生成式人工智能廣泛應(yīng)用實際，形成并推廣具有全國范圍約束力的政府人工智能應(yīng)用和治理指南。

　�。ㄗ髡邌挝唬褐袊�電信研究院）