自 2017 年以來，美國、歐盟、德國、加拿大、日本、新加坡等國家或地區已陸續發布人工智慧發展和治理的法律法規準則，以時間軸為線索梳理這些法案可以發現，各國和地區開展的立法探索呈現出從宏觀性準則和戰略逐漸細化至諸如自動駕駛治理、數據安全等具體層面的趨勢，全球範圍內關於人工智慧安全的治理逐步深化和具體。
美國 - 遵循立法先行的傳統#
美國為確保自身在人工智慧領域的全球領導地位，近幾年在行政條令和立法層面進行了諸多嘗試，雖然最終僅有部分法案審議成為法律，但這些相關法案的提出與辯論過程對於後續美國制定並實施成熟的人工智慧安全治理規制也具有重要的參考借鑒。這體現出美國在人工智慧領域依然貫徹了立法先行的思路，科學完備的法律體系建設將有利於為美國佈局安全可控的人工智慧提供堅實的制度保障。具體法案名稱及主要內容如下。
1. 《2019 年國防授權法案》#
時間： 2019 年
主要內容： 依據此授權法，美國成立了國家人工智慧安全委員會（National Security Commission on Artificial Intelligence），研究人工智慧和機器學習方面的進展，以及它們在國家安全和軍事方面的潛在應用。此外，依據《2019 年國防授權法案》，美國國防部創建了聯合人工智慧中心（JAIC），作為開發和執行總體人工智慧戰略的責任機構。
2.《自動程序披露和問責法》#
時間： 2018 年 6 月 25 日首次提出；2019 年 7 月 16 日再次提出
主要內容： 法案要求聯邦貿易委員會制定法規，強制數字平台公開披露其使用 “旨在在線複製人類活動的自動化軟件程序或過程” 的情況。法案將定義 “自動軟件程序” 的任務交給了聯邦貿易委員會（Federal Trade Commission，FTC），這為該法案留下了廣泛的解釋空間，超出了法案本身旨在限制自動程序的目的。
3.《算法問責法 2019（草案）》#
時間： 2019 年 10 月
主要內容： 草案旨在防止算法自動化決策造成對消費者的歧視，要求大型互聯網平台企業評估並消除其自動決策算法給消費者信息隱私和安全帶來的風險，以及因種族、膚色、宗教、政治信仰、性別或其它方面差異帶來的算法歧視與偏見。法案賦予 FTC 執行和監管的權力，要求企業研究並修復存在缺陷的、會導致人們產生不準確、不公平、有偏見或歧視性決策的算法。該法案是美國國會第一次認真嘗試監管人工智慧，也是美國第一次立法嘗試在總體上監管人工智慧系統，而不是監管自動駕駛汽車等特定技術領域。
4.《保持美國在人工智慧領域的領導地位》#
時間： 2019 年 2 月 11 日
主要內容： 時任總統特朗普簽署的第 13859 號行政令，指出美國在人工智慧領域的持續領導對於維護美國經濟和國家安全並以符合美國價值觀、政策和優先事項的方式塑造人工智慧的全球演變至關重要。旨在刺激美國人工智慧的發展和監管，並通過指示聯邦機構優先投資人工智慧領域的研發，增強美國國家和經濟安全，鞏固美國的全球地位。法案中列出了五個關鍵領域：加大人工智慧研發投入、開放人工智慧資源、設定人工智慧治理標準、培養人工智慧勞動力，以及國際協作和保護美國人工智慧優勢。人工智慧項目由國家科學技術委員會（NSTC）人工智慧特別委員會（Select Committee on Artificial Intelligence）協調。這份行政令的出台是美國政府推動人工智慧發展的一個里程碑事件，對於美國人工智慧的研發和應用具有重要引領作用。
5.《2020 “國家人工智慧計劃” 法案》#
時間： 2020 年 3 月
主要內容： 該法案吸收了包括 “美國人工智慧計劃” 在內的多項聯邦人工智慧政策與措施，後被打包納入《2021 財年國防授權法》並於 2021 年 1 月生效。法案要求美國制定並實施 “國家人工智慧計劃”，以解決美國人工智慧發展面臨的一系列問題。依據此法案，美國白宮科學技術政策辦公室（OSTP）宣布成立國家人工智慧計劃辦公室和國家人工智慧諮詢委員會，並建立或指定一個機構間委員會，以更健全完備的組織機構推動 “國家人工智慧計劃” 實施。
該法案顯示了兩黨對美國政府在 AI 領域長期努力的大力支持，並將美國政府現有的許多 AI 政策和舉措編入法律並加以擴展。例如，將美國 AI 計劃確立的 5 項關鍵任務納入法律，擴大 2018 年成立的人工智慧專責委員會並使其成為常設機構，承認 2020 年成立的國家 AI 研究所的合法地位，規定要對 2019 年發布的國家 AI 研發戰略規劃進行定期更新，將白宮 2019 年指導的關鍵 AI 技術標準活動擴展至包括 AI 風險評估框架等。
6.《生成人工智慧網絡安全法案》#
時間： 2020 年 5 月
主要內容： 法案旨在 “確保美國制定並實施保護美國價值觀和領導力的人工智慧戰略。識別供應鏈的風險並制定降低這些風險的計劃。”
該法案要求美國商務部和聯邦貿易委員會明確人工智慧在美國應用的優勢和障礙；調查其他國家的人工智慧戰略，並與美國進行比較；評估供應鏈風險以及如何解決這些風險。此外，法案要求這些機構向國會報告結果，並制定國家人工智慧戰略的建議。
7.《數據問責和透明度法 2020》#
時間： 2020 年 6 月
主要內容： 法案將算法自動化決策納入監管，提出消費者應當有權質疑收集數據的理由並要求人工對算法自動化決策進行審查和解釋。
8.《2020 年政府法令》#
（眾議院第 2575 號決議）
時間： 2020 年 9 月
主要內容： 法案旨在通過在總務管理局（GSA）內部建立 “優秀人工智慧中心”，並要求管理和預算辦公室（OMB）向聯邦機構發布一份關於人工智慧治理方法的備忘錄，以促進聯邦政府助力開發人工智慧創新應用。同時還要求科學技術政策辦公室就人工智慧的安全應用和最佳實踐向各聯邦機構發布指導。
9.《人工智慧能力與透明度法案》#
時間： 2021 年 5 月
主要內容： 法案致力於落實人工智慧國家安全委員會（NSCAI）最終報告給出的建議，通過改進人才招募制度，使各機構能夠更快地採用新的 AI 技術，增強政府使用人工智慧的能力和透明度。該法案賦予了國防部（DOD）、能源部（DOE）、情報共同體（IC）和聯邦調查局（FBI）新的權力和資源，以確保聯邦政府更好、更安全地利用快速發展的 AI 技術。
10.《軍用人工智慧法案》#
時間： 2021 年 5 月
主要內容： 法案建立在《人工智慧倡議法案》(AI-IA)、《武裝部隊數字優勢法案》等基礎上，旨在實施 NSCAI 提出的與軍方技術人員有關的其他建議，改善軍隊各級人員的人工智慧教育與培訓計劃，使其能更好地使用人工智慧。具體來說，該法案改善了針對初級軍官和國防部領導的 AI 和新興技術主題教育和培訓，以便軍事部門更好的利用 AI。
11.《美國數據隱私和保護法案（草案）》#
時間： 2022 年 6 月
主要內容： 儘管法案尚未正式頒布，但該法案的草案是第一個獲得兩黨和兩院支持的美國綜合性聯邦隱私法案（草案）；旨在聯邦層面建立消費者隱私數據保護法律框架，為美國消費者提供了隱私權保護和有效的補救措施。
該草案對 “算法” 的定義是 “來源於機器學習與人工智慧技術的、以代替人工或為人提供幫助為目的的、依據數據處理結果做出決策的計算處理程式”。草案規範此類處理技術的應用，它反映出數字時代美國數據隱私保護的價值理念，在制度設計上既體現了強化個人數據權利保護的國際趨勢，又有利於數據價值釋放的內容，如 “選擇退出” 機制、有限的私人訴訟權、數據處理企業的忠誠義務等。
12.《人工智慧權利法案藍圖》#
時間： 2022 年 10 月
主要內容： 美國白宮發布，表達了拜登政府對使用人工智慧技術的未來願景，希望能刺激企業更負責任地打造和部署人工智慧，並對基於人工智慧的監控進行限制。
儘管《人工智慧權利法案藍圖》只是一个不帶有強制性的行動準則，但它的重要性也不可低估。該白皮書提出了開發或部署人工智慧的公司需要自願遵循的準則，以保障人們的信息免受誤用或濫用。在沒有頒布具體法律之前，對於這些準則的遵守將是選擇性的。
該文件旨在通過 “賦予美國各地的個人、公司和政策制定者權力，並滿足拜登總統的呼籲，讓大型科技公司承擔責任”，以 “設計、使用和部署自動化系統的五項原則，從而在人工智慧時代保護美國公眾”。這五項原則為：（1）安全有效的系統；（2）算法歧視保護；（3）數據隱私；（4）通知和解釋；（5）人工替代、考慮和回退。該文件的出台將從科技、經濟以及軍事等方面為美國人工智慧發展提供指引。
歐盟 - 創新與規範之間艱難平衡#
人工智慧具有模糊性、複雜性、自主性和無法預測性等特徵，可能給社會帶來諸多風險和問題。為確保人工智慧的發展尊重人權並且安全信任，2021 年 4 月 21 日，歐盟發布了《人工智慧法案》（Artificial Intelligence Act）的第一稿，探索為人工智慧治理提供 “硬法” 支持，旨在促進創新，並為設定一個全球標準，人工智慧技術被廣泛應用於從自動駕駛汽車、聊天機器人到目前中美自動化工廠等各個領域。
1.《人工智慧法案》#
時間： 2021 年 4 月 21 日
2023 年 3 月，該法案的草案已經提交歐盟議會一讀，如獲通過，將成為具有約束力、可在歐盟成員國內直接適用的法律，而且對於國際人工智慧安全相關規則的制定也有十分重要的參考價值，因此接下來著重單列介紹這份《人工智慧法案》的內容。
法規性質
歐盟內部統一法律框架、全球範圍內首部系統化規制人工智慧的法律。標誌著人工智慧治理從原則性約束的 “軟法” 向更具實質性監管的 “硬法” 加速推進。
治理目標
保護人權、宣揚歐盟價值觀、保護 AI 商品服務的自由流動。
規制範圍
在歐盟投放市場、投入服務和使用的 AI 系統（含歐盟外開發和使用，但輸出數據在歐盟使用的情形），但為軍事目的研發的情形除外。
治理機制
-
統籌主管： 新設歐盟人工智慧委員會（European Artificial Intelligence Board）。
-
公告監管： 成員國指定主管機構負責執行，定期向委員會報告。
-
專項負責： 提議為非高風險的人工智慧系統制定自發性行為準則，建立監管沙盒（regulatory sandbox）以促進創新。
其他歐盟人工智慧安全相關法律法規介紹如下：
2.《通用數據保護條例》#
時間： 2016 年通過，2018 年生效
主要內容： 歐盟為解決互聯網時代用戶數據的收集、使用問題而制定。將取代歐盟於 1995 年通過的《數據保護指令》（Data Protection Directive），適應雲計算、互聯網、大數據。該條例旨在限制互聯網及大數據企業對個人信息和敏感數據的處理，從而保護數據主體權利。同時，GDPR 相比其前身 ——1995 年《數據保護指令》，對歐盟各成員國具有直接適用的效力，無需成員國再自行轉化為國內法。
3.《可信賴人工智慧倫理準則》#
時間： 2019 年
主要內容： 準則包括七項要素：人的能動性和監督、技術穩健性和安全性、隱私和數據管理、透明度、多樣性和非歧視性以及公平性、社會及環境福祉、問責制。
4.《數據治理法案》#
時間： 2022 年 6 月生效
主要內容： 法案於 2020 年 11 月被首次提出，是《歐洲數據戰略》框架下第一份立法草案。總體而言，《數據治理法案》強調規則創新，鼓勵數據共享、提高數據利用效率，進而讓數據資源的流轉利用服務更高的公共政策目標。一是建立公共部門持有數據的再利用機制。二是建立框架以促進數據中介機構的發展。三是對於數據利他行為做出規範化的引導。
此外，《數據治理法案》第六章規定成立歐洲數據創新委員會，就包括關於數據共享服務提供商、跨行業數據共享、數據再利用等提供諮詢意見。
其他主要國家 - 結合本國戰略各有側重#
除美國、歐盟外，日本、新加坡、加拿大和德國走在了人工智慧安全領域立法的前沿，且根據各國科技基礎能力與戰略發展需求形成了各有側重的立法方向。如日本一向重視前沿科技的官產學合作並積累了豐富經驗，因此在面臨人工智慧安全帶來的法律問題，選擇從個人信息和數據保護入手，通過明確數據主體的權責劃分，推動政府和企業形成協同研發網絡，構建有利於人工智慧安全發展的生態系統。德國進行立法活動時則是注重依托工業資源優勢，試圖打造人工智慧融合 “工業 4.0” 的德國特色。因而其人工智慧安全相關立法十分關注技術對經濟和生活的影響，重點關注自動駕駛、智能醫療這些緊扣改善人類經濟和生活的主題。新加坡和加拿大則是重點關注人工智慧這一戰略性技術為經濟、社會賦能的巨大價值，從數據、安全監管入手開展相關立法，以推動人工智慧成為本國數字化轉型浪潮中的核心驅動力量。其他主要國家人工智慧安全相關法律法規主要內容如下：
1.《個人數據保護法（修正案）》#
國家： 新加坡
時間： 2020 年 11 月通過
** 主要內容：** 該修正案為新加坡的個人數據保護提供了基本準則，補充特定行業的立法和監管框架，旨在保護數據主體的個人數據並且規範數據處理者的數據處理行為。
2.《自動駕駛法案》#
國家： 德國
時間： 2021 年 7 月
主要內容： 法案旨在為無人駕駛技術的落地運營提供法律依據和監管框架。法案最大的一个亮點是為具備 L4 級自動駕駛系統的汽車在公路指定區域實現常規運營提供合法性基礎，並規定了相應的技術要求、行駛條件和數據處理規則。德國由此成為全球首個允許無人駕駛車輛參與日常交通並應用在全國範圍的國家。
該法另一个亮點是創設了針對 “自動駕駛功能” 的技術監督員制度。據此，智能汽車保有人有義務採取必要措施，維護道路安全和車輛的環境相容性，並承擔相應法律責任。這些義務包括定期維護系統以確保自動駕駛功能正常，採取預防措施以遵守交通規則，履行技術監督義務。為履行該義務，車輛保有人必須指定有專業知識的自然人擔任技術監督員遠程監控車輛，干預自動駕駛系統。
3.《個人信息保護法（修正案）》#
國家： 日本
時間： 2021 年 8 月
主要內容： 修正案主要涉及六大方面：①數據主體的權利；②企業責任；③企業自我完善機制；④數據使用策略；⑤處罰；⑥法案的域外適用性和數據的跨境傳輸。
此外，該修正案引入 “需要特別注意的個人信息”“個人相關信息”“假名化信息” 的概念；加強個人數據跨境傳輸中跨境傳輸方對數據主體的告知義務。旨在通過擴大數據主體的權利和增加企業的義務來加強對個人信息的保護。
4.《人工智慧和數據法案》#
國家： 加拿大
時間： 2022 年 6 月
主要內容： 該法案旨在規範人工智慧系統中的國際和省際貿易和商業。為此，法案規定：應當採取措施降低高影響人工智慧系統存在的傷害和偏差輸出風險；提供人工智慧的公開報告；授權創新、科學和工業部長制定人工智慧系統相關政策，制定 “擁有或使用非法獲取個人信息” 的相關禁令，以保護數據隱私權，實現安全可靠地設計、開發、使用或提供人工智慧系統。
總結 - 人工智慧立法備受關注#
在前文的梳理中可以感受到，當前世界主要發達國家和地區均已關注到人工智慧安全立法問題的重要性，以人工智慧重點問題為出發點，積極起草、出台人工智慧安全治理相關的法律法規，國際人工智慧安全治理的法治化水平逐步提高。而且，各國開展的這些立法活動通常帶有鮮明的本國特色，如一體化趨勢下歐盟率先探索構建統一法律框架、德國人工智慧安全立法方向與工業 4.0 戰略契合等，其實質是確保人工智慧的發展始終服務地區或國家安全的體現。