生成式人工智能技術監管政策 2023年人工智能安全問題分析

• 黃江 2023年8月8日 來源：東方財富 927 58
• 繁體

生成式人工智能技術快速發展，應用場景不斷拓展，產業生態不斷完善，在給經濟社會發展帶來新機遇的同時，也產生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題。

工信部公布的數據顯示，中國人工智能產業蓬勃發展，核心產業規模達到5000億元，企業數量超過4300家，創新成果不斷涌現。業內人士認為，一批行業龍頭和獨角獸企業的快速發展，帶動中國人工智能產業集群加速成長。

生成式人工智能技術監管政策

今年以來，生成式人工智能技術快速發展，應用場景不斷拓展，產業生態不斷完善，在給經濟社會發展帶來新機遇的同時，也產生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題。

近期，國家層面密集出臺針對人工智能的監管政策，4月28日，中共中央政治局會議提出，要重視通用人工智能發展，營造創新生態，重視防范風險;7月13日，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、國家廣電總局公布《生成式人工智能服務管理暫行辦法》，提出采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

地方層面也先后出臺了促進人工智能規范發展的相關政策，北京市提出，探索對人工智能產業實行包容審慎監管，持續推動監管政策和監管流程創新，做好安全評估，推進算法備案，引導創新主體樹立安全意識，建立安全防范機制;深圳市提出，建立健全公開透明的人工智能監管體系，依法依規、包容審慎開展監管，圍繞網絡安全、數據安全、科技倫理、就業促進等領域建立風險防范和應對機制，防范和打擊違法行為，引導人工智能相關企業和組織健康發展。

2023年人工智能安全問題分析

人工智能是一把雙刃劍早已成為全球共識。斯坦福大學發布的《2023年人工智能指數報告》提到，對127個國家的立法記錄調研的結果顯示，包含“人工智能”的法案被通過成為法律的數量，從2016年的僅1個增長到2022年的37個。

“要強化人工智能安全治理工作，從數據安全、網絡安全、算法安全、算力安全等多方面入手，實現人工智能對經濟的良性促進作用，發展負責任的人工智能產業。”北京交通大學中國高端制造業研究中心執行主任朱明皓表示。

實際上，發展大模型不只是在數據、算力、算法這三大要素的基礎上進行，在不斷優化訓練的過程中，安全問題也不可忽視。在360集團創始人周鴻祎看來，人工智能大模型仿佛一把雙刃劍，如今大模型的安全問題已經超越了內容安全。

目前大模型發展還處于快速變化和不斷創新階段，要更好地抓住大模型發展機遇，真正發揮出大模型的優勢，除了加強監管、防范技術風險以外，也要加強創新，在更多的業務場景中加快落地。

根據中研普華研究院《2023-2028年AI安全行業市場深度分析及發展策略研究報告》顯示：

早在2017年，國務院就印發《新一代人工智能發展規劃》，提出“結合各地區基礎和優勢，按人工智能應用領域分門別類進行相關產業布局”，鼓勵地方圍繞人工智能產業鏈和創新鏈，打造人工智能產業集群和創新高地。

不少地方順應人工智能發展勢頭，規劃布局本地人工智能特色產業集群。2022年9月，《重慶市發展汽車軟件與人工智能技術應用行動計劃(2022—2025年)》發布，提出做大做強汽車軟件與人工智能產業集群。今年6月，《北京市機器人產業創新發展行動方案(2023—2025年)》發布，提出到2025年培育100種高技術高附加值機器人產品、100種具有全國推廣價值的應用場景，打造國內領先、國際先進的機器人產業集群。

《中國新一代人工智能科技產業發展 2023》指出，中國人工智能產業集群主要分布在京津冀、長江三角洲、珠江三角洲和川渝地區的重點城市。通過外部創新資源的引入和內部創新資源的激活，西部地區的西安、中部地區的武漢和長沙以及東北地區的沈陽、大連、哈爾濱等出現人工智能產業集群雛形。

人臉識別技術應用管理最新規定

為規范人臉識別技術應用，保護個人信息權益及其他人身和財產權益，維護社會秩序和公共安全，8月8日，國家網信辦發布《人臉識別技術應用安全管理規定(試行)(征求意見稿)》(下稱《規定》)，向社會公開征求意見。

目前，人臉識別技術已經被廣泛運用于身份認證、移動支付、手機解鎖、出入門禁等諸多方面。《人臉識別安全白皮書》數據顯示，人臉識別應用最多是安防占54%，其次是金融占16%。此后分別是娛樂10%、醫療7%、電商零售6%、出行3%、政務2%、其他2%。但也要注意到，人臉識別技術在給個人身份認證提供便利的同時，也存在信息泄露和個人身份被盜用的風險。

《規定》明確，只有在具有特定的目的和充分的必要性，并采取嚴格保護措施的情形下，方可使用人臉識別技術處理人臉信息。同時，除法律、行政法規規定不需要取得個人同意的情況外，使用人臉識別技術處理人臉信息應當取得個人的單獨同意或者依法取得書面同意。

在人臉識別技術應用場所方面，《規定》要求，旅館客房、公共浴室、更衣室、衛生間及其他可能侵害他人隱私的場所不得安裝圖像采集、個人身份識別設備。賓館、銀行、車站、機場、體育場館、展覽館、博物館、美術館、圖書館等經營場所，除法律、行政法規規定應當使用人臉識別技術驗證個人身份的，不得以辦理業務、提升服務質量等為由強制、誤導、欺詐、脅迫個人接受人臉識別技術驗證個人身份。

同時，在公共場所安裝圖像采集、個人身份識別設備的建設、使用、運行維護單位，對獲取的個人圖像、身份識別信息負有保密義務，不得非法泄露或者對外提供。

隨著人工智能、大數據的發展，人臉識別技術成為熱門的AI技術。如今，從案件偵破、交通安檢、課堂監控到金融支付、社區門禁、手機解鎖，人臉識別技術不斷拓展其應用場景。但超出普通人認知的是，人臉具有唯一性的生物識別信息，是敏感個人信息，它裸露在無處不在的攝像頭下，極易獲得。

根據國家市場監督管理總局發布的《個人信息安全規范》明確規定，人臉信息屬于生物識別信息，也屬于個人敏感信息，收集個人信息時應獲得個人信息主體的授權同意。《民法典》第一千零三十五條明確規定，處理個人信息，應征得該自然人或者其監護人同意。顯而易見，大部分情況下人們的“臉面”堂而皇之地被出賣了。

數字經濟時代，只有尊重個人自由，強化個人信息保護，依法進行數字社會、智慧城市建設，方為人間正道。在面臨數字化對個人信息安全的挑戰時，管理部門應全面審視數字化發展的法治問題，推動建立健全相關法律法規，加強個人隱私保護力度。公民也得處處留心，提高維權意識。如此才能保住“臉面”，更好地享有現代智慧生活。

《2023-2028年AI安全行業市場深度分析及發展策略研究報告》由中研普華研究院撰寫，本報告對該行業的供需狀況、發展現狀、行業發展變化等進行了分析，重點分析了行業的發展現狀、如何面對行業的發展挑戰、行業的發展建議、行業競爭力，以及行業的投資分析和趨勢預測等等。報告還綜合了行業的整體發展動態，對行業在產品方面提供了參考建議和具體解決辦法。

• 相關深度報告REPORTS

  

  2023-2028年AI安全行業市場深度分析及發展策略研究報告

  AI安全行業研究報告主要分析了AI安全行業的市場規模、AI安全市場供需求狀況、AI安全市場競爭狀況和AI安全主要企業經營情況、AI安全市場主要企業的市場占有率，同時對AI安全行業的未來發展做出科...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡