人工智能安全迎頂層聚焦 深度檢測 數(shù)字水印等技術(shù)被關(guān)注

• 李波 2023年5月31日 來源：中研普華集團(tuán)、央視財經(jīng)、中研網(wǎng) 892 55
• 繁體

據(jù)央視新聞5月30日報道，習(xí)近平主持召開二十屆中央國家安全委員會第一次會議。會議強(qiáng)調(diào)，國家安全工作要貫徹落實(shí)黨的二十大決策部署，切實(shí)做好維護(hù)政治安全、提升網(wǎng)絡(luò)數(shù)據(jù)人工智能安全治理水平、加快建設(shè)國家安全風(fēng)險監(jiān)測預(yù)警體系、推進(jìn)國家安全法治建設(shè)、加強(qiáng)國家安全

據(jù)央視新聞5月30日報道，習(xí)近平主持召開二十屆中央國家安全委員會第一次會議。會議強(qiáng)調(diào)，國家安全工作要貫徹落實(shí)黨的二十大決策部署，切實(shí)做好維護(hù)政治安全、提升網(wǎng)絡(luò)數(shù)據(jù)人工智能安全治理水平、加快建設(shè)國家安全風(fēng)險監(jiān)測預(yù)警體系、推進(jìn)國家安全法治建設(shè)、加強(qiáng)國家安全教育等方面工作。

興業(yè)證券認(rèn)為，AI大模型技術(shù)的發(fā)展，需要海量大數(shù)據(jù)支撐，其中潛在的數(shù)據(jù)泄露風(fēng)險逐漸引起多國立法者關(guān)注，將有新的制度來管理生成式AI技術(shù)本身、以及管理AI大模型在行業(yè)側(cè)的落地應(yīng)用。

隨著AI監(jiān)管政策落地，數(shù)據(jù)安全、隱私保護(hù)等安全需求將進(jìn)一步上升，網(wǎng)絡(luò)安全防護(hù)范圍、防護(hù)主體將進(jìn)一步擴(kuò)大，有望打開行業(yè)成長新空間。

同時長江證券指出，從海外來看人工智能風(fēng)險分級、合規(guī)安全測試等是重要方法，我國或采取對應(yīng)方式，大模型或存在牌照審核等方式加以控制，在實(shí)際AIGC管理過程中，數(shù)據(jù)分類分級、敏感詞屏蔽與監(jiān)管、內(nèi)容深度審核等多種方式或互相結(jié)合，立體防護(hù)。

落地到投資， 結(jié)合產(chǎn)業(yè)及技術(shù)，內(nèi)容深度檢測、數(shù)據(jù)隱私保護(hù)、數(shù)字水印(提示和標(biāo)記人工智能內(nèi)容生成)等方面會有較好的應(yīng)用。

公司方面，據(jù)安信證券、國泰君安等表示，包括：綠盟科技：公司已經(jīng)開展相關(guān)ChatGPT文本生成內(nèi)容檢測工具的研究。

北信源：公司與百度將在產(chǎn)品研發(fā)、標(biāo)準(zhǔn)制定包括數(shù)字水印等多個領(lǐng)域展開深化合作。目前公司水印系統(tǒng)涵蓋兩大類：明水印、隱水印。

隨著網(wǎng)絡(luò)信息技術(shù)的升級，針對用戶日趨復(fù)雜的網(wǎng)絡(luò)環(huán)境和實(shí)際需求，網(wǎng)絡(luò)安全技術(shù)正朝著更復(fù)雜化、多元化、個性化、智能化的方向發(fā)展，且技術(shù)迭代時間愈發(fā)縮短，對網(wǎng)絡(luò)安全企業(yè)的產(chǎn)品研發(fā)提出了更高的要求。

網(wǎng)絡(luò)安全主要市場的份額開始向具有一定技術(shù)實(shí)力和品牌知名度的廠商匯聚，市場集中度正逐步提高。

全球數(shù)據(jù)安全博弈升級 2023網(wǎng)絡(luò)安全面臨的形勢分析

近日，意大利宣布禁止使用ChatG? PT，并限制OpenAI處理意大利用戶信息，同時，個人數(shù)據(jù)保護(hù)局開始對此前ChatGPT立案調(diào)查。

截至目前，關(guān)于個人數(shù)據(jù)保護(hù)的概念，大多是在歐洲被率先定義，如數(shù)據(jù)的知情同意權(quán)、被遺忘權(quán)等。因此，意大利援引全世界最嚴(yán)格的數(shù)據(jù)保護(hù)條例，對現(xiàn)在仍在測試階段的ChatGPT進(jìn)行封禁，雖顯突然，但又順理成章。

近期，各國紛紛發(fā)布了一些關(guān)于AI監(jiān)管的政策。德國已經(jīng)發(fā)布ChatG? PT禁令;美國已經(jīng)開始研究是否需要對ChatGPT等工具進(jìn)行審查;法國、愛爾蘭、西班牙等國也開始考慮對AI聊天機(jī)器人采取更嚴(yán)格的監(jiān)管。

伴隨著網(wǎng)絡(luò)空間安全形勢的復(fù)雜化，網(wǎng)絡(luò)武器、網(wǎng)絡(luò)間諜、網(wǎng)絡(luò)水軍、網(wǎng)絡(luò)犯罪、網(wǎng)絡(luò)政治動員等新威脅相繼產(chǎn)生，網(wǎng)絡(luò)空間所面臨安全問題的范圍由傳統(tǒng)領(lǐng)域拓展至政治、經(jīng)濟(jì)、文化、社會、國防等諸多領(lǐng)域，并呈現(xiàn)綜合性和全球性的新特點(diǎn)。

同時，網(wǎng)絡(luò)安全主管部門不斷加大安全檢查與實(shí)網(wǎng)攻防演練的力度，使得關(guān)鍵信息基礎(chǔ)設(shè)施的運(yùn)營者及全社會對網(wǎng)絡(luò)安全的重視與投入快速提升，政府部門和大中型企業(yè)需要能夠保障IT基礎(chǔ)設(shè)施、應(yīng)用與數(shù)據(jù)、業(yè)務(wù)與管理的綜合性安全防護(hù)體系，以及具備全國性的服務(wù)支持與應(yīng)急響應(yīng)能力，所以具有豐富產(chǎn)品線和規(guī)模化服務(wù)能力的綜合性安全廠商競爭力將日益增強(qiáng)。

根據(jù)中研普華研究院《2023-2028年中國網(wǎng)絡(luò)安全行業(yè)競爭分析及發(fā)展趨勢預(yù)測報告》顯示：

自3月份以來，AI安全問題就頻受關(guān)注。3月25日，OpenAI發(fā)布公告，證實(shí)部分網(wǎng)絡(luò)安全Pl us服務(wù)訂閱用戶的個人隱私和支付信息存在泄露。

3月29日，包括馬斯克在內(nèi)的眾多人工智能專家和高管聯(lián)名呼吁，所有人工智能實(shí)驗室應(yīng)立刻暫停訓(xùn)練比GPT-4更強(qiáng)大的大模型。

4月2日，三星在引入網(wǎng)絡(luò)安全不到20天里，發(fā)生了三起半導(dǎo)體機(jī)密資料外泄事故，包括兩起“設(shè)備信息泄露”和一起“會議內(nèi)容泄露”。

再觀國內(nèi)，4月11日，我國網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》，促進(jìn)相關(guān)技術(shù)健康發(fā)展和規(guī)范應(yīng)用。其中提出生成式人工智能產(chǎn)品提供服務(wù)前需申報安全評估等具體措施。

AI監(jiān)管的背后，折射出全球?qū)?shù)據(jù)和隱私信息泄露的擔(dān)憂。

根據(jù)IBM發(fā)布的《2022年數(shù)據(jù)泄露成本報告》，數(shù)據(jù)泄露的平均成本創(chuàng)下435萬美元的歷史新高，比2021年增長了2.6%，自2020年以來增長了12.7%。

研究首次發(fā)現(xiàn)，83%受訪組織已經(jīng)不是第一次發(fā)生數(shù)據(jù)泄露事件;60%的受訪組織在事后提高了商品和服務(wù)價格，把數(shù)據(jù)泄露造成的損失轉(zhuǎn)嫁到消費(fèi)者身上。

毋庸置疑，從漏洞攻擊到數(shù)據(jù)竊取、從經(jīng)濟(jì)損失到合規(guī)成本、從系統(tǒng)安全到隱私保護(hù)，以安全與隱私為主題的風(fēng)險正成為影響數(shù)字經(jīng)濟(jì)發(fā)展的關(guān)鍵因子。

全球近100個國家和地區(qū)已制定數(shù)據(jù)保護(hù)相關(guān)法律，數(shù)據(jù)安全、算法應(yīng)用有關(guān)立法進(jìn)程加快，合規(guī)本地化的全球性趨勢將進(jìn)一步加強(qiáng)。

近日，上海銀保監(jiān)局召開2023年度信息科技監(jiān)管工作會議。會議一方面通報了2022年度轄內(nèi)銀行業(yè)保險業(yè)信息科技工作和風(fēng)險管理情況，另一面也部署2023年信息科技重點(diǎn)工作。4月20日，上海銀保監(jiān)局官網(wǎng)對此次會議主要內(nèi)容進(jìn)行披露。

據(jù)悉，2023年上海地區(qū)銀行業(yè)保險業(yè)的信息科技建設(shè)工作，將圍繞“切實(shí)筑牢數(shù)據(jù)安全防線”“持續(xù)加強(qiáng)信息科技外包管理和業(yè)務(wù)連續(xù)性風(fēng)險管理”等四個重點(diǎn)領(lǐng)域展開。

其中關(guān)于數(shù)據(jù)安全防線，上海銀保監(jiān)局明確提出，要嚴(yán)格落實(shí)有關(guān)法律法規(guī)要求，強(qiáng)化數(shù)據(jù)安全管理職責(zé)，著力構(gòu)建數(shù)據(jù)安全防護(hù)體系，建立健全客戶信息保護(hù)制度、機(jī)制、流程。

加強(qiáng)數(shù)據(jù)安全風(fēng)險監(jiān)測與處置，將數(shù)據(jù)安全、客戶信息保護(hù)納入全面風(fēng)險管理體系，嚴(yán)格落實(shí)國家關(guān)于數(shù)據(jù)出境安全評估和安全審查要求，強(qiáng)化第三方數(shù)據(jù)的安全評估，防范外部數(shù)據(jù)源合規(guī)風(fēng)險。

我國網(wǎng)絡(luò)安全產(chǎn)業(yè)駛?cè)搿翱燔嚨馈?/u>

隨著數(shù)字化、網(wǎng)絡(luò)化、智能化在更廣范圍、更深層次上推進(jìn)，網(wǎng)絡(luò)安全形勢愈發(fā)嚴(yán)峻復(fù)雜，網(wǎng)絡(luò)安全的“壓艙石”和基礎(chǔ)保障作用日益凸顯。

黨的二十大報告提出構(gòu)建全域聯(lián)動、立體高效的國家安全防護(hù)體系，以新安全格局保障新發(fā)展格局，為推進(jìn)網(wǎng)絡(luò)安全能力建設(shè)提供根本遵循。

在黨中央關(guān)于網(wǎng)絡(luò)安全工作部署要求的指引下，網(wǎng)絡(luò)安全“四梁八柱”逐步確立，頂層設(shè)計和總體布局不斷優(yōu)化，形成以國家政策為指引，以行業(yè)為抓手，以地區(qū)為牽引的多層次網(wǎng)絡(luò)安全政策體系。

在國家層面，2021年以來，我國充分發(fā)揮立法引領(lǐng)作用，《中華人民共和國數(shù)據(jù)安全法》《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》《中華人民共和國個人信息保護(hù)法》等法律法規(guī)陸續(xù)出臺，《網(wǎng)絡(luò)產(chǎn)品安全漏洞管理規(guī)定》《網(wǎng)絡(luò)安全審查辦法》等重要規(guī)章制度加緊落地。

在行業(yè)層面，電信、互聯(lián)網(wǎng)、醫(yī)療、金融等重要行業(yè)的“十四五”規(guī)劃、管理辦法、指導(dǎo)意見集中釋放，網(wǎng)絡(luò)安全成為各方關(guān)注焦點(diǎn)。

在地區(qū)層面，網(wǎng)絡(luò)和數(shù)據(jù)安全成為江蘇、江西及廣州等省市數(shù)字經(jīng)濟(jì)發(fā)展的重要著力點(diǎn)，湖南、河南及武漢等省市密集出臺基礎(chǔ)設(shè)施保護(hù)、人才培養(yǎng)的相關(guān)政策，推動網(wǎng)絡(luò)安全產(chǎn)業(yè)高質(zhì)量發(fā)展。

在國家、行業(yè)及地區(qū)多層次網(wǎng)絡(luò)安全政策體系協(xié)同發(fā)力作用下，我國網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展進(jìn)入“快車道”，區(qū)域網(wǎng)絡(luò)安全市場逐步成型，重要行業(yè)網(wǎng)絡(luò)安全能力建設(shè)穩(wěn)步推進(jìn)，網(wǎng)絡(luò)安全技術(shù)、產(chǎn)品和服務(wù)迭代升級，為應(yīng)對新形勢下網(wǎng)絡(luò)安全挑戰(zhàn)提供了堅實(shí)基礎(chǔ)。

當(dāng)前，我國網(wǎng)絡(luò)安全產(chǎn)業(yè)處于快速成長期，根據(jù)中國信息通信研究院預(yù)測，2022年我國網(wǎng)絡(luò)安全產(chǎn)業(yè)規(guī)模接近2200億元;從長期發(fā)展趨勢來看，近5年我國產(chǎn)業(yè)規(guī)模平均增速高出全球約4~5個百分點(diǎn)，產(chǎn)業(yè)發(fā)展活力顯著增強(qiáng)。

部署的產(chǎn)品形態(tài)結(jié)構(gòu)正在發(fā)生漸進(jìn)式調(diào)整，以終端安全、身份管理與訪問控制等為代表的軟件產(chǎn)品在網(wǎng)絡(luò)安全銷售中的占比快速增加，2022年調(diào)研數(shù)據(jù)顯示，軟件占比超四成，表明行業(yè)用戶安全產(chǎn)品部署從“重硬輕軟”到“軟硬結(jié)合”逐步優(yōu)化。

區(qū)域市場格局初現(xiàn)，網(wǎng)絡(luò)安全與信息化建設(shè)同頻共振

我國各地區(qū)網(wǎng)絡(luò)安全市場穩(wěn)步發(fā)展，基本形成“三強(qiáng)四促”的市場格局。其中，華北、華東和華南地區(qū)成為網(wǎng)絡(luò)安全發(fā)展前三強(qiáng)，市場份額占比分別達(dá)到30.7%、27.7%和13.5%，較高的數(shù)字經(jīng)濟(jì)產(chǎn)值和信息化建設(shè)水平為上述區(qū)域網(wǎng)絡(luò)安全市場提供先發(fā)優(yōu)勢。

此外，華中、西南、西北和東北四大區(qū)域正在蓄力趕超，多地政府出臺促進(jìn)網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展的規(guī)劃舉措。

如河南省自2016年起先后出臺70余項網(wǎng)絡(luò)安全政策規(guī)定，不斷加快網(wǎng)絡(luò)安全體制機(jī)制建設(shè);四川省于2022年5月獲批建設(shè)國家網(wǎng)絡(luò)安全產(chǎn)業(yè)園區(qū)(成渝地區(qū))，將打造引領(lǐng)西部網(wǎng)絡(luò)安全產(chǎn)業(yè)的創(chuàng)新發(fā)展高地。

重要行業(yè)增加網(wǎng)絡(luò)安全投入，全面強(qiáng)化安全能力建設(shè)

隨著數(shù)字化、網(wǎng)絡(luò)化、智能化的深入推進(jìn)，網(wǎng)絡(luò)安全對各行各業(yè)的保障和賦能作用愈加凸顯，成為行業(yè)平穩(wěn)發(fā)展的基礎(chǔ)和底線。

政府、金融、電信、能源等關(guān)乎國計民生的重要領(lǐng)域面臨的網(wǎng)絡(luò)威脅持續(xù)升級，遭受的攻擊長期位居前列。

在此背景下，重要領(lǐng)域的安全能力構(gòu)建正在加速推進(jìn)，拉動相關(guān)安全建設(shè)投資增長，根據(jù)2022年調(diào)研數(shù)據(jù)，來自政府、金融和電信三大領(lǐng)域的營收合計占網(wǎng)絡(luò)安全企業(yè)營收的六成左右。

《2023-2028年中國網(wǎng)絡(luò)安全行業(yè)競爭分析及發(fā)展趨勢預(yù)測報告》由中研普華研究院撰寫，本報告對該行業(yè)的供需狀況、發(fā)展現(xiàn)狀、行業(yè)發(fā)展變化等進(jìn)行了分析，重點(diǎn)分析了行業(yè)的發(fā)展現(xiàn)狀、如何面對行業(yè)的發(fā)展挑戰(zhàn)、行業(yè)的發(fā)展建議、行業(yè)競爭力，以及行業(yè)的投資分析和趨勢預(yù)測等等。報告還綜合了行業(yè)的整體發(fā)展動態(tài)，對行業(yè)在產(chǎn)品方面提供了參考建議和具體解決辦法。