AI深度偽造欺詐激增30倍 AI安全行業(yè)的發(fā)展?jié)摿θ绾?

• 陳觀秋 2024年3月1日 來源：北京商報(bào) 中新網(wǎng) 百度 355 16
• 繁體

奇安信集團(tuán)對(duì)外發(fā)布《2024人工智能安全報(bào)告》顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長(zhǎng)了1000%。《報(bào)告》認(rèn)為，在人工智能帶來巨大想象空間的同時(shí)，安全問題值得進(jìn)一步關(guān)注，看好大模型及AI安全行業(yè)的發(fā)展?jié)摿Α?/p>

人臉識(shí)別、語(yǔ)音識(shí)別、智能算法推送……當(dāng)前，人工智能(AI)技術(shù)加速融入社會(huì)生活，2023年年初，ChatGPT更是以其豐富的知識(shí)與出色的自然語(yǔ)言交互能力，引起了現(xiàn)象級(jí)的關(guān)注。

工信部數(shù)據(jù)顯示，2023年1-10月，國(guó)內(nèi)人工智能產(chǎn)業(yè)發(fā)展勢(shì)頭向好，核心產(chǎn)業(yè)規(guī)模達(dá)到5,000億元。從企業(yè)數(shù)量上看，截至2024年1月，國(guó)內(nèi)人工智能相關(guān)企業(yè)為157.18萬家。2021年-2023年，國(guó)內(nèi)人工智能企業(yè)數(shù)量分別增加36.36萬家、42.71萬家、52.92萬家，同比增長(zhǎng)87.11%、17.47%、23.91%。

其中，以大模型為代表的生成式AI正加速與各行各業(yè)深度融合，關(guān)聯(lián)產(chǎn)業(yè)規(guī)模已突破10萬億，催生出規(guī)模可觀的數(shù)字經(jīng)濟(jì)新業(yè)態(tài)、新場(chǎng)景和新模式。其中，尤以智能制造、能源、金融、醫(yī)療、教育等領(lǐng)域的人工智能商業(yè)化應(yīng)用最為活躍。

伴隨著智能產(chǎn)業(yè)的蓬勃發(fā)展，各式各樣的海量數(shù)據(jù)也在人們的生活中被大量收集、存儲(chǔ)和利用。數(shù)據(jù)安全和隱私保護(hù)問題由此成為人工智能系統(tǒng)在開發(fā)和應(yīng)用中面臨的嚴(yán)峻挑戰(zhàn)。

隨著人工智能發(fā)展加速，由此引發(fā)的問題逐漸擺上臺(tái)面。

奇安信發(fā)布《2024人工智能安全報(bào)告》：AI深度偽造欺詐激增30倍

奇安信集團(tuán)對(duì)外發(fā)布《2024人工智能安全報(bào)告》。其中顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長(zhǎng)了1000%;已有多個(gè)有國(guó)家背景的APT組織利用AI實(shí)施了十余起網(wǎng)絡(luò)攻擊事件。奇安信預(yù)計(jì)，未來十年，人工智能技術(shù)的惡意使用將快速增長(zhǎng)，將在政治安全、網(wǎng)絡(luò)安全、物理安全和軍事安全等方面構(gòu)成嚴(yán)重威脅。

近年來，隨著數(shù)字化智能化的深入，新的技術(shù)不斷衍生出新的安全風(fēng)險(xiǎn)，數(shù)字安全風(fēng)險(xiǎn)進(jìn)入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風(fēng)險(xiǎn)陡增迅速成為全球業(yè)界的一致共識(shí)，AI安全成為主流的安全關(guān)切，并逐漸形成了一個(gè)新的安全技術(shù)研究領(lǐng)域。

AI技術(shù)的應(yīng)用給我們帶來了許多便利，但同時(shí)也引來了一系列的安全隱患。AI安全工作組的成立加強(qiáng)對(duì)AI技術(shù)安全的研究和防護(hù)，保障人們?cè)谑褂肁I技術(shù)時(shí)的安全和隱私。

上述《報(bào)告》認(rèn)為，AI技術(shù)將會(huì)推動(dòng)安全領(lǐng)域發(fā)生范式變革，全行業(yè)需啟動(dòng)人工智能網(wǎng)絡(luò)防御推進(jìn)計(jì)劃。在人工智能帶來巨大想象空間的同時(shí)，安全問題值得進(jìn)一步關(guān)注，看好大模型及AI安全行業(yè)的發(fā)展?jié)摿Α?/strong>

AI安全行業(yè)政策環(huán)境

2023年6月，歐洲議會(huì)通過了《AI法案》授權(quán)草案，草案內(nèi)容包括用于監(jiān)督人工智能基礎(chǔ)模型的分級(jí)管理辦法。

2023年10月，由中國(guó)全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)組織，面向社會(huì)公開征求《生成式人工智能服務(wù)安全基本要求》意見。同月，日本首相岸田文雄在日本京都發(fā)表演講，公布面向生成式人工智能的監(jiān)管計(jì)劃。

2023年11月，英國(guó)全球第一屆人工智能安全峰會(huì)在英國(guó)召開，與會(huì)各國(guó)討論了當(dāng)下全球人工智能治理的問題。中國(guó)科技部副部長(zhǎng)吳朝暉率團(tuán)參會(huì)并在峰會(huì)開幕式上發(fā)表講話，并在會(huì)后聯(lián)合發(fā)布《宣言》，該《宣言》成為“第一份關(guān)于有必要監(jiān)管AI發(fā)展的全球聲明”。

斯坦福大學(xué)發(fā)布的《2023年人工智能指數(shù)報(bào)告》中提到，對(duì)127個(gè)國(guó)家的立法記錄調(diào)研的結(jié)果顯示，包含“人工智能”的法案被通過成為法律的數(shù)量，從2016年的僅1個(gè)增長(zhǎng)到2022年的37個(gè)。該報(bào)告對(duì)自2016年以來81個(gè)國(guó)家的人工智能法律法規(guī)記錄的分析也同樣表明，全球立法程序中提及人工智能的次數(shù)增加了近6.5倍。

據(jù)中研產(chǎn)業(yè)研究院《2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》分析：

事實(shí)上，為了應(yīng)對(duì)AI安全風(fēng)險(xiǎn)，我國(guó)從業(yè)機(jī)構(gòu)已經(jīng)開始探索安全科技以加強(qiáng)AI技術(shù)的潛在風(fēng)險(xiǎn)研判和防范。例如，2023年9月，螞蟻集團(tuán)推出了“蟻天鑒”大模型安全一體化方案，其中包括大模型安全檢測(cè)平臺(tái)“蟻鑒2.0”和大模型風(fēng)險(xiǎn)防御平臺(tái)“天鑒”，為大規(guī)模AI模型的安全保障帶來了全新的突破。

工信部日前在其官方網(wǎng)站上發(fā)布了關(guān)于2023年第四季度電信服務(wù)質(zhì)量的通告。其中提出，發(fā)布國(guó)內(nèi)首個(gè)個(gè)人信息保護(hù)AI大模型“智御”助手，為APP開發(fā)運(yùn)營(yíng)、檢測(cè)防護(hù)、政策解讀等提供智能化服務(wù)。著力整治“搖一搖”亂跳轉(zhuǎn)等突出問題，公開通報(bào)81款違規(guī)APP和SDK，持續(xù)凈化移動(dòng)互聯(lián)網(wǎng)服務(wù)環(huán)境。

查詢獲悉，“智御”人工智能大模型由中國(guó)信息通信研究院研發(fā)，面向移動(dòng)互聯(lián)網(wǎng)應(yīng)用開發(fā)者、分發(fā)平臺(tái)、終端廠商、檢測(cè)機(jī)構(gòu)等行業(yè)上下游主體，提供多模態(tài)、多樣化的合規(guī)咨詢、風(fēng)險(xiǎn)檢測(cè)、代碼生成、操作指引等服務(wù)，構(gòu)建 AI 賦能個(gè)人信息保護(hù)新范式。

報(bào)告對(duì)中國(guó)AI安全行業(yè)的內(nèi)外部環(huán)境、行業(yè)發(fā)展現(xiàn)狀、產(chǎn)業(yè)鏈發(fā)展?fàn)顩r、市場(chǎng)供需、競(jìng)爭(zhēng)格局、標(biāo)桿企業(yè)、發(fā)展趨勢(shì)、機(jī)會(huì)風(fēng)險(xiǎn)、發(fā)展策略與投資建議等進(jìn)行了分析，并重點(diǎn)分析了我國(guó)AI安全行業(yè)將面臨的機(jī)遇與挑戰(zhàn)。

想要了解更多AI安全行業(yè)詳情分析，可以點(diǎn)擊查看中研普華研究報(bào)告《2024-2029年中國(guó)AI安全行業(yè)市場(chǎng)全景調(diào)研與發(fā)展前景預(yù)測(cè)報(bào)告》。