華為開發者大會2023(Cloud)7月7日在中國東莞正式揭開帷幕，并同時在全球10余個國家、中國30多個城市設有分會場，邀請全球開發者共聚一堂，就AI浪潮之下的產業新機會和技術新實踐開展交流分享。
華為開發者大會2023(Cloud)7月7日在中國東莞正式揭開帷幕，并同時在全球10余個國家、中國30多個城市設有分會場，邀請全球開發者共聚一堂，就AI浪潮之下的產業新機會和技術新實踐開展交流分享。
在7日下午舉行的大會主題演講中，華為常務董事、華為云CEO張平安重磅發布盤古大模型3.0和昇騰AI云服務。
其中，盤古大模型3.0圍繞“行業重塑”“技術扎根”“開放同飛”三大創新方向，持續打造核心競爭力，為行業客戶、伙伴及開發者提供更好的服務。
昇騰AI云服務單集群提供2000P Flops算力，千卡訓練30天長穩率達到90%，為業界提供穩定可靠的AI算力，讓大模型觸手可及。
張平安表示：“盤古大模型要讓每個行業、每個企業、每個人都擁有自己的專家助手，讓工作更高效更輕松。
我們始終堅持AI for Industries的戰略，在深耕行業的道路上不斷前行。我堅信大模型將重塑千行百業，而每一個開發者，都將是改變世界的英雄?！?/p>
華為云盤古大模型從一開始就聚焦為行業服務，本次大會發布的盤古大模型3.0也是一個面向行業的大模型系列，包括“5+N+X”三層架構：L0層包括自然語言、視覺、多模態、預測、科學計算五個基礎大模型，提供滿足行業場景中的多種技能需求。
盤古3.0為客戶提供100億參數、380億參數、710億參數和1000億參數的系列化基礎大模型，匹配客戶不同場景、不同時延、不同響應速度的行業多樣化需求。
同時提供全新能力集，包括NLP大模型的知識問答、文案生成、代碼生成，以及多模態大模型的圖像生成、圖像理解等能力，這些技能都可以供客戶和伙伴企業直接調用。
無論多大參數規模的大模型，盤古提供一致的能力集。L1層是N個行業大模型，華為云既可以提供使用行業公開數據訓練的行業通用大模型，包括政務，金融，制造，礦山，氣象等大模型;也可以基于行業客戶的自有數據，在盤古大模型的L0和L1層上，為客戶訓練自己的專有大模型。
L2層為客戶提供了更多細化場景的模型，更加專注于政務熱線、網點助手、先導藥物篩選、傳送帶異物檢測、臺風路徑預測等具體行業應用或特定業務場景，為客戶提供“開箱即用”的模型服務。盤古大模型采用完全的分層解耦設計，可以快速適配、快速滿足行業的多變需求。
客戶既可以為自己的大模型加載獨立的數據集，也可以單獨升級基礎模型，也可以單獨升級能力集。
在L0和L1大模型的基礎上，華為云還為客戶提供了大模型行業開發套件，通過對客戶自有數據的二次訓練，客戶就可以擁有自己的專屬行業大模型。
同時，根據客戶不同的數據安全與合規訴求，盤古大模型還提供了公用云、大模型云專區、混合云多樣化的部署形態。
“盤古為行業而生，就要為行業著想，更好地服務千行百業的客戶”，張平安表示。如今，盤古大模型已在金融、金融、制造、醫藥研發、煤礦、鐵路等諸多行業發揮著巨大價值。
在政務領域，華為云攜手深圳市福田區政務服務數據管理局，上線了基于盤古政務大模型的福田政務智慧助手小福，能夠精準理解民眾咨詢意圖，改變傳統的一網通辦模式，把老百姓的話語轉化為政府辦事的語言，讓城市更有愛。
盤古政務大模型對超過20萬條政務數據進行精調，包括12345熱線、政策文件、政務百科等，掌握了豐富的法律法規、辦事流程等行業知識。
基于盤古政務大模型的小福，在一網通辦業務中體現出行業性、專業性、領先性和惠民性。
在煤礦領域，盤古礦山大模型已經在全國8個礦井規模使用，一個大模型可以覆蓋煤礦的采、掘、機、運、通、洗選等業務流程下的1000多個細分場景，讓更多的煤礦工人能夠在地面上作業，不僅能讓煤礦工人的工作環境更加舒適，而且可以極大地減少安全事故。
在鐵路領域，盤古鐵路大模型能精準識別現網運行的67種貨車、430多種故障，無故障圖片篩除率高達95%，成為貨運列檢員身邊有力的數字助手，將列檢員從每日數百萬張的“圖海”檢測中解放出來。
在氣象領域，盤古氣象大模型是精度超過傳統數值預報方法的AI預測模型，同時預測速度也有大幅提升。原來預測一個臺風未來10天的路徑，需要在3000臺服務器的高性能計算機集群上花費5小時進行仿真。
現在基于預訓練的盤古氣象大模型，通過AI推理的方式，研究者只需單臺服務器上單卡配置，10秒內就可以獲得更精確的預測結果。
大模型的創新不僅僅是模型自身的創新，更依賴于AI的各項根技術創新。
華為在最底層構建了以鯤鵬和昇騰為基礎的AI算力云平臺，以及異構計算架構CANN、全場景AI框架昇思MindSpore，AI開發生產線ModelArts等，為大模型開發和運行提供分布式并行加速，算子和編譯優化、集群級通信優化等關鍵能力?；谌A為的AI根技術，大模型訓練效能可以調優到業界主流GPU的1.1倍。
算力是訓練大模型的基礎。在本次大會上，張平安宣布單集群2000P Flops算力的昇騰AI云服務在華為云的烏蘭察布和貴安AI算力中心同時上線。
昇騰AI云服務除了支持華為全場景AI框架昇思MindSpore外，還支持Pytorch、Tensorflow等主流AI框架。同時，這些框架中90%的算子，都可以通過華為端到端的遷移工具平滑遷移到昇騰平臺。
例如，美圖僅用30天就將70個模型遷移到了昇騰，同時華為云和美圖團隊一起進行了30多個算子的優化以及流程的并行加速，AI性能較原有方案提升了30%。
此外，在大模型訓練過程中經常會遇到GPU故障，研發人員不得不經常重啟訓練，時間長，代價大。
昇騰AI云服務可以提供更長穩的AI算力服務，千卡訓練30天長穩率達到90%，斷點恢復時長不超過10分鐘?！?/p>
為了幫助全球客戶、伙伴、開發者訓練和使用大模型，我們致力于為全球客戶打造世界AI另一極，為所有AI開發者提供新的選擇”，張平安表示。
除了在千行百業的落地實踐，華為云盤古大模型也深度融入了華為云的產品服務，重構產品創新。
例如，在資料服務中，通過盤古大模型的文案生成和代碼生成技術，能夠提升資料撰寫和前端代碼編寫效率，將新產品上市、賦能周期大為縮短。
在云客服，通過嵌入行業知識庫和意圖挖掘能力的對話問答，實現全流程AI優先作答，提升客服工作效率30%。
在BI，通過NL2SQL和AutoGraph智能路由，實現SQL到可視化圖表的自動推薦，通過多輪自然語言交互，讓人人都能便捷地從數據中洞察業務細節。
在云搜索，通過多模態Embedding和NL2API技術，實現視頻、文本、圖譜等廣泛場景搜索，借助強大的語義理解和泛化能力，讓搜索準確率提高15%。
同時，華為云將CodeArts研發工具與盤古大模型相結合，正式發布了面向開發者的智能編程助手CodeArts Snap。
該工具訓練了760億行精選代碼、1300萬篇技術文檔，具備智能生成、智能問答、智能協同三大核心功能，可以實現一句對話讓代碼生成、一次點擊即可自動注釋和生成測試用例，一條指令即可智能部署，讓每個軟件開發者都有自己的編程助手。
華為云致力于構建以開發者為核心的、開放共贏的全球生態體系。目前，華為云全球開發者數量已超過460萬，云商店上架的商品已達10000多個。
華為云提供了易用可靠的大模型工具套件、匯聚海量多行業場景API的開天aPaaS，以及包含豐富優質課程和技術認證的大模型專屬社區，希望與開發者及伙伴一起，共同探索盤古大模型與行業結合的創新路徑。
AI服務器行業發展趨勢及市場現狀如何?隨著國家加速新型基礎設施建設，AI將會加速與交通、能源、制造等行業融合，進而撬動經濟增長。
在此過程中，AI服務器的規?；季帜軌驗槿斯ぶ悄軕寐涞靥峁┖诵牡乃懔ΡＵ?，對于未來國家計算力指數的提高具有極大的推動作用。
據中研普華產業研究院出版的《2023-2028年中國AI服務器行業發展分析與投資前景預測報告》統計分析顯示：
AI服務器是一種能夠提供人工智能(AI)的數據服務器。它既可以用來支持本地應用程序和網頁，也可以為云和本地服務器提供復雜的AI模型和服務。
AI服務器有助于為各種實時AI應用提供實時計算服務。AI服務器按應用場景可分為訓練和推理兩種，其中訓練對芯片算力要求更高，推理對算力的要求偏低。
AI服務器按應用場景可分為訓練和推理，訓練對芯片算力的要求更高，根據IDC，隨著大模型的應用，2025年推理算力需求占比有望提升至60.8%;
AI服務器按芯片類型可分為CPU+GPU、CPU+FPGA、CPU+ASIC等組合形式，CPU+GPU是目前國內的主要選擇(占比91.9%);
AI服務器的成本主要來自CPU、GPU等芯片，占比25%-70%不等，對于訓練型服務器其80%以上的成本來源于CPU和GPU。
1)硬件架構：AI 服務器是采用異構形式的服務器，根據應用的范圍采用不同的組合方式，如 CPU+GPU、CPU+TPU、 CPU+其他的加速卡等。與普通的服務器的差別主要在大數據及云計算、人工智能等方面需要更大的內外存。
2)卡的數量：普通的 GPU 服務器一般是單卡或者雙卡，AI 服務器需要承擔大量的計算，一般配置四塊 GPU 卡以上，甚至 要搭建 AI 服務器集群。?
3)獨特設計：AI 服務器由于有了多個 GPU 卡，需要針對性的對于系統結構、散熱、拓撲等做專門的設計，才能滿足 AI 服 務器長期穩定運行的要求。
AI服務器行業產業鏈上游主要包括芯片、PCB、連接器、線纜、電源和各類接口等。中游主要包括服務器品牌上和OEM/ODM廠商，未來OEM/ODM或將逐步向JDM模式轉變。下游主要是采購服務器的各類客戶群體。
此處列舉的服務器下游終端客戶群體主要是B端和G端客戶，主要包括互聯網廠商、云服務商、運營商、政府機構、金融機構等。
AI服務器采用CPU+加速芯片的架構形式，在進行模型的訓練和推斷時會更具有效率優勢。與國外AI芯片廠商的壟斷局面不同，中國AI服務器水平位于世界前列。
據統計，2022年我國AI服務器市場(按銷售額)，浪潮以46.6%份額占據首位，新華三、寧暢分別以11%和9%占據第二、第三名。
中國在AI服務器水平位于世界前列。AI服務器采用CPU+加速芯片的架構形式，在進行模型的訓練和推斷時會更具有效率優 勢。與國外AI芯片廠商的壟斷局面不同，中國AI服務器水平位于世界前列。
隨著國內數字基礎建設數據負載量的需求量不斷上升，我國AI服務器市場保持較快增速。
根據IDC數據，2022年大陸AI服 務器出貨量達28.4萬臺，預計到2027年達到65萬臺，CAGR為17.9%，按金額計算，2022年大陸AI服務器銷售額為72.55億美 元，預計到2027年銷售額將達到163.99億美元， CAGR為17.7%。
AI服務器作為算力基礎設備，其需求有望受益于AI時代下對于算力不斷提升的需求而快速增長。
根據TrendForce，截至2022年為止，預估搭載GPGPU(General Purpose GPU)的AI服務器年出貨量占整體服務器比重近1%，預估在ChatBot相關應用加持下，有望再度推動AI相關領域的發展，預估出貨量年成長可達8%;2022~2026年復合成長率將達10.8%。
AI服務器是異構服務器，可以根據應用范圍采用不同的組合方式，如CPU + GPU、CPU + TPU、CPU +其他加速卡等。
IDC預計，中國AI服務器2021年的市場規模為57億美元，同比增長61.6%，到2025年市場規模將增長到109億美元，CAGR為17.5%。
國內AI服務器競爭廠商包括：浪潮信息、新華三、超聚變、中興通訊等。
IDC數據顯示，2021年全球AI服務器市場規模156億美元，超過全球AI整體市場增長率22.5%。
未來，隨著算力的持續增長，自然語言處理和圖像、視頻等AI模型的深入發展，AI服務器將被更廣泛使用。預計2023年全球AI服務器市場規模將達211億美元。
隨著5G部署速度的加快、物聯網技術的進一步發展，可以預見我國數據生產速度將獲得更快的提升、數據總量將進一步提高。
數據要素價值創造需要對數據進行更多維度、更加深度的利用，原來處理數據的方式已遠遠滿足不了新時期數據處理的需求，而人工智能技術將大大提高數據的利用效率。
據了解，人工智能服務器通常搭載GPU、FPGA、ASIC等加速芯片，利用CPU與加速芯片的組合可以滿足高吞吐量互聯的需求，為自然語言處理、計算機視覺、語音交互等人工智能應用場景提供強大的算力支持，已經成為人工智能發展的重要支撐力量。
在數字經濟和“東數西算”等政策影響下，中國AI算力市場持續高速發展。IDC預測，2025年中國AI算力市場規模將達到701.8億元，占整體服務器市場近三成。
據《2021-2022全球計算力指數評估報告》顯示，中國AI算力發展領跑全球，AI服務器支出規模位列全球第一。
未來行業市場發展前景和投資機會在哪?欲了解更多關于行業具體詳情可以點擊查看中研普華產業研究院的報告《2023-2028年中國AI服務器行業發展分析與投資前景預測報告》。
由中研普華研究院撰寫，本報告對我國AI服務器行業的供需狀況、AI服務器發展現狀、AI服務器子行業發展變化等進行了分析，重點分析了AI服務器行業的發展現狀、如何面對行業的發展挑戰、AI服務器行業的發展建議、AI服務器行業競爭力，以及行業的投資分析和趨勢預測等等。AI服務器報告還綜合了行業的整體發展動態，對行業在產品方面提供了參考建議和具體解決辦法。
關注公眾號
免費獲取更多報告節選
免費咨詢行業專家
2023-2028年中國AI服務器行業發展分析與投資前景預測報告
AI服務器是一種能夠提供人工智能（AI）的數據服務器。它既可以用來支持本地應用程序和網頁，也可以為云和本地服務器提供復雜的AI模型和服務。AI服務器有助于為各種實時AI應用提供實時計算服務。...
查看詳情
沖飲品是目前市場上新型液體飲料代替食品，大多為固體，方便攜帶，食用的時候，加入水就可以了。市面上最常見的沖飲品...
電子競技(Electronic Sports)就是電子游戲比賽達到“競技”層面的體育項目。電子競技運動就是利用電子設備作為運動...
美國聯邦儲備委員會負責監管事務的副主席邁克爾·巴爾10日就強化銀行業監管提出多項建議，要求銀行，特別是資1...
美國聯邦儲備委員會負責監管事務的副主席邁克爾·巴爾10日就強化銀行業監管提出多項建議，要求銀行，特別是資1...
北京擬放開再生水政府定價 到2035年北京市再生水利用率要達到70%以上北京市發改委近日對《北京再生水價格有關問題的...
特種工程塑料因其優良的綜合性能和獨特用途，被廣泛用于國民經濟各個行業和高新技術領域，特別是新材料、新興信息產業...
微信掃一掃
李波
研究院服務號