国产日韩精品欧美一区-国产日韩高清一区二区三区-国产日韩不卡免费精品视频-国产日产欧美精品一区二区三区-午夜国产精品免费观看-午夜国产精品理论片久久影院

分享
國家互聯網信息辦公室準許從事互聯網新聞信息服務業務的網站
互聯網新聞信息服務許可證編號:10120220005
中新經緯>>科技>>正文

舒迪:DeepSeek本地部署加速端側AI推廣落地

2025-02-05 16:08:25 中新經緯

  中新經緯2月5日電 題:DeepSeek本地部署加速端側AI推廣落地

  作者 舒迪 國泰君安證券研究所電子行業首席分析師

  春節期間,DeepSeek以其獨特的創新力,正逐步打開AI應用產業的上升通道。模型正式發布以來,DeepSeek連續多日登頂蘋果App Store和谷歌Play Store全球下載榜首。DeepSeek通過多項工程創新,成功降低了訓練成本和推理成本,同時提升了模型效果。

  盡管DeepSeek觸發了模型降本,但算力需求卻并未減少,在多個層面呈現出增長趨勢。隨著AI應用模型向更高智能維度躍遷,訓練需要更多算力;AI應用的推理也廣泛需要算力支持,更多人開始訓練和推理自己的模型;同時,轉向對等異構計算的新主流計算形態也需要更多GPU(圖形處理器)。未來,從對話到任務、到多模態,AI的發展將需要更多算力加持。

  同時,以DeepSeek為代表的開源模型興起加速了人工智能生態的構建,而DeepSeek的本地部署更是讓個人知識庫的構建成為可能。許多企業已經意識到,開源且具有廣泛共識的模型更容易構建生態系統。DeepSeek蒸餾(指的是通過一系列算法和策略,將原始的、復雜的數據進行去噪、降維、提煉等操作)后的小模型表現出色,使得本地部署知識庫從企業端擴展到個人用戶。通過高效且靈活地構建私有化的AI知識管理系統,不僅保護了數據隱私,還可以根據特定需求進行定制優化。

  在端側產品設計中,算力和傳輸是關鍵因素。隨著蒸餾模型能力的提升,未來端側SoC(系統級芯片)將更加注重模型的本地部署和推理能力。端云協同升級將成為未來技術發展的必然趨勢,端側產品需要在有限的硬件資源下實現高效的計算和傳輸,而云端則需要提供更強大的計算能力和存儲支持。

  此外,DeepSeek的開源發展也降低了成本,推動了應用的繁榮。對于B端應用來說,優質開源模型可以更好地用于垂類場景。成本的壓低將帶來使用場景的普及,從而帶動新的供給和需求。如今的AIGC(人工智能生成內容)創作已經呈現出類似的趨勢,若推理成本進一步降低,對于AI(人工智能)內容的發展將有顯著推動。

  展望未來,DeepSeek將繼續以其創新力和開源精神,推動AI技術的普及和應用。從教育、娛樂應用到電商場景,從AI視頻生成技術到AI硬件落地發展,DeepSeek都有望推動相關行業的變革與發展。(中新經緯APP)

  中新經緯版權所有,未經授權,不得轉載或以其他方式使用。

責任編輯:孫慶陽

來源:中新經緯

編輯:張澍楠

廣告等商務合作,請點擊這里

未經過正式授權嚴禁轉載本文,侵權必究

中新經緯版權所有,未經書面授權,任何單位及個人不得轉載、摘編或以其它方式使用。
關注中新經緯微信公眾號(微信搜索“中新經緯”或“jwview”),看更多精彩財經資訊。
關于我們  |   About us  |   聯系我們  |   廣告服務  |   法律聲明  |   招聘信息  |   網站地圖

本網站所刊載信息,不代表中新經緯觀點。 刊用本網站稿件,務經書面授權。

未經授權禁止轉載、摘編、復制及建立鏡像,違者將依法追究法律責任。

[京B2-20230170]  [京ICP備17012796號-1]

違法和不良信息舉報電話:18513525309 報料郵箱(可文字、音視頻):zhongxinjingwei@chinanews.com.cn

Copyright ©2017-2025 jwview.com. All Rights Reserved


北京中新經聞信息科技有限公司