內容概要:內存內處理(PIM,也稱為存內計算)是指將處理器與RAM(隨機存取存儲器)集成在單個芯片上。集成后的芯片也被稱為PIM芯片。PIM允許在計算機、服務器或類似設備的內存中執行計算和處理,該架構通過在內存模塊內執行任務來加速任務的整體處理。為了解決馮·諾依曼瓶頸帶來的功耗和算力問題,存內計算的概念被提了出來。與馮·諾依曼架構中分離的處理器和存儲器不同的是,存內計算將數據的存儲和計算融為一體,使得存儲陣列不僅具有常規的數據存儲能力,同時又具有陣列運算的功能。21世紀以來,隨著人工智能技術的快速發展,具有高能效比的存內計算架構迎來了發展浪潮,此后,存內計算在神經網絡計算等領域逐漸受到關注。三星、臺積電、海力士、英特爾、IBM等半導體巨頭也都投入到了存內計算架構的研發之中。存內計算的出現使計算平臺的算力功耗比、面積功耗比等進入了一個新的階段。據Precedence Research數據,2023年全球存內計算市場規模約為180.4億美元,預計到2028年規模將增長至387.6億美元,期間年復合增長率為17%。
關鍵詞:內存內處理 (PIM)芯片發展歷程、內存內處理 (PIM)芯片發展優勢、內存內處理 (PIM)芯片市場現狀
一、內存內處理 (PIM)芯片行業相關概述
內存內處理(PIM,也稱為存內計算)是指將處理器與RAM(隨機存取存儲器)集成在單個芯片上。集成后的芯片也被稱為PIM芯片。PIM允許在計算機、服務器或類似設備的內存中執行計算和處理,該架構通過在內存模塊內執行任務來加速任務的整體處理。
存內計算的提出可以追溯到上世紀70年代,1969年,William等首次提出存儲和邏輯整合的想法,將存儲和邏輯運算電路集成為小的元胞,然后迭代成一個二維陣列,再通過編程的方法可以實現所需的復雜邏輯行為,這種存內邏輯結構設計在設計、制造、測試等方面具有許多優勢。次年,Harlod等提出存內邏輯處理器的概念,存內邏輯陣列不但可以作為CPU與存儲之間的高速緩沖,還具有處理數據的能力。1975年,Elmasry等提出了一種利用雙極型晶體管構成的兩級存內邏輯,該結構可以實現存儲和組合邏輯功能。1982年,Odaka等提出了一種存內邏輯計算超大規模專用集成電路(VLSI),集成了6144位存儲和770個邏輯門電路,提高了處理器效率。21世紀之前對于存內計算的研究還處于起步階段,21世紀以來,隨著人工智能技術的快速發展,具有高能效比的存內計算架構迎來了發展浪潮,此后,存內計算在神經網絡計算等領域逐漸受到關注。2018年,IEEE國際固態電路會議(ISSCC)開始設立一個獨立的議程來討論存內計算相關的設計。三星、臺積電、海力士、英特爾、IBM等半導體巨頭也都投入到了存內計算架構的研發之中。存內計算的出現使計算平臺的算力功耗比、面積功耗比等進入了一個新的階段。
相關報告:智研咨詢發布的《2025年中國內存內處理 (PIM)芯片行業市場全景分析及產業需求研判報告》
二、內存內處理 (PIM)芯片行業發展背景
1965年,英特爾聯合創始人戈登·摩爾預測,單個芯片上的晶體管數量大約每兩年翻一番,而成本只會有極小的增加。該預測被稱為摩爾定律。由于技術的進步與芯片制造工藝的改進,在過去幾十年里,芯片的算力有著顯著的提高。例如,1978年,英特爾推出的8086微處理器,工作在4.77MHz的時鐘頻率,具有0.33百萬條指令每秒的處理速度;20世紀90年代早期,英特爾Pentium系列處理器的算力達到了100MIPS;到了90年代末期,英特爾PentiumIII系列處理器的算力達到了600-700MIPS;2000年以后,英特爾推出Core系列處理器,算力則達到了20-30十億條指令每秒;2020年蘋果公司推出的M1處理器,算力已經達到了1000BIPS。盡管摩爾定律預見了芯片行業的發展趨勢,但如今,隨著晶體管尺寸接近原子級,半導體材料和制造工藝已經到達物理極限,同時,隨著芯片尺寸和晶體管數量的增加,芯片的發熱和功耗也急劇增加,摩爾定律正面臨越來越多的局限與挑戰。物理尺寸和制造工藝的提升已經無法滿足摩爾定律發展的速度,因此,需要尋找新的技術來維持計算機性能的增長。
截至2023年底,全球算力基礎設施總規模達到910EFLOPS(FP32),同比增長40%。美國、中國算力基礎設施規模位列前兩名,中國算力總規模達230 EFLOPS。近年來,隨著可穿戴設備、物聯網、邊緣計算、人工智能等應用的興起,人們對于計算平臺提出了更高的要求,即用有限的能源與資源實現更大的算力,或者實現相同的算力消耗更低的能源與資源。以中央處理器(CPU)與存儲器構成的現有計算平臺,當需要處理的數據越來越多時,便會由于中央處理與存儲器之間的吞吐率急劇上升而出現瓶頸,該瓶頸被稱為馮·諾依曼瓶頸,在進行計算時,首先需要將存儲器里的值通過總線讀取出來,再將輸入和讀取出的值通過總線送到中央處理器進行計算得到輸出結果。在消耗大量時間讀取和寫入數據的同時,由于需要頻繁訪問存儲器,大量無關的能量會被消耗。馮·諾依曼瓶頸的出現導致現有平臺的算力受限,這嚴重阻礙了物聯網、邊緣計算、人工智能等應用的發展。為了解決這些問題,業內提出了幾種解決方案,包括引入緩存結構(Cache)和無序執行(Out-of-orderProcessing)技術減少存儲訪問帶來的損失等。然而,這些技術仍然跟不上新興應用所需存儲的指數增長,這對傳統的計算系統提出了挑戰。
三、內存內處理 (PIM)芯片行業發展現狀
為了解決馮·諾依曼瓶頸帶來的功耗和算力問題,存內計算的概念被提了出來。與馮·諾依曼架構中分離的處理器和存儲器不同的是,存內計算將數據的存儲和計算融為一體,使得存儲陣列不僅具有常規的數據存儲能力,同時又具有陣列運算的功能。由于存內計算無需將數據從存儲器中讀出,因此不存在中央處理器與存儲器之間的吞吐率瓶頸,同時,因為省去了存儲的讀寫過程,存內計算平臺的功耗和時效都遠優于馮·諾依曼架構的計算平臺。在機器學習、人工智能、實時數據分析等應用中,存內計算可以實現對大容量數據的更高效處理,這在數據集變得越來越大且越來越復雜的情況下變得越來越重要。其次,存內計算可以幫助克服傳統基于磁盤的存儲系統的性能限制,降低處理大型數據集的數據搬運量。通過消除這種瓶頸,存內計算可以釋放處理器的計算潛力,加速計算平臺技術的進步。除了消除計算瓶頸外,存內計算還在降低計算系統的能耗方面發揮著重要的作用,通過減少訪問存儲器需求,存內計算可以幫助降低計算系統的能耗,從而達到更加節能的目的。
以三星HBM-PIM為例,與配備傳統的HBM的GPU相比,生成式AI運行在基于三星的HBM-PIM的系統上,能效平均高出了約2倍,性能加速了2倍以上。
目前的PIM方案主要通過在內存(DRAM)芯片中實現部分數據處理,其中典型的產品形態包括HBM-PIM和PIM-DIMM。這些方案在DRAM Die中內置了處理單元,為系統提供了具備大吞吐和低延遲的片上處理能力。這種存內處理技術可應用于多種場景,包括語音識別、數據庫索引搜索、基因匹配等。DRAM存儲芯片在信息時代扮演著至關重要的角色,為半導體存儲器第一大產品。在各國政策大力支持、市場需求持續增長、廠商技術水平不斷提升等因素驅動下,DRAM存儲芯片行業取得了顯著的發展成果。但2022年以來,伴隨著消費電子市場低迷,DRAM需求也明顯下滑,市場規模萎縮。2023年全球DRAM市場規模為518.6億美元,同比下降35%,占存儲市場的56%左右。
內存內處理這一創新技術自問世以來,便受到了業界的廣泛關注。目前,三星、SK海力士、阿里巴巴達摩院等科技巨頭紛紛投入研發,將內存內處理技術作為未來的增長引擎。據Precedence Research數據,2023年全球存內計算市場規模約為180.4億美元,預計到2028年規模將增長至387.6億美元,期間年復合增長率為17%。
以上數據及信息可參考智研咨詢(www.szxuejia.com)發布的《2025年中國內存內處理 (PIM)芯片行業市場全景分析及產業需求研判報告》。智研咨詢是中國領先產業咨詢機構,提供深度產業研究報告、商業計劃書、可行性研究報告及定制服務等一站式產業咨詢服務。您可以關注【智研咨詢】公眾號,每天及時掌握更多行業動態。


2025年中國內存內處理 (PIM)芯片行業市場全景分析及產業需求研判報告
《2025年中國內存內處理 (PIM)芯片行業市場全景分析及產業需求研判報告》共十章,包括內存內處理 (PIM)芯片行業相關概述、內存內處理 (PIM)芯片行業運行環境(PEST)分析、全球內存內處理 (PIM)芯片行業運營態勢、中國內存內處理 (PIM)芯片行業經營情況分析、中國內存內處理 (PIM)芯片行業競爭格局分析、中國內存內處理 (PIM)芯片行業上、下游產業鏈分析、內存內處理 (PIM)芯片行業主要優勢企業分析、內存內處理 (PIM)芯片行業投資機會、內存內處理 (PIM)芯片行業發展前景預測。



