人工智能AI浪潮下，以HBM為代表的新型DRAM存儲器迎來了新一輪的發(fā)展契機，而與此同時，在服務(wù)器需求推動下，存儲產(chǎn)業(yè)的另一大“新寵”MRDIMM/MCRDIMM也開始登上“歷史舞臺”。

當前，AI及大數(shù)據(jù)的快速發(fā)展帶動服務(wù)器CPU內(nèi)核數(shù)量同步增加，為滿足多核CPU中各內(nèi)核的數(shù)據(jù)吞吐要求，需要大幅提高內(nèi)存系統(tǒng)的帶寬，在此情況下，服務(wù)器高帶寬內(nèi)存模組MRDIMM/MCRDIMM應(yīng)運而生。

01
JEDEC公布DDR5 MRDIMM標準細節(jié)

當?shù)貢r間7月22日，JEDEC宣布即將推出DDR5多路復(fù)用雙列直插式內(nèi)存模組 (MRDIMM) 和下一代LPDDR6壓縮連接內(nèi)存模組 (CAMM)先進內(nèi)存模組標準，并介紹了這兩項內(nèi)存的關(guān)鍵細節(jié)，旨在為下一代高性能計算和人工智能發(fā)展提供支持。

JEDEC表示，這兩項新技術(shù)規(guī)范均由JEDEC的JC-45 DRAM模組委員會開發(fā)。

作為JEDEC的JESD318 CAMM2內(nèi)存模組標準的后續(xù)，JC-45正在開發(fā)用于LPDDR6的下一代CAMM模組，目標是最大速度超過14.4GT/s。按照計劃，該模組還將提供24bit位寬子通道、48bit位通道并支持“連接器陣列”，以滿足未來高性能計算和移動設(shè)備的需求。

圖片來源：JEDEC

而DDR5 MRDIMM內(nèi)存支持多路復(fù)用列，能夠在單個通道上組合和傳輸多個數(shù)據(jù)信號，有效提升帶寬而無需額外的物理連接。據(jù)悉，JEDEC規(guī)劃了多代DDR5 MRDIMM內(nèi)存，最終目標是將其帶寬提升至12.8Gbps，較DDR5 RDIMM內(nèi)存目前的6.4Gbps翻倍并提高引腳速度。

在JEDEC的設(shè)想中，DDR5 MRDIMM將利用與現(xiàn)有DDR5 DIMM相同的引腳、SPD、PMIC等設(shè)計，與RDIMM平臺兼容，并利用現(xiàn)有的LRDIMM生態(tài)系統(tǒng)進行設(shè)計與測試。

JEDEC表示，這兩項新技術(shù)規(guī)范的推出，預(yù)計將為內(nèi)存市場帶來新一輪的技術(shù)革新。

02
美光MRDIMM DDR5下半年批量出貨

2023年3月，AMD在Memcom 2023活動上表示，正在和JEDEC合作，開發(fā)新的DDR5 MRDIMM標準內(nèi)存，其目標傳輸速率高達17600 MT/s。據(jù)TomsHardware當時的報道，第一代DDR5 MRDIMM的目標速率是8800MT/s，之后會逐步提高，第二代將達到12800MT/s，然后第三代會提升至17600MT/s。

MRDIMM的全稱為“Multiplexed Rank DIMM”，即將兩個DDR5 DIMM合二為一，從而提供雙倍的數(shù)據(jù)傳輸率，同時可訪問兩個Rank。

7月22日，存儲大廠美光宣布推出全新的MRDIMM DDR5，目前已經(jīng)出樣，可為人工智能AI、高性能計算HPC應(yīng)用提供超大容量、超高帶寬、超低延遲，將于2024年下半年開始批量出貨。

圖片來源：美光

MRDIMM可以提供最高帶寬、最大容量、最低延遲以及更高的每瓦性能。美光表示，在加速內(nèi)存密集型虛擬化多租戶、高性能計算和AI數(shù)據(jù)中心工作負載方面，表現(xiàn)優(yōu)于當前的TSV RDIMM。

據(jù)官方介紹，與傳統(tǒng)的RDIMM DDR5相比，MRDIMM DDR5可實現(xiàn)有效內(nèi)存帶寬提升高達39%，總線效率提升超過15%，延遲降低高達40%。

MRDIMM支持從32GB到256GB的容量選擇，涵蓋標準和高型兩種外形規(guī)格（TFF），適用于高性能的1U和2U服務(wù)器，其中256GB TFF MRDIMM對比類似容量的TSV RDIMM，性能可以領(lǐng)先35%。

該款全新內(nèi)存產(chǎn)品為美光MRDIMM系列的首代，將與英特爾至強處理器兼容。美光表示，后續(xù)幾代MRDIMM產(chǎn)品將繼續(xù)提供比同代RDIMM高45%的單通道內(nèi)存帶寬。

03
SK海力士下半年推出MCRDIMM產(chǎn)品

作為全球最大的存儲廠商，為提升產(chǎn)品速度，SK海力士在AMD與JEDEC之前便推出了類似MRDIMM的MCRDIMM。

MCRDIMM全稱為“Multiplexer Combined Ranks Dual In-line Memory Module”，是將多個DRAM結(jié)合在基板上的模組產(chǎn)品，通過同時操作模組的兩個基本信息處理運算單位Rank。

2022年底，SK海力士與英特爾和瑞薩合作，開發(fā)出了DDR5多路合并陣列雙列直插內(nèi)存模組（MCR DIMM），成為當時業(yè)界最快的服務(wù)器DRAM產(chǎn)品。根據(jù)瀾起科技2023年年報，MCRDIMM也可以視為MRDIMM的第一代產(chǎn)品。

圖片來源：SK海力士

傳統(tǒng)DRAM模組每次只能向CPU傳輸64個字節(jié)的數(shù)據(jù)，而在SK海力士的MCRDIMM模組中，兩個內(nèi)存列同時運行可向CPU傳輸128個字節(jié)的數(shù)據(jù)。每次傳輸?shù)紺PU的數(shù)據(jù)量的增加使得數(shù)據(jù)傳輸速度提高到8Gbps以上，是單個DRAM的兩倍。

SK海力士彼時預(yù)計，在高性能計算對于內(nèi)存帶寬提升需求的驅(qū)動下，MCR DIMM的市場將會逐步打開。據(jù)SK海力士在其2024財年第二季度財務(wù)報告最新透露，公司將在下半年推出適用于服務(wù)器的32Gb DDR5 DRAM和用于高性能計算的MCRDIMM產(chǎn)品。

04
MRDIMM未來可期

MCRDIMM/MRDIMM采用DDR5 LRDIMM“1+10”的基礎(chǔ)架構(gòu)，需要搭配1顆MRCD芯片及10顆MDB芯片。從概念來看，MCRDIMM/MRDIMM允許并行訪問同一個DIMM中的兩個陣列，從而大幅提升DIMM模組的容量和帶寬。

與RDIMM相比，MCRDIMM/MRDIMM可以提供更高的帶寬，同時與現(xiàn)有RDIMM成熟的生態(tài)系統(tǒng)有較好的兼容性。此外，使用MCRDIMM/MRDIMM有望顯著提升服務(wù)器整體性能，減少企業(yè)的總擁有成本（TCO）。

MRDIMM和MCRDIMM同屬于DRAM內(nèi)存模組范疇，而內(nèi)存模組與HBM的應(yīng)用場景不同，各自的市場空間較為獨立。作為行業(yè)標準的封裝內(nèi)存，HBM以較小的尺寸，在給定容量下可以實現(xiàn)更高的帶寬和能效，但其價格貴、容量較小、不可擴展等特點限制它只能在少數(shù)領(lǐng)域使用。因此從產(chǎn)業(yè)角度來說，內(nèi)存模組是大容量、高性價比、可擴展內(nèi)存的主流解決方案。

瀾起科技認為，基于高帶寬、大容量的優(yōu)勢，MRDIMM有望成為未來AI和高性能計算主內(nèi)存的優(yōu)選方案。而根據(jù)JEDEC的規(guī)劃，未來用于服務(wù)器的新型高帶寬內(nèi)存模組MRDIMM，將支持更高的內(nèi)存帶寬，進一步滿足HPC及AI應(yīng)用場景對內(nèi)存帶寬的需求。