來源：雷鋒網(wǎng)
存算一體或者叫存內(nèi)計算技術(shù)隨著 AI 的火熱再一次成為業(yè)內(nèi)關(guān)注的焦點，存儲和計算的融合有望解決 AI 芯片內(nèi)存墻的限制，當(dāng)然，實現(xiàn)的方法也各不相同。雷鋒網(wǎng)此前介紹過知存科技基于 NOR FLASH 存內(nèi)計算，還有清華大學(xué)錢鶴、吳華強教授團隊基于憶阻器的存算一體單芯片算力可能高達 1POPs。三星基于 HMB 的存內(nèi)計算芯片又有何亮點？
三星最新發(fā)布的基于 HBM2 的新型內(nèi)存具有集成的 AI 處理器，該處理器可以實現(xiàn)高達 1.2 TFLOPS 的計算能力，從而使內(nèi)存芯片能夠處理通常需要 CPU、GPU、ASIC 或 FPGA 的任務(wù)。
新型 HBM-PIM（Processing-in-memory，存內(nèi)計算）芯片將 AI 引擎引入每個存儲庫，從而將處理操作轉(zhuǎn)移到 HBM。新型的內(nèi)存旨在減輕在內(nèi)存和處理器之間搬運數(shù)據(jù)的負擔(dān)，數(shù)據(jù)的搬運耗費的功耗遠大于計算。
三星表示，將其應(yīng)用于現(xiàn)有的 HBM2 Aquabolt 內(nèi)存后，該技術(shù)可以提供 2 倍的系統(tǒng)性能，同時將能耗降低 70% 以上。該公司還聲稱，新存儲器不需要對軟件或硬件進行任何更改（包括對內(nèi)存控制器），可以讓早期采用者更快實現(xiàn)產(chǎn)品的上市。
三星表示，這種存儲器已經(jīng)在領(lǐng)先的 AI 解決方案提供商的 AI 加速器中進行了試驗。三星預(yù)計所有驗證工作都將在今年上半年完成，這標(biāo)志著產(chǎn)品上市進入快車道。
三星在本周的國際固態(tài)電路會議（ISSCC）上展示了其新存儲器架構(gòu)的詳細信息。
如您在上面的幻燈片中看到的，每個存儲庫都有一個嵌入式可編程計算單元（PCU），其運行頻率為 300 MHz，每個裸片上總共 32 個 PCU。這些單元通過來自主機的常規(guī)存儲命令進行控制，以啟用 DRAM 中的處理功能，不同的是，它們可以執(zhí)行 FP16 的計算。
該存儲器還可以在標(biāo)準模式下運行，這意味著新型的存儲器既可以像普通 HBM2 一樣運行，也可以在 FIM 模式下運行以進行存內(nèi)數(shù)據(jù)處理。
自然地，在存儲器中增加 PCU 單元會減少內(nèi)存容量，每個配備 PCU 的內(nèi)存芯片的容量（每個 4Gb）是標(biāo)準 8Gb HBM2 存儲芯片容量的一半。為了解決該問題，三星將 4 個有 PCU 的 4Gb 裸片和 4 個沒有 PCU 的 8Gb 裸片組合在一起，實現(xiàn) 6GB 堆棧（與之相比，普通 HBM2 有 8GB 堆棧）。
值得注意的是，上面的論文和幻燈片將這種技術(shù)稱為功能內(nèi)存 DRAM（FIMDRAM，F(xiàn)unction-In Memory DRAM），但這是該技術(shù)的內(nèi)部代號，這個技術(shù)現(xiàn)在的名稱是 HBM-PIM。三星展示的是基于 20nm 原型芯片，該芯片在不增加功耗的情況下可實現(xiàn)每 pin 2.4 Gbps 的吞吐量。
論文將基礎(chǔ)技術(shù)描述為功能內(nèi)存 DRAM（FIMDRAM），該功能在存儲庫中集成了 16 寬單指令多數(shù)據(jù)引擎，并利用存儲庫級并行性提供了比片外存儲高 4 倍的處理帶寬。另外，可以看到的是這種芯片存儲解決方案無需對常規(guī)存儲器控制器及其命令協(xié)議進行任何修改，這使得 FIMDRAM 可以更快在實際應(yīng)用中使用。
不幸的是，至少在目前看來，我們不會在最新的游戲 GPU 中看到這些功能。三星指出，這種新內(nèi)存要滿足數(shù)據(jù)中心、HPC 系統(tǒng)和支持 AI 的移動應(yīng)用程序中的大規(guī)模處理需求。
與大多數(shù)存內(nèi)計算技術(shù)一樣，希望這項技術(shù)能夠突破存儲芯片散熱的限制，尤其是考慮到 HBM 芯片通常部署在堆棧中，而這些堆棧并不都有利于散熱。三星的演講者沒有分享 HBM-PIM 如何應(yīng)對這些挑戰(zhàn)。
三星電子存儲器產(chǎn)品計劃高級副總裁 Kwangil Park 表示：" 我們開創(chuàng)性的 HBM-PIM 是業(yè)內(nèi)首個針對各種 AI 驅(qū)動的工作負載（如 HPC，訓(xùn)練和推理）量身定制的可編程 PIM 解決方案。我們計劃通過與 AI 解決方案提供商進一步合作以開發(fā)更高級的 PIM 驅(qū)動的應(yīng)用。"
注，文中圖片來自三星
