今天,三星宣布,其新的基于HBM2的内存具有集成的AI处理器,该处理器可以提供最高达1.2 TFLOPS的嵌入式计算能力,从而使内存芯片本身能够执行通常由CPU,GPU,ASIC,或FPGA处理的工作。
新的HBM-PIM(processing-in-memory)芯片将AI引擎注入每个存储体中,从而将处理操作转移到HBM本身。新型的内存旨在减轻在内存和处理器之间移动数据的负担,因为这个操作带来的功耗和时间比实际的计算操作更为昂贵。
三星表示,将其应用于现有的HBM2 Aquabolt内存后,该技术可以提供两倍于系统的性能,同时将能耗降低70%以上。该公司还声称,新内存不需要任何软件或硬件更改(包括对内存控制器的更改),从而为早期采用者提供了更快的上市时间。
三星表示,这种存储器已经在领先的AI解决方案提供商的AI加速器中进行了试验。该公司预计所有验证工作都将在今年上半年完成,这标志着快速进入市场的道路。
深挖三星HBM-PIM内存
三星在本周的国际固态电路虚拟会议(ISSCC)上展示了其新存储器架构的详细信息。
如您在上面的幻灯片中看到的那样,每个存储库都有一个嵌入式可编程计算单元(PCU),其运行频率为300 MHz,每个裸片总共32个PCU。这些单元通过来自主机的常规存储命令进行控制,以启用DRAM中处理功能,并且它们可以执行各种FP16计算。该存储器还可以在标准模式下运行,这意味着它可以像普通HBM2一样运行,也可以在FIM模式下运行以进行内存中数据处理。
自然地,为PCU单元腾出空间会减少内存容量-每个配备PCU的内存芯片的容量(每个4Gb)是标准8Gb HBM2芯片的一半。为了帮助解决该问题,三星通过将四个4Gb裸片与PCU和四个不带PCU的8Gb裸片组合在一起来使用6GB堆栈(与之相比,带有普通HBM2的8GB堆栈)。
值得注意的是,上面的论文和幻灯片将这种技术称为功能内存DRAM(FIMDRAM),但这是该技术的内部代号,该技术现在带有HBM-PIM品牌名称。三星的示例基于20纳米原型芯片,该芯片在不增加功耗的情况下可实现每针2.4 Gbps的吞吐量。
本文将基础技术描述为“功能于内存的DRAM(FIMDRAM),该功能在存储库中集成了16宽单指令多数据引擎,并利用存储库级并行性提供了比关闭存储高4倍的处理带宽。芯片存储器解决方案。其次,我们展示了无需对常规存储器控制器及其命令协议进行任何修改的技术,这些技术使FIMDRAM在快速工业应用中更加实用。”
但是,至少在目前,我们不会在最新的游戏GPU中看到这些功能。三星指出,这种新内存注定要满足数据中心,HPC系统和支持AI的移动应用程序中的大规模处理要求。
与大多数内存处理技术一样,我们希望这项技术将突破存储芯片散热限制的边界,尤其是考虑到HBM芯片通常部署在堆栈中,而这些堆栈并不完全有利于轻松散热。三星的演讲没有涵盖HBM-PIM如何应对这些挑战。
三星电子存储器产品计划高级副总裁Kwangil Park表示:“我们开创性的HBM-PIM是业内首个针对各种AI驱动的工作负载(如HPC,培训和推理)量身定制的可编程PIM解决方案。我们计划以此为突破通过与AI解决方案提供商进一步合作以开发更高级的PIM驱动的应用程序。”
情侣的名字:http://www.nanss.com/mingcheng/9314.html
女游戏名字:http://www.nanss.com/mingcheng/9288.html
学历证明:http://www.nanss.com/gongzuo/9398.html
垃圾分类英语作文:http://www.nanss.com/xuexi/9498.html
美发店的名字:http://www.nanss.com/shenghuo/9443.html
形容难过的词语2个字:http://www.nanss.com/xuexi/9361.html
非主流昵称:http://www.nanss.com/mingcheng/9286.html
可爱女孩网名:http://www.nanss.com/mingcheng/9477.html
古色古香的名字:http://www.nanss.com/shenghuo/9384.html
环境作文:http://www.nanss.com/xuexi/9272.html
长的网名:http://www.nanss.com/mingcheng/9290.html
网游名:http://www.nanss.com/mingcheng/9293.html
骑摩托适合发朋友圈的句子:http://www.nanss.com/wenan/9334.html
红与黑读后感:http://www.nanss.com/yuedu/9262.html
高端点的公会名字:http://www.nanss.com/mingcheng/9445.html
超可爱网名:http://www.nanss.com/mingcheng/9455.html
部队文化墙标语:http://www.nanss.com/yulu/9351.html
女人网名:http://www.nanss.com/mingcheng/9311.html
金字旁的女孩名字:http://www.nanss.com/yuer/9450.html
坐井观天续写:http://www.nanss.com/xuexi/9492.html
丫鬟的名字:http://www.nanss.com/shenghuo/9315.html
人生感悟的说说致自己:http://www.nanss.com/yulu/9371.html
德育工作总结:http://www.nanss.com/gongzuo/9396.html
乡土中国读后感:http://www.nanss.com/yuedu/9404.html
幼稚网名:http://www.nanss.com/mingcheng/9459.html
茶馆名字:http://www.nanss.com/shenghuo/9318.html
宠物狗的名字:http://www.nanss.com/shenghuo/9289.html
qq网名伤感:http://www.nanss.com/mingcheng/9470.html
相思入骨的经典诗句:http://www.nanss.com/xuexi/9360.html
特殊符号的名字:http://www.nanss.com/mingcheng/9322.html
洋葱头历险记读后感:http://www.nanss.com/xuexi/9432.html
*一本书作文500字:http://www.nanss.com/xuexi/9393.html
个人委托书:http://www.nanss.com/gongzuo/9409.html
杨姓男孩名字大全:http://www.nanss.com/shenghuo/9380.html
有了白发的幽默感慨:http://www.nanss.com/yulu/9341.html
带瑶的网名:http://www.nanss.com/mingcheng/9327.html
描写荷花的诗句:http://www.nanss.com/xuexi/9423.html
洋气的小名:http://www.nanss.com/shenghuo/9480.html
离*一座城市发朋友圈:http://www.nanss.com/wenan/9359.html
志愿者心得体会:http://www.nanss.com/xuexi/9426.html
特殊名字符号:http://www.nanss.com/mingcheng/9474.html
非主流qq名:http://www.nanss.com/mingcheng/9385.html
走读申请书:http://www.nanss.com/xuexi/9433.html
超霸气的网名:http://www.nanss.com/mingcheng/9468.html
*叛逆不听话的感慨:http://www.nanss.com/yulu/9343.html
森系小清新女生网名:http://www.nanss.com/mingcheng/9282.html
十年后的我作文:http://www.nanss.com/xuexi/9417.html
描写月亮的诗句:http://www.nanss.com/xuexi/9419.html
英语情侣名:http://www.nanss.com/mingcheng/9379.html