性能提升了100倍,功耗降低了99%!NEO发布了3D X-AI芯片

艺术中心 (22) 2024-08-18 17:23:13

8月18日,半导体公司NEO Semiconductor近日宣布推出3D X-AI芯片技术,该技术旨在替代高带宽内存(HBM)中的现有DRAM芯片,旨在提高人工智能处理性能并显著减少能耗。
3D X-AI芯片集成了8000个神经元电路,这些电路能够在3D DRAM中直接执行人工智能处理,从而将AI性能提升至100倍。
与此同时,由于大幅降低了数据传输需求,该芯片的功耗减少了99%,从而有效减轻了数据总线的功耗和发热问题。
NEO Semiconductor的这一创新使内存密度提升了8倍,其3D X-AI芯片包含300个DRAM层,从而能够支持更大规模的AI模型运行。
该公司之前已推出全球首款3D DRAM技术,而3D X-AI芯片在此基础上进行了更深的创新。通过类似于HBM的堆叠封装,该芯片实现了每个芯片高达10 TBs的AI处理吞吐量。
NEO Semiconductor的创始人兼首席执行官Andy Hsu表示,现有AI芯片架构中数据存储与处理的分离,造成了性能瓶颈和高功耗的问题。
3D X-AI芯片通过在每个HBM芯片内进行AI处理,显著减少了HBM与GPU之间的数据传输量,从而提升了性能并降低了能耗。
行业分析师杰伊·克雷默认为,3D X-AI技术的应用将加速新兴人工智能用例的开发,并促进新用例的产生,从而为人工智能应用的创新开启一个新的时代。

THE END