【存内计算在AI大模型时代应用最佳实践系列】二十九:国内存算一体技术研究成果

完美句号 存内计算大使 2024-02-10 15:23:56

随着技术研发的推进,存算一体技术逐渐由学术研究进入到产品研发阶段。在存算一体赛道上,各家有各自不同的产品路线和存储器单元选择。有的坚持走核心技术自研路线,有的则采纳国外先进IP核心。

AI时代,冯诺依曼架构下计算单元与存储单元分离带来的存储墙问题愈发明显,而存算一体被认为是解决存储墙问题的有效方式。

如今国内外众多企业都已经开展存算一体技术的研发,包括英特尔、SK海力士、IBM、美光、三星、台积电、阿里等传统芯片大厂,以及众多新兴AI和存储企业,比如亿铸科技、千芯科技、后摩智能、(前面为大算力存算一体芯片,后面为小算力存算一体芯片) 闪易半导体、苹芯科技、知存科技、智芯科、九天睿芯、恒烁半导体等。

那么目前各家企业的研究和量产情况进展如何呢?各家的技术路线有何差异?存算一体技术未来的整体趋势如何?


1. 传统芯片大厂积极研发:

目前,三星电子、SK海力士、台积电、美光、IBM、英特尔等都在进行存算一体技术的研究,其中有明显进展是三星电子、SK海力士。

1. 三星电子在多个技术路线进行尝试,2021年初,三星发布基于HBM的新型内存,里面集成了AI处理器,该处理器可以实现高达1.2TFLOPS的计算能力,新型HBM-PIM(存内计算)芯片将AI引擎引入每个存储库,从而将处理操作转移到HBM,可以减轻在内存和处理器之间搬运数据的负担。三星表示新型HBM-PIM芯片,可以提供2倍的系统性能,同时能耗降低了70%以上。

今年1月三星电子又带来新研究成果,该公司在顶级学术期刊Nature上发表了全球首个基于MRAM(磁性随机存储器)的存内计算研究。据介绍,三星电子的研究团队通过构建新的MRAM阵列结构,用基于28nm CMOS工艺的MRAM阵列芯片运行了手写数字识别和人脸检测等AI算法,准确率分别为98%和93%。

2. SK海力士今年2月也公布了基于GDDR接口的DRAM存内计算的最新研究成果,并展示了其首款基于存内计算技术产品GDDR6-AiM的样本。

GDDR6-AiM是将计算功能添加到数据传输速度为16Gbps的GDDR6内存产品中,与传统DRAM相比,将GDDR6-AiM与CPU、GPU相结合的系统可在特定计算环境中将计算速度提高16倍。此外,由于存内计算在运算中减少了内存与CPU、GPU间的数据传输往来,大大降低了功耗,GDDR6-AiM可使功耗降低80%。

台积电也在进行存内计算的研究,该公司的研究人员在2021年初的国际固态电路会议(ISSCC 2021)上提出了一种基于数字改良的SRAM设计存内计算方案,能支持更大的神经网络。

3. 美光也曾通过收购人工智能技术初创公司Fwdnxt,尝试开发将内存和计算紧密结合的创新方案,IBM前几年也在相变存储(PCRAM)里实现了神经网络计算功能,英特尔也早早提出了近内存计算战略,将数据在存储层级向上移动,使其更接近处理单元进行计算。


2. 国内新兴企业陆续融资:

在存算一体技术推进研发、量产落地方面,国内新兴AI和存储企业进展明显,包括亿铸科技、千芯科技、后摩智能、(前面为大算力存算一体芯片,后面为小算力存算一体芯片) 闪易半导体、苹芯科技、知存科技、智芯科、九天睿芯、恒烁半导体等。

1. 亿铸科技:

亿铸科技成立于2021年9月,主要基于ReRAM路线来实现大算力的存算一体芯片,亿铸科技主要为数据中心和自动驾驶等领域打造能效比十倍于现有技术的解决方案,研发能力覆盖从存算一体底层器件,芯片设计到AI软件栈。目前亿铸科技已完成过亿元天使轮融资。

另外在ReRAM架构的全数字存算一体AI计算芯片领域,亿铸科技将会与昕原半导体联手、紧密调试。昕原半导体基于Metal Wire工艺,在ReRAM器件的设计和制造工艺已经实现了全国产化,并已完成业界首款28nm制程ReRAM芯片流片,建成中国大陆首条中试线,拥有垂直一体化存储器设计加制造的能力。

2. 智芯科:

智芯科(AistarTek)成立于2019年,主要致力于大算力低功耗的边缘计算芯片设计,产品应用领域包括手机、自动驾驶、安防、无人机、机器人、AR/VR等。该公司此前表示,第一代AT680X针对超低功耗智能语音AIOT市场的量产版产品将在2021年9月份推向市场。2021年7月,智芯科宣布完成近亿元的天使轮融资。

3. 千芯科技:

千芯科技(TensorChip)成立于2019年,在国内最早提出可重构存算一体AI芯片架构。公司的核心产品包括高算力低功耗的存算一体AI芯片/IP核,基于SRAM/RRAM/MARM存储单元,目前已通过互联网大厂原型内测。

千芯科技主要推进面向云端推理和边缘计算的AI芯片研发,产品可应用于云计算、自动驾驶、智能安防等领域,在云计算方面,技术团队正在优化产品原型,将AI芯片技术与工业客户的需求相结合,目前产品已完成样机验证,产品算力1000TOPS以上。

4. 闪易半导体:

闪易半导体成立于2017年,是一家研发高性能、低功耗、低成本的存算一体化AI芯片的公司,首批芯片产品早在2020年就实现批量出货。

公司主要推广语音和图像识别两大解决方案,图像识别产品首先面向需求量极大的消费类电子市场,包括智能手表/手环、AR/VR等可穿戴设备,以及在人脸识别智能门锁中的应用,图像识别产品还在防灾减灾、提升道路安全等多个泛安防场景中实现了批量应用。

5. 九天睿芯:
九天睿芯成立于2018年6月,该公司基于类脑计算,以模数混和形式,实现感存算一体芯片的研发落地和量产销售,该公司目前已完成亿元级A轮融资。 九天睿芯已经推出包括ADA100和ADA200在内的多款芯片。ADA100是一款超低功耗低算力传感器处理芯片,等效算力1Gops,应用于可穿戴/ARVR/AIoT设备如无线智能相机门铃、门锁、86开关等智能家居产品,于2021年11月量产,2022年批量出货。 ADA200是低功耗中低算力视觉协处理器,算力1-2Tops,应用于低功耗无线摄像头/ARVR/手机平板,将于2022年底量产,ADA200是基于最新感存算一体技术架构实现的模数混合AI视觉芯片,相比传统数字芯片,具备更低功耗,以及超高的能效比。

6. 知存科技:

知存科技成立于2017年,目前已推出多款存内计算芯片,该公司2021年发布的WTM2101芯片,,该芯片采用Flash工艺,处理AI运算时工作功耗最低50uA,峰值算力下功耗低至5mA,能耗比约为0.5TOPS/W,神经网络模型参数可达1.8MB,AI峰值算力达50Gops,适合可穿戴设备中的智能语音和智能健康服务。知存科技于2022年1月完成2亿元B1轮融资。

7. 后摩智能:

后摩智能成立于2020年底,专注于存算一体技术的大算力AI芯片研发,提供大算力、低功耗的高能效比芯片及解决方案,应用于智能驾驶、泛机器人等边缘端,及云端推理场景。该公司第一代芯片是基于SRAM的智能计算芯片,后摩智能于2021年8月宣布完成首款芯片验证流片,于2022年4月完成数亿元人民币Pre-A+轮融资。

8. 苹芯科技:

苹芯科技成立于2021年2月,是一家基于存算一体技术打造面向AI加速器芯片的公司。目前已开发多款基于SRAM的存内计算芯片,其首款可商用的存内计算加速单元S200目前正与客户做技术验证,苹芯科技的存内计算产品主要用于可穿戴设备、无人机摄像头、安防领域、机器人领域、智能家居等场景。2021年8月,苹芯科技完成近千万美元Pre-A轮融资。

9. 恒烁半导体:

恒烁半导体成立于2015年,是一家主营业务存储芯片和MCU芯片的集成电路设计企业,自2019年起,开始研发基于NOR Flash架构的存算一体人工智能AI芯片(CINOR)。

对现有NOR Flash阵列进行改造后,2019 年底公司第一款CiNOR V1版在武汉新芯65nm NOR Flash制程上已经完成芯片设计并流片,成功验证了CiNOR芯片原理和可行性,并实现了包括手写识别、ECG检测和人脸检测等几项应用。CiNOR V2芯片正在研发过程中。

10. 阿里达摩院

2021年12月3日,阿里云微信公众号发布消息称,达摩院成功研发存算一体芯片。据介绍,这是全球首款基于DRAM的3D键合堆叠存算一体芯片,它可突破冯·诺依曼架构的性能瓶颈,满足人工智能等场景对高带宽、高容量内存和极致算力的需求。在特定AI场景中,该芯片性能提升10倍以上,效能比提升高达300倍。

...全文
37 1 打赏 收藏 转发到动态 举报
写回复
用AI写文章
1 条回复
切换为时间正序
请发表友善的回复…
发表回复
完美句号 存内计算大使 02-10
  • 打赏
  • 举报
回复 1

建设存内计算开发社区

74

社区成员

发帖
与我相关
我的任务
社区描述
首个存内开发者社区,是整合产学研各界资源优势,搭建的学习与实践平台,提供存内架构学习,平台算法部署实践,存内计算线下训练以及AI时代大模型追踪,从理论到实践,供开发者体验未来第三极算力架构。
其他 企业社区
社区管理员
  • 存内计算开发者
  • Hundred++
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
  • 积分规则:

 

创作积分:

1,发布文章获取20积分

2,文章内容加精30积分

互动积分:

1,发布评论互动积分:2积分

2,点赞文章获取积分:1积分

 

  • 积分兑换:

100积分 兑换品牌赞助托特包 (每个ID限定5份)

600积分 兑换Cherry Mix3.0键盘 (每个ID限定4份)

1200积分 兑换Switch (每个ID限定2台)

试试用AI创作助手写篇文章吧