【存内计算在AI大模型时代应用最佳实践系列】二十六:存内一体的云和边缘大算力企业

完美句号 完美句号 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区

1. IBM:

IBM在相变存储(PCRAM)里实现神经网络计算的功能,利用新型存储器件的模拟计算功能来实现神经网络的计算。


2. 知存科技:

知存科技成立于2017年10月的知存科技,成为国内存算一体的标志企业,获得兆易创新、启迪方信、科大讯飞等投资,第一款芯片预计2019年量产,面向超低功耗语音识别,将达到三十倍功耗降低,三倍生产成本降低,未来将开发视频和图像AI芯片和加速卡、人机交互物联网芯片。


3. 新忆科技:

新忆科技成立于2018年,清华大学背景,致力于忆阻器的研发和产业化,清华华控投资。


4. 云和边缘大算力企业列表:

 


5. 亿铸科技:

亿铸科技成立于2020年6月,据称是目前国内唯一能自主设计并量产基于忆阻器(ReRAM)的“存算搜一体”算力芯片的供应商。亿铸基于ReRAM的路线来实现大算力的存算一体芯片,以解决现有技术方案中遇到的功耗墙和内存墙的问题,这将使挑战现有AI芯片行业格局成为可能。该公司拥有世界顶级的科研、工程及顾问团队,为数据中心和自动驾驶等领域打造能效比十倍于现有技术的解决方案。其研发能力覆盖从存算一体底层器件,芯片设计到AI软件栈。


6. 千芯科技:

千芯科技是可重构存算一体AI芯片的领导者和先驱,在国内最早提出可重构存算一体芯片架构。基于“算法-芯片-存储-计算协同”的前沿理念,千芯科技为各行各业提供先进的“AI+商业算法”芯片和解决方案。核心产品包括高算力低功耗的存算一体AI芯片/IP核(支持多领域多模态人工智能算法)。千芯科技成立于 2019 年,核心团队成员来自 AMD、瑞萨、联发科、长江存储等国际领先企业,在存算一体和 AI 计算加速以及 5nm 和 7nm 芯片量产方面拥有丰富经验。

1. AI推断计算卡(CloudCard):

先进存算架构,深度优化存储墙与编译墙,提供更强更高效的大模型(例如推荐模型)支持。能效比超过10-100TOPS/W,优于GPU 10-40倍,且具备灵活的算子可变能力,高度兼容易用的深度学习部署环境。

2. 边缘AI计算板卡(EdgeCard):

以成本效益和低功耗的AI推断为目标,为各类边缘计算提供强大算力支持。支持边缘计算的灵活算法部署与客户自定义算子,为多模态多场景边缘计算提供创新支持。

3. AI计算IP核(IP Core):

多种内存IP核解决方案,以支持针对不同AI内存约束(带宽、容量、缓存一致性)的高效架构。支持4种算法和4种数据类型,采用7/12/16纳米制程。可满足各个市场上多种多样的处理、内存、连接和安全性要求。

4. AI加速工具包(tinyAI):

AI加速工具包面向硬件工程师提供一站式部署,支持3-500倍AI性能的提升,友好兼容开源生态。 支持ARM / RISC-V / x86平台和自有算法的平滑迁移。

...全文

相关推荐

AI大模型边缘算力调度[项目代码]

当前,AI大模型在边缘侧的落地尝试主要集中在两个方面:算力统管和场景优化。算力统管指的是对边缘侧的计算资源进行合理分配和调度,以支持大模型的高效运行。

cola5

【信息科学与工程学】【数据中心】 第十四篇 智算中心算法体系规划

每个节点独立计算本地对偶变量的次梯度,通过异步通信更新对偶变量,步长选择采用自适应策略(如ηt​=t​η0​​)。:采用L1(内存缓存)、L2(SSD缓存)、L3(磁盘缓存)三级缓存架构,结合LRU/LFU算法实现动态缓存管理。:靠近用户终端(如基站、小区),仅缓存高频访问内容,部署在用户最近的网络边缘,实现"最后一公里"加速。:存储完整内容库,负责内容注入与全局调度,部署在核心数据中心,具备高带宽和高可用性设计。:基于用户IP、运营商、节点负载等实时数据,动态选择最优边缘节点,实现全局负载均衡。

flyair_China

【信息科学与工程学】【数字孪生】【云计算】第十五篇 云计算领域数字孪生的核心数学模型01

​功能​​关键算法/机制​​依赖组件​调度与扩缩容状态机循环、比例算法服务发现一致性哈希(IPVS)、DNS轮询存储绑定最佳匹配策略PV控制器自愈心跳检测、探针超时Node控制器、kubelet批处理任务Cron表达式解析CronJob控制器完整验证流程建议结合Prometheus监控​(资源指标)和Chaos Engineering工具​(故障注入)。代码实现细节可参考K8s源码中的模块。​节点信息快照机制​:减少锁争用,支持高速访问​无锁优先级队列。

flyair_China

智东西公开课-面向边缘计算的大算力存内计算SoC-杭州智芯科微电子创始人兼CEO张钟宣博士.pdf

综上所述,面向边缘计算的大算力存内计算SoC是应对AI快速发展和后摩尔时代技术挑战的关键技术。

Little Brightness

AI大模型源代码(包含算法+模型训练+算力管理和推理等)100%能用.zip

在当前的数字化时代,人工智能(AI)已经成为科技发展的重要驱动力。AI大模型源代码是实现先进AI功能的基础,它们涵盖了算法设计、模型训练、算力管理以及推理等多个关键环节。

shengyin714959
评论 2
收藏 已收藏
分享
返回顶部