【存内计算在AI大模型时代应用最佳实践系列】三十三:三星存算一体人工智能的新浪潮

完美句号 社区KOL 2024-02-10 20:13:27

新款内存内处理 (PIM) 架构将强大的 AI 计算能力引入高性能内存,加速数据中心、高性能计算 (HPC) 系统和支持 AI 的移动应用程序中的大规模处理。

三星电子内存产品规划高级副总裁 Kwangil Park 表示:“我们突破性的 HBM-PIM 是针对各种 AI 驱动的工作负载(如 HPC、培训和推理)量身定制的可编程 PIM 解决方案。我们计划通过与 AI 解决方案供应商进一步合作,实现这一突破,实现更优质的 PIM 支持应用。”

Argonne 计算、环境和生命科学实验室副主任 Rick Stevens 评论:“我很高兴看到三星正在解决 HPC 和 AI 计算内存带宽/能力挑战。HBM-PIM 设计在重要 AI 应用类别上展现了令人印象深刻的性能和能力提升,因此我们期待在 Argonne 国家实验室感兴趣的其他问题上共同评估其性能。”

如今的大多数计算系统都基于冯·诺依曼 (von Neumann) 架构,该架构使用单独的处理器和内存单元来执行数百万个复杂的数据处理任务。这种顺序处理方法要求数据不断往复移动,从而造成系统速度减慢的瓶颈,尤其是在处理不断增加的数据量时。

与之不同的是,HBM-PIM 通过将经过动态随机存取存储器 (DRAM) 优化的 AI 引擎置于每个内存库(存储子单元)内,将处理能力直接引入到数据存储位置,从而实现并行处理并尽可能减少数据移动。当应用于三星现有的 HBM2 Aquabolt 解决方案时,新架构能够提供超过两倍的系统性能,同时将能耗降低 70% 以上。HBM-PIM 也不需要任何硬件或软件变更,从而可以更快地集成到现有系统中。*

三星关于 HBM-PIM 的论文已获选将在 2 月 22 日举行的知名国际固态电路虚拟会议 (ISSCC) 上发表。三星的 HBM-PIM 目前正由 AI 解决方案合作伙伴在人工智能加速器内进行测试,所有验证工作预计将于今年上半年完成。


1. AI 无处不在:

我们生活在可以将想象变为现实的AI时代。 曾经只存在于科幻小说中的人工智能已在不知不觉间融入到我们生活的各个方面,这是我们以前无法想象的。新型的人工智能设备改变了人类运用技术以及与其交互的方式,让我们的生活变得更智慧。

那么,什么是人工智能,三星半导体又是如何与人工智能一道改变我们的生活的?让我们共同来探索。

1. 什么是人工智能?

人工智能是计算机科学的一个分支,主要研究如何将人类的智能行为应用到机器系统中。 也就是说,人工智能让计算机或机器人等机器系统按照与人类相似的方式进行思考。当人工智能接收到某个任务时,它会从周围环境中获取信息并进行分析来选择一个合适的答案;如果答案有误,则会学习替代方案,在下一次任务中改进。

人工智能是涵盖机器学习和自然语言处理等广泛技术的总称,目前广泛应用于智能手机、家用电器、自动驾驶汽车、工业制造和医疗等多个领域。 而这,仅仅只是开始。 不久后,生活中将处处可见人工智能的身影。

2. 图像与语音识别:

人工智能可以像人一样识别周围的环境或物体。 图像识别和语音识别是目前发展较快的两个领域。图像识别系统不仅可以识别物体和面部表情,现已发展到可快速识别隐藏背景和细微差别的阶段。 利用这种识别能力,还可以创建全新的超逼真图像。

语音识别系统则可以利用深度学习来分析数十亿个单词以及复杂的短语和句子结构。 这种能力可让人工智能助理服务理解并响应用户的指令。

3. 让技术掌握学习能力:

为了让设备拥有独立思考的能力,机器学习这一概念应运而生。机器学习教会计算机如何识别数据的模式并自行做出可靠的决策,而不是通过编程让计算机执行特定任务。并且随着学习数据积累,逐步提升准确率。

另一方面,深度学习是使用模仿人类大脑认知过程的人工神经网络,从大量数据中识别其模式的机器学习的子概念。深度学习已在图片分类和自然语言分析等核心领域发展到赶超人类的水平,可以应用在翻译、自动驾驶等领域。

4. 能够推理的机器:

凭借根据某种思维得出新的判断或结论的推理能力,让人工智能能够基于现有数据和结果做出新的判断。以深度学习为基础,计算机可以像人类一样更加灵活地思考,也可以对识别出来的目标之间的相对关系进行判断。无论是简单的工作还是复杂的艺术创作,这些能力都将为我们生活的各个领域提供全新体验。

最近爆火的巨型人工智能也是通过这种推理能力演进而来的。 生成式人工智能 (Generative AI) 模型不同于依靠编程指令输出结果的早期人工智能模型,它是通过学习海量数据,对给定的情景和指令进行推理后生成结果的。

5. 全局 AI:

当人们做决定时,不仅会考虑眼下的直接影响,还会着眼于未来产生的影响。 有时,我们会选择从长远来看更加有利的选项,即使它不能马上带来理想的结果。如今的许多巨型人工智能系统都是以具备这种判断能力为目标进行训练的。 通过“想象”每个选项带来的结果,从大局观的角度剖析问题,并寻找实现最终目标的更大可能性。

...全文
57 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
牵着猫散步的鼠鼠 社区KOC 02-14
  • 打赏
  • 举报
回复

支持建设存内计算开发者社区

完美句号 社区KOL 02-10
  • 打赏
  • 举报
回复 1

建设存内计算开发者社区

2,035

社区成员

发帖
与我相关
我的任务
社区描述
首个存内开发者社区,是整合产学研各界资源优势,搭建的学习与实践平台,提供存内架构学习,平台算法部署实践,存内计算线下训练以及AI时代大模型追踪,从理论到实践,供开发者体验未来第三极算力架构。
其他 企业社区
社区管理员
  • 存内计算开发者社区
  • Hundred++
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
  • 奖品兑换上新:

100积分 - 品牌赞助托特包 (单个账号限兑换5个)

200积分-罗技M240无线鼠标 ( 单个账号限兑换3个)

400积分-马歇尔入耳式耳机 (单个账号限兑换2个)

600积分-Cherry MIX 3.0键盘 (单个账号限兑换2个)

800积分- 雷切Pro游戏手柄 (单个账号限兑换1个)

1200积分-Switch 积分(单个账号限兑换1个)

 

  • 积分规则:

 

创作积分:

1,发布文章获取20积分

2,文章内容加精30积分

互动积分:

1,发布评论互动积分:2积分

2,点赞文章获取积分:1积分

 

 

试试用AI创作助手写篇文章吧