【存内计算在AI大模型时代应用最佳实践系列】三十三:三星存算一体人工智能的新浪潮

完美句号 存内计算大使 2024-02-10 20:13:27

新款内存内处理 (PIM) 架构将强大的 AI 计算能力引入高性能内存,加速数据中心、高性能计算 (HPC) 系统和支持 AI 的移动应用程序中的大规模处理。

三星电子内存产品规划高级副总裁 Kwangil Park 表示:“我们突破性的 HBM-PIM 是针对各种 AI 驱动的工作负载(如 HPC、培训和推理)量身定制的可编程 PIM 解决方案。我们计划通过与 AI 解决方案供应商进一步合作,实现这一突破,实现更优质的 PIM 支持应用。”

Argonne 计算、环境和生命科学实验室副主任 Rick Stevens 评论:“我很高兴看到三星正在解决 HPC 和 AI 计算内存带宽/能力挑战。HBM-PIM 设计在重要 AI 应用类别上展现了令人印象深刻的性能和能力提升,因此我们期待在 Argonne 国家实验室感兴趣的其他问题上共同评估其性能。”

如今的大多数计算系统都基于冯·诺依曼 (von Neumann) 架构,该架构使用单独的处理器和内存单元来执行数百万个复杂的数据处理任务。这种顺序处理方法要求数据不断往复移动,从而造成系统速度减慢的瓶颈,尤其是在处理不断增加的数据量时。

与之不同的是,HBM-PIM 通过将经过动态随机存取存储器 (DRAM) 优化的 AI 引擎置于每个内存库(存储子单元)内,将处理能力直接引入到数据存储位置,从而实现并行处理并尽可能减少数据移动。当应用于三星现有的 HBM2 Aquabolt 解决方案时,新架构能够提供超过两倍的系统性能,同时将能耗降低 70% 以上。HBM-PIM 也不需要任何硬件或软件变更,从而可以更快地集成到现有系统中。*

三星关于 HBM-PIM 的论文已获选将在 2 月 22 日举行的知名国际固态电路虚拟会议 (ISSCC) 上发表。三星的 HBM-PIM 目前正由 AI 解决方案合作伙伴在人工智能加速器内进行测试,所有验证工作预计将于今年上半年完成。


1. AI 无处不在:

我们生活在可以将想象变为现实的AI时代。 曾经只存在于科幻小说中的人工智能已在不知不觉间融入到我们生活的各个方面,这是我们以前无法想象的。新型的人工智能设备改变了人类运用技术以及与其交互的方式,让我们的生活变得更智慧。

那么,什么是人工智能,三星半导体又是如何与人工智能一道改变我们的生活的?让我们共同来探索。

1. 什么是人工智能?

人工智能是计算机科学的一个分支,主要研究如何将人类的智能行为应用到机器系统中。 也就是说,人工智能让计算机或机器人等机器系统按照与人类相似的方式进行思考。当人工智能接收到某个任务时,它会从周围环境中获取信息并进行分析来选择一个合适的答案;如果答案有误,则会学习替代方案,在下一次任务中改进。

人工智能是涵盖机器学习和自然语言处理等广泛技术的总称,目前广泛应用于智能手机、家用电器、自动驾驶汽车、工业制造和医疗等多个领域。 而这,仅仅只是开始。 不久后,生活中将处处可见人工智能的身影。

2. 图像与语音识别:

人工智能可以像人一样识别周围的环境或物体。 图像识别和语音识别是目前发展较快的两个领域。图像识别系统不仅可以识别物体和面部表情,现已发展到可快速识别隐藏背景和细微差别的阶段。 利用这种识别能力,还可以创建全新的超逼真图像。

语音识别系统则可以利用深度学习来分析数十亿个单词以及复杂的短语和句子结构。 这种能力可让人工智能助理服务理解并响应用户的指令。

3. 让技术掌握学习能力:

为了让设备拥有独立思考的能力,机器学习这一概念应运而生。机器学习教会计算机如何识别数据的模式并自行做出可靠的决策,而不是通过编程让计算机执行特定任务。并且随着学习数据积累,逐步提升准确率。

另一方面,深度学习是使用模仿人类大脑认知过程的人工神经网络,从大量数据中识别其模式的机器学习的子概念。深度学习已在图片分类和自然语言分析等核心领域发展到赶超人类的水平,可以应用在翻译、自动驾驶等领域。

4. 能够推理的机器:

凭借根据某种思维得出新的判断或结论的推理能力,让人工智能能够基于现有数据和结果做出新的判断。以深度学习为基础,计算机可以像人类一样更加灵活地思考,也可以对识别出来的目标之间的相对关系进行判断。无论是简单的工作还是复杂的艺术创作,这些能力都将为我们生活的各个领域提供全新体验。

最近爆火的巨型人工智能也是通过这种推理能力演进而来的。 生成式人工智能 (Generative AI) 模型不同于依靠编程指令输出结果的早期人工智能模型,它是通过学习海量数据,对给定的情景和指令进行推理后生成结果的。

5. 全局 AI:

当人们做决定时,不仅会考虑眼下的直接影响,还会着眼于未来产生的影响。 有时,我们会选择从长远来看更加有利的选项,即使它不能马上带来理想的结果。如今的许多巨型人工智能系统都是以具备这种判断能力为目标进行训练的。 通过“想象”每个选项带来的结果,从大局观的角度剖析问题,并寻找实现最终目标的更大可能性。

...全文
43 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
牵着猫散步的鼠鼠 存内计算先锋 7天前
  • 打赏
  • 举报
回复

支持建设存内计算开发者社区

完美句号 存内计算大使 02-10
  • 打赏
  • 举报
回复 1

建设存内计算开发者社区

百度联合清华大学发布了《产业智能化白皮书——人工智能产业化发展地形初现端倪》(以下简称《白皮书》)。 据了解,这份长80页、两万余字的《白皮书》,全面阐述了对产业智能化的战略思考和商业实践方法论,全书分为研究篇和商业实践篇两大部分,实践篇调研了人工智能走出实验室后的产业应用,展现了AI技术与产业的融合程度。 研究篇:人工智能产业化成熟度研究报告 1、人工智能概述:从实验室到产业应用 从20世纪50年代起,人工智能的方法、研究路径经历了好几次重大变化,行业发展也经历了好几次兴衰循环。当前新一轮快速发展,人工智能正从实验室走向广泛的产业应用。 当前人工智能技术在很多产业和领域中已经得到广泛应用人工智能产业化发展的地形已经初现端倪。 从产业角度看,人工智能技术按照结构划分为基础层、算法层、技术 层和应用层。 当前人工智能发展浪潮主要有4个驱动因素: 1.全球数据量爆发性增长 2.计算能力提升 3.算法的进步 4.政策支持、科技巨头和资本追逐 中美两国是人工智能发展最领先的国家,也是推动人工智能产业化最活跃的国家。人工智能技术的产业化将是中国的重要机遇。AI技术在医疗健康、金融、商业、教育、工业和安防 各个领域得到越来越多的广泛应用。中国巨大的市场,人工智能有着异常丰富的应用前景。 2、TUMC模型:新兴技术产业化成熟度的评估框架 目前,人工智能的增长不断加速,正在逼近产业化应用爆发的“临界点”。衡量人工智能技术的产业化成熟度,无论对于企业家、研究者还是国家相关 产业政策的制定者都具有重要意义。 TUMC模型是一个基于战略节奏理论,从产业演进视角研究新产业成熟度和新兴技术产业化成熟度的工具。 战略节奏理论将产品市场的发展分为小众市场、大众市场、分众市场和杂合市场4个阶段。TUMC模型AI技术应用的研究焦点放在“尚未进入小众市场”到“即将开启大众市场”的阶段上。 TUMC模型综合考察技术、用户效用、市场以及产业链4个维度: 1.技术:实现商业化的性能阈值 2.用户效用:特定场景中的特定价值 3.市场:市场起飞的关键规模 4.产业链:新的分工协作系统
面对AI时代的到来,以及最近如火如荼的chartGPT浪潮,我们这些职场小白,不懂点AI是怎么变得这么聪明,好像就对不起这个身处的时代。其实,AI的学习模式并没有那么难,职场小白们花五分钟时间都能理解。 机器学习是人工智能的一个分支,它通过数据、算法和计算资源来让计算机自己学习,从而达到某种目标。在机器学习中,监督学习、无监督学习、自监督学习和强化学习是四种主要的学习模型。 监督学习是一种有监督的学习方式,指给计算机大量数据样本和其对应的标签或输出,让计算机学习如何将输入与输出联系起来,以便于下次遇到新的数据时做出准确的预测,有点类似于,小学老师教小孩写汉字,你们必须按照一定的规范来写。这种学习模型需要大量的有标签的数据进行训练,成本相对较高。监督学习的优点是可以实现准确的预测和分类,适用领域广泛。例如,在医疗领域,监督学习被广泛应用于癌症诊断。医生会收集大量患者的病理数据,并为其打上是否有癌症的标签。然后利用监督学习的方法,让计算机自动地学习如何根据病理数据来预测是否患有癌症。 但是监督学习也存在一些不足之处,例如需要手动标记大量的数据样本,并且成本相对较高。同时,在某些场景下难以收

74

社区成员

发帖
与我相关
我的任务
社区描述
首个存内开发者社区,是整合产学研各界资源优势,搭建的学习与实践平台,提供存内架构学习,平台算法部署实践,存内计算线下训练以及AI时代大模型追踪,从理论到实践,供开发者体验未来第三极算力架构。
其他 企业社区
社区管理员
  • 存内计算开发者
  • Hundred++
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
  • 积分规则:

 

创作积分:

1,发布文章获取20积分

2,文章内容加精30积分

互动积分:

1,发布评论互动积分:2积分

2,点赞文章获取积分:1积分

 

  • 积分兑换:

100积分 兑换品牌赞助托特包 (每个ID限定5份)

600积分 兑换Cherry Mix3.0键盘 (每个ID限定4份)

1200积分 兑换Switch (每个ID限定2台)

试试用AI创作助手写篇文章吧