对线;Driscoll:Arm以强劲的计算平台为AI输出源源动力

2024-11-27 03:29 作者: 来源: 本站 浏览: 我要评论对线;Driscoll:Arm以强劲的计算平台为AI输出源源动力已关闭评论 字号:

摘要: 就如同水,电,燃气,公路和桥梁一样,日益兴起的人工智能(AI)正逐渐成为人类社会中不可缺少的基本元素。仔细观察一下就会发现,人工智能已经以迅雷之势渗透进了我们的生产与生活的方方面面,从数据中心到智能手机,从云端到边缘设备,从制造业到金融业,从智慧城市到自动驾驶...

就如同水,电,燃气,公路和桥梁一样,日益兴起的人工智能(AI)正逐渐成为人类社会中不可缺少的基本元素。仔细观察一下就会发现,人工智能已经以迅雷之势渗透进了我们的生产与生活的方方面面,从数据中心到智能手机,从云端到边缘设备,从制造业到金融业,从智慧城市到自动驾驶,从社会结构到经济发展,人工智能为各行各业带来了颠覆式的变革。

而引领和带动这场人工智能变革的,正是Arm这样的走在行业前沿,为广泛的人工智能构建起强大的数字基础设施的企业。Arm以标准化的处理器架构设计和授权IP模式引领了智能手机和嵌入式设备的巨大变革,在移动处理器领域几乎一统天下,开启了全新的移动时代。而现在,Arm正在通过软硬件深度融合和架构创新,开启和引领另一个伟大的时代,人工智能时代。

Arm基础设施事业部产品解决方案副总裁 Dermot ODriscoll表示,在人工智能浪潮到来之前,Arm就洞察到了其蕴藏的广阔机遇及对算力带来的巨大挑战,几年前就推出了全面面向AI工作负载设计的Armv9架构,在之后的发展过程中,Arm也在不断地进行自我进化和自我跃迁,Arm的角色和定位,也已不再局限于架构设计,而是更多地转型为全面的计算平台公司,通过全面的计算子系统(CSS)、从云到端的软件开发赋能、紧密合作的生态系统三大核心,担负起人工智能基础设施的重任,助力企业更好更高效地利用AI。

在近日召开的Arm Tech Symposia 2024年度技术大会上,Dermot ODriscoll强调,和以往专注于特定应用市场的主题不同,本届技术大会将重点聚焦到了AI如何为各个应用市场带来全面变革的议题上,全面性和系统性俨然成为了核心主题。

全面性和系统性的内涵,是指将零散的单一的产品,以软硬件结合的系统级思维,整合为成体系的具有强大合力的综合平台。目前,Arm的计算平台重点涵盖了终端、基础设施、汽车以及物联网的四大领域,分别满足不同的市场需求。

Dermot ODriscoll表示,Arm计算平台的核心特性,是具备卓越的可扩展性、高性能和高能效,“正是这些特性不断推动着行业变革,也将在 AI 时代继续引领潮流。”而软硬件的结合,尤其是软件在这其中所起到的关键作用,正变得日益显著,这也是Dermot ODriscoll在本届技术大会上着重强调的内容。

以Arm终端计算子系统为例,其将Armv9.2 CPU、Arm Immortalis GPU以及Arm Kleidi软件深度融合在一起,可帮助软件开发者无缝取得Arm CPU上的最佳性能。再比如Arm Neoverse计算子系统。它是在Neoverse IP的核心基础之上,融入了更完整的包括IP集成、整合、验证等在内的系统设计模块,从而把繁琐的流程和开发步骤都给精简掉了。

这些都契合了Arm软硬件协同优化的产品设计策略。正如Dermot ODriscoll所言:“硬件若无软件支持就毫无意义。”他表示,要利用好AI,就需要能够高效率编写软件的方式,让开发人员能够针对特定硬件进行开发。目前,初创公司中硬件和软件工程师的比例达到了惊人的1:9,“软件的地位已经压倒性的提升,而围绕软件构建的复杂性也在持续增长。”

针对这一问题,也为了让开发者有更好的开发环境,Arm一直致力于提供整体的技术栈,从底层的操作系统到顶层的应用程序,再到用户与科技的互动方式,这种一致的计算平台为开发者提供了信心,促使他们能够编写出可在当前数十亿台Arm硬件上良好运行的软件。可以说,软件已经是Arm计算平台不可或缺的一部分,目前相关的开发者也已多达2,000万。

“软件是让Arm计算平树一帜的原因,“Dermot ODriscoll表示。

全新的Arm Kleidi也是正是本届技术大会的亮点之一,Dermot ODriscoll也就此展开了进一步的阐述。他认为实现AI机遇的重点之一是软硬件整合的能力,Arm 正在抽象化许多硬件相关的技术细节,真正实现对开发者友好的设计,让他们能专注于打造优秀的软件与硬件的整合。Arm Kleidi也正是在这样的背景下推出的。

Kleidi软件包含KleidiAI和KleidiCV库,专为优化端侧AI和计算机视觉工作负载设计。通过将Kleidi技术集成到流行的深度学习框架PyTorch和ExecuTorch,为开发者提供了一种新的工具,使得在运用大语言模型时获得显著的推理性能提升。

“通过Kleidi技术的集成,首次在主流PyTorch中实现了实时聊天响应。在基于Arm架构的AWS Graviton处理器上运行Llama 3模型时,词元响应时间提升达2.5倍。“Dermot ODriscoll强调。

生态一直都是Arm在着重强调的议题,在技术议题的身边,生态一直都如影随形,它已经深深地刻在了Arm的基因里。而现在,Arm 正持续推动新一代生态系统的发展。

Dermot ODriscoll指出,自推出Arm全面设计(Arm Total Design,ATD)生态项目一年以来,成员规模已经达到30家,“Arm计算子系统和Arm全面设计正推动软硬件的快速发展,让合作伙伴能够轻松打造更广泛和更高级的解决方案,加速推动芯片和AI领域的创新。”

Arm Total Design生态项目是Arm于2023年10月启动的,旨在通过促进行业合作伙伴之间的合作,加速开发面向人工智能、高性能计算和数据中心应用的定制芯片解决方案。经过一年的发展,Arm Total Design生态系统迅速扩张,现成员已有30家。

由Arm、三星晶圆代工、ADTechnology和Rebellions共同开发的,基于Neoverse CSS V3的AI CPU小芯片平台是其中的典型范例。其专为高性能计算工作负载而设计,提供了业界领先的高性能与卓越的高能效,可将AI工作负载的效率提高2到3倍。

作为计算平台公司,Arm本身也在不断进化和完善。因为要引领一个时代,一个技术革新,领导者自身首先就要有勇于革新和破波斩浪的魄力与胆识。显然Arm已经做到了,系统级思维和战略定力赋予了Arm构建强大的基础计算平台的无与伦比的实力。

正如Dermot ODriscoll所提到的,AI将改变一切。迄今为止,合作伙伴基于Arm架构的芯片出货量已超过3,000亿颗。从大型数据中心中用于训练LLM的海量处理器,到全球用户每天接触的端侧AI设备,Arm平台已成为未来AI运行的基石。

迅雷会员25天/4.5元,独享1天0.7元,请点本站上边链接购买

2024年11月27日 03:29:16

 

随机账号密码机器码:
91IW VM51ic80
46WZ181 DW89
60HA847yfK06kh GQ07tx365Mpb
82ZW796c SY56br58
33HE OE72
56CN114eg QJ04fa598Wod
14ST3 DC40ai749Wald2
73QM739yqJ00u OB45ra330Km
83WJ198tfR03 JQ74w
54VF423dnY55 OO01hu36
89TF114fwO19im ZK33sa
76IM886k OM98de736Ed
42RD629r LH51a

Comments are closed.

会员登录关闭

记住我 忘记密码

注册会员关闭

小提示: 您的密码会通过填写的"电子邮箱"发送给您.