摘要: 就如同水,电,燃气,公路和桥梁一样,日益兴起的人工智能(AI)正逐渐成为人类社会中不可缺少的基本元素。仔细观察一下就会发现,人工智能已经以迅雷之势渗透进了我们的生产与生活的方方面面,从数据中心到智能手机,从云端到边缘设备,从制造业到金融业,从智慧城市到自动驾驶...
就如同水,电,燃气,公路和桥梁一样,日益兴起的人工智能(AI)正逐渐成为人类社会中不可缺少的基本元素。仔细观察一下就会发现,人工智能已经以迅雷之势渗透进了我们的生产与生活的方方面面,从数据中心到智能手机,从云端到边缘设备,从制造业到金融业,从智慧城市到自动驾驶,从社会结构到经济发展,人工智能为各行各业带来了颠覆式的变革。
而引领和带动这场人工智能变革的,正是Arm这样的走在行业前沿,为广泛的人工智能构建起强大的数字基础设施的企业。Arm以标准化的处理器架构设计和授权IP模式引领了智能手机和嵌入式设备的巨大变革,在移动处理器领域几乎一统天下,开启了全新的移动时代。而现在,Arm正在通过软硬件深度融合和架构创新,开启和引领另一个伟大的时代,人工智能时代。
Arm基础设施事业部产品解决方案副总裁 Dermot ODriscoll表示,在人工智能浪潮到来之前,Arm就洞察到了其蕴藏的广阔机遇及对算力带来的巨大挑战,几年前就推出了全面面向AI工作负载设计的Armv9架构,在之后的发展过程中,Arm也在不断地进行自我进化和自我跃迁,Arm的角色和定位,也已不再局限于架构设计,而是更多地转型为全面的计算平台公司,通过全面的计算子系统(CSS)、从云到端的软件开发赋能、紧密合作的生态系统三大核心,担负起人工智能基础设施的重任,助力企业更好更高效地利用AI。
在近日召开的Arm Tech Symposia 2024年度技术大会上,Dermot ODriscoll强调,和以往专注于特定应用市场的主题不同,本届技术大会将重点聚焦到了AI如何为各个应用市场带来全面变革的议题上,全面性和系统性俨然成为了核心主题。
全面性和系统性的内涵,是指将零散的单一的产品,以软硬件结合的系统级思维,整合为成体系的具有强大合力的综合平台。目前,Arm的计算平台重点涵盖了终端、基础设施、汽车以及物联网的四大领域,分别满足不同的市场需求。
Dermot ODriscoll表示,Arm计算平台的核心特性,是具备卓越的可扩展性、高性能和高能效,“正是这些特性不断推动着行业变革,也将在 AI 时代继续引领潮流。”而软硬件的结合,尤其是软件在这其中所起到的关键作用,正变得日益显著,这也是Dermot ODriscoll在本届技术大会上着重强调的内容。
以Arm终端计算子系统为例,其将Armv9.2 CPU、Arm Immortalis GPU以及Arm Kleidi软件深度融合在一起,可帮助软件开发者无缝取得Arm CPU上的最佳性能。再比如Arm Neoverse计算子系统。它是在Neoverse IP的核心基础之上,融入了更完整的包括IP集成、整合、验证等在内的系统设计模块,从而把繁琐的流程和开发步骤都给精简掉了。
这些都契合了Arm软硬件协同优化的产品设计策略。正如Dermot ODriscoll所言:“硬件若无软件支持就毫无意义。”他表示,要利用好AI,就需要能够高效率编写软件的方式,让开发人员能够针对特定硬件进行开发。目前,初创公司中硬件和软件工程师的比例达到了惊人的1:9,“软件的地位已经压倒性的提升,而围绕软件构建的复杂性也在持续增长。”
针对这一问题,也为了让开发者有更好的开发环境,Arm一直致力于提供整体的技术栈,从底层的操作系统到顶层的应用程序,再到用户与科技的互动方式,这种一致的计算平台为开发者提供了信心,促使他们能够编写出可在当前数十亿台Arm硬件上良好运行的软件。可以说,软件已经是Arm计算平台不可或缺的一部分,目前相关的开发者也已多达2,000万。
“软件是让Arm计算平树一帜的原因,“Dermot ODriscoll表示。
全新的Arm Kleidi也是正是本届技术大会的亮点之一,Dermot ODriscoll也就此展开了进一步的阐述。他认为实现AI机遇的重点之一是软硬件整合的能力,Arm 正在抽象化许多硬件相关的技术细节,真正实现对开发者友好的设计,让他们能专注于打造优秀的软件与硬件的整合。Arm Kleidi也正是在这样的背景下推出的。
Kleidi软件包含KleidiAI和KleidiCV库,专为优化端侧AI和计算机视觉工作负载设计。通过将Kleidi技术集成到流行的深度学习框架PyTorch和ExecuTorch,为开发者提供了一种新的工具,使得在运用大语言模型时获得显著的推理性能提升。
“通过Kleidi技术的集成,首次在主流PyTorch中实现了实时聊天响应。在基于Arm架构的AWS Graviton处理器上运行Llama 3模型时,词元响应时间提升达2.5倍。“Dermot ODriscoll强调。
生态一直都是Arm在着重强调的议题,在技术议题的身边,生态一直都如影随形,它已经深深地刻在了Arm的基因里。而现在,Arm 正持续推动新一代生态系统的发展。
Dermot ODriscoll指出,自推出Arm全面设计(Arm Total Design,ATD)生态项目一年以来,成员规模已经达到30家,“Arm计算子系统和Arm全面设计正推动软硬件的快速发展,让合作伙伴能够轻松打造更广泛和更高级的解决方案,加速推动芯片和AI领域的创新。”
Arm Total Design生态项目是Arm于2023年10月启动的,旨在通过促进行业合作伙伴之间的合作,加速开发面向人工智能、高性能计算和数据中心应用的定制芯片解决方案。经过一年的发展,Arm Total Design生态系统迅速扩张,现成员已有30家。
由Arm、三星晶圆代工、ADTechnology和Rebellions共同开发的,基于Neoverse CSS V3的AI CPU小芯片平台是其中的典型范例。其专为高性能计算工作负载而设计,提供了业界领先的高性能与卓越的高能效,可将AI工作负载的效率提高2到3倍。
作为计算平台公司,Arm本身也在不断进化和完善。因为要引领一个时代,一个技术革新,领导者自身首先就要有勇于革新和破波斩浪的魄力与胆识。显然Arm已经做到了,系统级思维和战略定力赋予了Arm构建强大的基础计算平台的无与伦比的实力。
正如Dermot ODriscoll所提到的,AI将改变一切。迄今为止,合作伙伴基于Arm架构的芯片出货量已超过3,000亿颗。从大型数据中心中用于训练LLM的海量处理器,到全球用户每天接触的端侧AI设备,Arm平台已成为未来AI运行的基石。
迅雷会员25天/4.5元,独享1天0.7元,请点本站上边链接购买
2024年11月27日 03:29:16
随机账号密码机器码:
91IW VM51ic80
46WZ181 DW89
60HA847yfK06kh GQ07tx365Mpb
82ZW796c SY56br58
33HE OE72
56CN114eg QJ04fa598Wod
14ST3 DC40ai749Wald2
73QM739yqJ00u OB45ra330Km
83WJ198tfR03 JQ74w
54VF423dnY55 OO01hu36
89TF114fwO19im ZK33sa
76IM886k OM98de736Ed
42RD629r LH51a
会员登录关闭
注册会员关闭