|
在常规的认知中，AI大模型在云端的部署和训练几乎是合情合理的，毕竟云端有着无可比拟的强大算力。
在Arm 高级副总裁兼终端事业部总经理 Chris Bergey看来，一些大型的模型训练会在云端进行，出于功率、隐私保护和延迟等多方面的考量，更多的 AI
应用和训练都将在数据存在之处进行，也就是传感器获取数据的地方。
这实际也催生了一个新的趋势，那就是类似手机、VR、AR等边缘端的设备，于本地化运行大模型将成为可能。之所以说它会成为可能甚至是趋势，是因为目前边缘端的算力水平，已经达到了一个相当高的标准。
不久前Arm刚刚发布的Arm 2023全面计算解决方案（TCS23），其所带来的Armv9 Cortex CPU计算集群和全新的第五代 GPU
架构，都再次突破了移动算力的上限。关键是，它们的能效还降低了。
能效与AIoT
说到能效和低功耗，这也是Arm发展的根基。Arm的每一代产品，都必然伴随着出色的能效比。
就此，Chris Bergey表示：“Arm从一开始就聚焦于高能效的计算。不仅是电池供电设备和解决方案，还包括数据中心基础设施。”
他接着说到：“迄今为止，我们的合作伙伴已经交付了超过 2500 亿颗基于 Arm 架构的芯片。随着 AI 计算的日益发展，这样的趋势还会不断加速。”
生态建设提速
作为当今全球应用最广泛的移动计算平台基础架构，Arm一直都十分注重与合作伙伴的生态建设。
迄今为止，Arm打造软件生态系统已拥有 1500 万名开发者。这一生态系统为更广泛的社区提供平台，可以通过基于Arm 的硬件一起打造 AI 解决方案。
Arm与中国的生态系统也一直保持紧密的合作。在人才培养、开源社区、全球技术的本地化、赋能本地创新能力等方面都有深入合作。以人才培养为例，“我们开展了许多人才联合培养的项目。比如
2023 年的 AICAS 挑战赛，开源之夏，百度飞桨黑客松等。”
结语
目前，基于Arm架构运行的AI应用正不断推陈出新，从智能手机（Google Pixel 7的实时字幕、虚拟助手）到家用自动化设备，再到集成 AI
功能的冰箱，再到智慧城市的交通管理，创新源源不断。
Chris Bergey强调：“从云到边缘，所有领域对智能计算的需求都在呈指数级增长，而 AI的普及应用，也将为此大大提速。当今，很多 AI
的应用已经运行在 Arm 架构，而未来也将如是发展。 ” | 