Arm将Kleidi扩展到汽车市场，加速提升AI应用的性能

Arm控股有限公司宣布将Armreg; Kleidi技术扩展到汽车市场。Arm Kleidi是一项广泛的软件及软件社区参与计划，旨在加速人工智能(AI)的发展。通过Arm Kleidi，合作伙伴将能够充分挖掘下一代特定应用AI模型在汽车中的优势，并加快其部署速度。

Arm汽车事业部产品和解决方案副总裁Suraj Gajendra表示:在汽车行业中，AI通常被称为自动驾驶汽车的核心mdash;mdash;听起来颇具未来感，距离其大规模量产上路还有数年时间。然而，实际的情况是，当下新车型中的很多应用和功能，从自适应巡航控制、个性化车载信息娱乐系统到驾驶员和乘客监控系统，都已经在使用AI技术，并且这些特定应用的模型和工作负载已在Arm平台上高效运行。这归功于Arm计算平台卓越的灵活性、性能、能效和可扩展性，使其成为整个汽车行业中开发者的首选平台。

然而，随着这些汽车应用与功能日益精进，对更多的AI功能与日益复杂的工作负载的需求不断提高，汽车行业正面临着一系列独特的挑战，包括:

middot;相较于其他行业，汽车行业拥有庞大而复杂的软件系统，使得开发环境极为复杂。

middot;需要一个强大的从云端到车端的软件开发和验证基础设施，以便将云端开发的应用无缝部署到汽车中。

middot;软件必须符合严格的汽车功能安全和信息安全方面的行业标准和法规。

middot;汽车的使用周期较长，这意味着软件必须具备升级能力，以适应未来不断新增的功能和更新。

Arm通过领先的汽车增强型技术和在汽车生态系统中的合作，应对这些独特的挑战。这些合作涵盖了虚拟平台和基于标准的软件解决方案，通过面向嵌入式边缘侧的可扩展开放架构(SOAFEE)来加速汽车开发周期。所有这些解决方案都为开发人员提供了工具，使他们能够通过应用广泛的Arm计算平台无缝获取更高的性能，并加快其产品的上市时间。

利用Arm Kleidi实现性能自动优化

Arm Kleidi于2024年推出，旨在为Arm CPU上运行的AI推理工作负载提供软件性能优化，开发者无需进行任何额外的工作，目前该软件库已应用于移动端、云和数据中心等关键领域，包括Kleidi已被集成到ExecuTorch、Llama.cpp、MediaPipe和PyTorch等热门AI框架的最新版本中，开发者只需开始构建应用程序，即可在基于Arm架构的平台上自动获取性能的显著提升。

Kleidi的性能优化特性已引入汽车市场，领先的科技公司已经在他们的汽车软件中体验到了一系列新应用的性能提升。从车载聊天机器人、个性化驾驶员建议，到图像和运动增强以辅助用户、诊断和解决问题，Kleidi库与关键的开发者框架的集成正在加速AI应用的开发，为用户提供更快、更高效的车载体验。

middot;AWS Automotive将车载聊天机器人的响应速度提高了10倍

利用Arm与Corellium联合开发的虚拟平台，亚马逊云科技为软件定义汽车(SDV)打造了一款全新的概念验证(proof-of-concept) AI聊天机器人，允许驾驶员直接与汽车进行互动，提出问题或询问仪表盘警报，而无需翻阅汽车用户手册。借助集成了KleidiAI的最新版Llama.cpp开发聊天机器人，AWS实现了其聊天机器人性能的显著提升，响应时间缩短至一到三秒，性能提升达10倍。由于开发者无需在底层软件优化花费心力，KleidiAI为聊天机器人的开发节省了六周时间。

middot;VicOne加快了对汽车网络安全威胁的应对速度

VicOne面向SDV的xCarbon车载解决方案能使车辆学习和识别网络安全威胁，减少对云端技术的依赖，进而降低成本并更好地保护数据安全。借助TinyLlama-1 1B模型，VicOne解决方案的性能实现了显著提升，预填充提示速度翻倍，词元生成速度提升了60%以上，从而缩短了车辆检测网络安全威胁的响应时间。Kleidi实现的性能优化使VicOne能够在无需额外开发工作的情况下，为用户带来更安全、更可靠的驾驶体验。

middot;Sonatus专为OEM打造的AI Technician Builder平台，能够无缝运行于基于Arm架构的AWS Graviton CPU

Sonatus的AI Technician Builder是一个从云到边缘侧的平台，可帮助OEM厂商创建客户服务代理，以迅速响应用户对汽车的问询，进而改善驾驶体验。该平台最初运行于云端环境的GPU，而通过引入Kleidi优化框架，它现可轻松移植到搭载Arm架构的AWS Graviton EC2云实例上运行。这不仅确保了用户所需的性价比和响应时间，还为在基于Arm架构的汽车计算平台上运行边缘AI工作负载铺平道路。

在Arm平台上推动汽车及其他领域的AI创新

如今，全球94%的车厂都在其最新车型中使用了Arm技术。Arm计算平台在汽车领域的广泛应用，表明其在推动关键车载AI应用实现显著性能优化方面具备得天独厚的优势，AWS、VicOne和Sonatus的成功实践便是很好的例证。将Kleidi集成到现有的软件堆栈中，推动了更高效、更先进的AI应用场景的实现，并为那些分秒必争的关键汽车应用提供了更快的响应速递。这赋予了开发者超能力，使他们能够在Arm CPU上优化并运行新的特定应用的AI模型和工作负载，