Cerence AI推出基于LLM的混合平台xUI 助力全面提升车载体验

盖世汽车讯 3月13日，人工智能（AI）公司赛轮思（Cerence AI）宣布推出代理式AI助手平台Cerence xUI™，可在边缘和云端运行，以推进下一代LLM赋能的车载用户体验。

图片来源：赛轮思

凭借其在AI创新和汽车UX独特要求的深厚专业知识，Cerence AI已与全球汽车制造商签署了多项战略性长期合作协议以及概念验证计划，以部署Cerence xUI作为其未来车内体验的基础。

随着技术的快速进步和LLM赋能下助手平台的用户参与度日益增长，汽车制造商急需研究如何快速且经济高效地将扩展的AI功能引入汽车。Cerence xUI可满足上述需求，提供汽车专用的语音助手平台。该平台可充分利用与英伟达和微软合作开发和优化的CaLLM™系列云和嵌入式LLM和SLM、第三方LLM、实时数据源，以及来自汽车的上下文数据，以创建一个引人入胜的对话界面，可以完成多项任务、回答问题和娱乐用户。该平台还提供增强的个性化，记住个人偏好并根据用户模式和上下文信息定制其响应和主动建议。

Cerence xUI的混合架构既可以在云端运行，也可以在车载上运行，适用于不同的行业解决方案，并首先在英伟达DRIVE AGX Orin上进行优化。这使汽车制造商能够以最适合自己的方式部署该平台：作为现有嵌入式信息娱乐系统的云端附加组件；作为现有混合系统的补充；或作为完全集成的云端和嵌入式系统的基础。这使得OEM可以轻松利用Cerence AI在汽车系统集成和AI赋能用户体验方面的独特专业知识，轻松为现有和未来的车辆提供升级的、由LLM赋能的功能，具体包括：

• 对话线程：简化、连贯的交互，可以跨越复杂的多步骤查询，既可以在单个应用程序内，也可以在不同的云和嵌入式应用程序中使用，所有这些都使用自然的对话语言

• 针对车载环境定制对话式用户体验：无缝、直观、引人入胜的交互体验——简洁且适合车内使用，通过专有的并行多用户交互技术最大限度地减少驾驶员和乘客的认知负荷

• 一般和特定领域的知识：跨旅游、音乐、体育和新闻等各个领域的综合知识，利用内容提供商合作伙伴和实时数据源，使OEM能够向用户提供静态和动态信息流

作为Cerence xUI的基础，CaLLM系列语言模型基于开源基础模型，并根据Cerence AI的汽车数据集进行了微调。利用英伟达AI Enterprise（一种针对推理性能进行了优化的端到端云原生软件平台，包括NVIDIA TensorRT-LLM和NVIDIA NeMo™），Cerence AI优化了CaLLM，使其作为中央代理协调器，促进将边缘和云集成在一起的丰富驾驶体验。此外，CaLLM Edge提供一系列模型，包括Meta的Llama系列和微软的Phi系列，这些模型根据Cerence AI广泛的汽车数据集进行了微调，以提供针对汽车用例的专用AI。因此，CaLLM系列语言模型旨在通过智能护栏提供高级性能、降低延迟、增强隐私和安全性以及针对恶意或不必要的交互的强大保护，同时为汽车制造商提高成本效益。

Cerence AI首席执行官Brian Krzanich表示：“汽车制造商和交通运输OEM正在迅速将AI和LLM引入其汽车，并将Cerence AI作为值得信赖的SOC中立合作伙伴，助力开发和部署让驾驶员满意的代理式对话式用户体验。Cerence xUI将生成式AI的强大功能与我们数据集的智能和精细度相结合，使OEM能够通过智能、集成的云嵌入式方法快速流畅地创建代理式车载用户体验。这意味着他们不仅可以将新的和先进的功能部署到新车上，还可以部署到已经上路的汽车上——即使在购买车辆后也能为驾驶员带来附加价值。”