智谱AI：大模型在汽车行业的应用和落地

ChatGPT发布两个月，用户数迅速破亿，大模型开启新纪元。越来越多的企业将在未来3-5年时间里快速上新大模型相关应用。

2024年4月18日，在第二届汽车人工智能大会上，智谱AI COO张帆表示，当前大模型已经实现了从数据、算法、模型到应用的统一，一个框架可以解决所有问题，AI大模型的普及成为业内共识。

大模型在汽车行业将有哪些实践？张帆认为，首先是智能座舱的应用，大模型将助力车企打造更聪明、更舒适、更好用的第三生活空间，实现对复杂车控、车书问答、闲聊陪伴、生活服务、多模态交互等智能化、场景化的应用。其次大模型将赋能汽车各营销模式。包括客户标签提取、销售话术质检、营销话术辅助与陪练等。最后是赋能售后服务，包括智能服务、舆情分析等。

张帆 | 智谱AI COO

以下为演讲内容整理：

大模型开启新纪元

自ChatGPT问世以来的短短两个月内，其全球用户数量突破亿级大关，这一增速在人类历史上各类流行产品中均属罕见。与以往的技术不同，元宇宙、Web3等往往是概念先于实际应用出现，ChatGPT则是一项已落地且先行引领的技术，大多数人并非先了解大模型这一技术概念，而是首先接触到了ChatGPT这款应用，从而深刻感受到大模型技术的实际应用价值。

图源：演讲嘉宾素材

研究报告指出，预计到2026年，将有超过80%的企业采用大模型技术。大模型技术具有其独特性，尽管AI技术已有近百年的发展历程，期间多次引起人们对机器超越人类的猜想，但从未像今日这般，整个社会普遍达成共识，认为AI已成为一项关键能力。

自移动互联网时代伊始，AI技术已逐渐深入人心，但其实际应用并未被用户明确感知。例如，搜索引擎和推荐引擎等应用背后均蕴含了AI技术，但其各项任务是相互独立，诸如分词、词性标注、情感识别等任务均各自为战，拥有独立的逻辑、数据和算法，每个任务都通过独立的模型得以解决。这种AI技术的使用门槛和成本均相对较高，若要使用AI技术，用户往往需要具备深厚的专业背景和技能。因此，以前的AI技术应用主要局限于大型互联网公司。

2013左右，情况发生了变化，主要得益于神经网络的成熟。尽管其他技术依然保持着各自的独立性，但神经网络的出现将算法进行了统一。这一变革极大地降低了AI技术的应用门槛，使得用户不再需要花费大量时间选择算法，而是只需将标注好的数据输入神经网络，它便能自主学习。

如今的大模型又实现了新的突破，将数据、算法、模型和应用等各个环节全面统一，通过单一框架解决了众多问题。这一变革带来的直接结果是AI能力显著增强，使用成本降低了两个数量级。

成本的大幅下降意味着AI已逐渐转变为一种基础生产要素，成为每个人都可以轻松应用的技术。它不再局限于少数高端领域，而是成为了一种普惠性技术。当基础生产要素发生如此深刻的变化时，基于这些要素的上层建筑也会随之调整。

体验、成本、商业模式以及协作方式等都有可能因大模型技术的引入而发生深刻变化。以识别发票为例，过去使用AI进行此类识别任务时，需要标注大量数据供模型训练，成本高昂。一旦数据格式发生变化，原有模型便需重新训练，造成资源浪费。然而，人类的识别能力并不依赖于大量样本的学习，而是能够迅速理解并适应新的情况。大模型技术在这方面表现出了类似人类的智能，即便没有见过大量样本，也能够根据少量案例快速理解并完成任务。大模型技术的显著特点是，它仅需通过单个示例即可进行推理与解答。

AI大模型矩阵助力企业创新

我们于2021年发布了百亿模型，2022年进一步推出了千亿模型，当时ChatGPT尚未问世。去年开始，我们的技术发展更为迅猛，已构建起从基础文本模型、代码模型、多模态模型到超拟人对话模型的完整矩阵。

图源：演讲嘉宾素材

这一完整的矩阵体系为企业提供了灵活的应用选择。不同规模的模型可根据实际场景需求进行搭配使用，以解决不同的问题。大型模型虽然功能强大，但成本较高、运算速度较慢；而小型模型虽然功能相对有限，但运算速度快、成本低。因此，企业可根据具体需求进行多样化的组合选择。

今年1月，我们发布了GLM-4。根据我们内部的评测，GLM-4的整体性能已接近GPT-4的90%。在过去三个月里，GLM-4的日均消耗量增长了一百倍，在许多场景中，用户已经能够用GLM-4替代GPT-4，达到相近的效果。

此外，我们基于效果、成本和可用性的综合考虑，将模型的上下文长度设定为128K。相较于OpenAI的128K，我们的设定能够处理更长的文本内容，大约为20万字。在Agent能力方面，包括代码增强、网络检索、文生图等功能，我们完全对标OpenAI。

基于对视觉和语言信息之间融合的理解，我们提出了一种新的视觉语言基础模型 GLM-4V。GLM-4V 可以在不牺牲任何NLP任务性能的情况下，实现视觉语言特征的深度融合。我们的模型并非仅仅停留在简单的看图说话的层面，而是具备了更深层次的推理逻辑能力。它不仅能够理解图片的表面信息，更能够通过对细节的捕捉和分析，推断出图片背后的结构和信息。这种能力在以往的人工智能技术中是难以实现的。

大模型在商业和应用领域的作用在于极大地提升了人机交互的带宽。以前我们所能输入的命令数量极为有限，沟通的信息量也因此受到了严重限制。进入PC时代后，鼠标界面的出现使得可触控的元素增多，交互性和信息量也随之提升。

当自然语言成为人机交互的主要方式时，其带来的变革将是颠覆性的。一句包含十个字的句子，其可能的组合数量便已达到天文数字，这使得人机交互的带宽得到了质的飞跃。未来，多模态交互将成为AI技术发展的重要方向。用户可以将图片、视频等多种模态的信息输入给模型，从而进一步提升交互的带宽和效率。

大模型在汽车行业的实践

关于汽车领域应该如何使用大模型，我们有一些自己的思考。我们认为模型的解决是基础生产要素的变革，它并非单一地解决某一问题，而是作为一种体系化的新能力，能够对我们原有的各项工作产生影响，实现提升。在全链路中，其能够发挥许多作用。

首先，智能驾舱无疑是大模型应用的重要领域之一。去年十月，我们成功将模型应用在智己LS6车型上，并在成都车展上展示了云端对话功能。我们基于自己的理解，挑选了一些适合大模型应用的场景。大模型作为新技术，并非万能解决方案，但它具备一些独特优势。例如，在传统车控领域，简单的车控功能可以通过传统的NP技术有效实现。然而，对于涉及强上下文、复杂且有条件的车控任务，传统方法往往难以胜任，而大模型则为我们提供了一个全新的切入点。此外还能提供车书问答、闲聊陪伴、生活服务等功能。

我们在设计车内的整体方案时，需要一系列模型作为底层支撑。我建议在实施模型落地时，要进行全面的考量与计算，要算大账。

首先，关于模型的持续迭代升级问题，若模型更新无法保障，我们的业务基础将建立在不确定的因素之上，这将会是一个令人十分困扰的问题。因此，模型的持续迭代升级是确保业务稳定发展的关键。

第二，从成本效益的角度考虑，闭源模型与商用模型相比开源模型而言效率优势显著。以当前商用版本的推理成本为例，其速度相较于开源世界中的最佳框架要快三倍以上。这意味着原本需要部署一百台机器才能满足的服务需求，现在仅需三十台机器即可实现，从而大幅降低了成本。

第三，我们拥有一系列先进的技术，能够使得千亿级模型在消费级显卡上运行。这一特点进一步降低了模型的获取成本。同时，我们也在积极适配各种硬件平台，如高通的8295等，以确保模型在各类设备上的顺利运行。

在市场营销领域，我们涵盖了从获客、营销到具体应用场景的多个环节。不仅局限于汽车行业，我们在其他多个场景中也有着明确的销售体系应用。

大模型与以往AI技术有极大不同。比如当客户对机器说出“好吧，都听你的吧”这样的句子时，我们尝试通过NLP技术来分析其情绪，却发现无解。当我们将这个问题交给大模型时，它能够理解并识别出这句话虽然表示了认同，但同时也蕴含着妥协的意味，说明认可并非完全。

这种细腻的情感分析能力是传统的NLP方法所无法比拟的。传统的NLP方法往往需要依赖大量的词表、序列标注以及不断的词表更新和挖掘等工作，而大模型则凭借其强大的泛化和通用能力，能够直接且更准确地解决这类问题。

标签提取、销售话术质检、营销话术辅助与陪练等我们都有所实践。用户可以通过对话轻松解决关于车辆型号、地点以及购车关注点等问题。

大模型的售后服务与以往的不同之处在于，以前的机器人客服是一问一答，即用户提出问题，系统根据预设的问题和答案进行匹配，然后返回相应的答案。这种模式的核心逻辑在于通过找到与用户问题最相近的预设问题，来提供相应的答案。然而，这种基于问答对的客服系统存在天然的缺陷。由于问答对的数量是有限的，当系统召回率设置得较高时，它可能会将与用户问题略有相似的问答对误匹配并返回，导致回答与用户的实际需求不符。

如果智能客服系统的召回设过低，就会导致很多问题无法得到有效的回答，这是一个难以解决的悖论。传统的解决方案是通过扩写QA来尽量覆盖更多的问题，例如将原有的五千条QA扩展至五万条，甚至十万条。然而，这种做法也带来了一系列问题。

随着QA数量的增加，知识管理的难度急剧上升。例如，当某个车型的保养里程从一万公里变更为八千公里时，这个信息可能在多达2200个对话QA中出现。然而，要准确地找到并更新这2200个对话QA是很困难的，这使得知识的维护和管理变得异常困难。

如今，大模型的应用已经突破了传统问答系统的局限。用户可以将任意长度的文本输入给大模型，无论其上下文多么复杂或意图多么隐晦，大模型都能够有效处理。甚至对于一些在原始问答对中未曾出现过的计算问题，大模型也能凭借其强大的计算能力，为用户提供准确的答案。

舆情分析方面，传统的分析方法往往难以应对复杂、隐晦的文本内容。在大模型的帮助下，舆情分析变得更为细腻和精准，能够捕捉到许多隐含的信息和细微的情感变化。这种能力使得舆情分析更加全面和深入，为决策提供更为准确的依据。

（以上内容来自智谱AI COO张帆于2024年4月17日-18日在第二届汽车人工智能大会发表的《大模型在汽车行业的应用和落地》主题演讲。）