12月20日,在北大光华管理学院与腾讯联合举办的“AI驱动汽车新智能”出行产业沙龙上,腾讯智慧出行副总裁钟学丹发表演讲,分享了“大模型+汽车”的创新应用方向以及腾讯相关领域的实践和探索。
钟学丹认为,从汽车研发到生产、制造,再到营销和服务的各个阶段,都能与AI技术有广泛的结合,大模型与汽车行业的结合可能作为支撑整个行业的基础设施,通过与现有的基础架构深度融合,从而催化对整个产业和行业的深层次变革。
大模型的应用为汽车“新智能”带来四大核心特征。第一,它重新定义了新的人机交互方式,从指令式向主动式服务;第二,高阶智能驾驶加速落地,端到端的智能驾驶成共识;第三,舱驾一体,释放智能驾驶系统的算力将进一步赋能座舱体验;第四,开放和连接,能与智能设备协同互动,实现全场景互联。同时,大模型在汽车研发设计、营销客服等各个环节具备场景应用价值。
钟学丹认为,大模型的落地主要有模型、数据和算力三个方面的挑战。模型挑战在于,不能简单的用通用大模型支撑汽车行业的应用,通用大模型在准确率等方面还达不到行业的要求。数据挑战主要是安全合规性方面。算力挑战在于,GPU供应紧张,算力需求大,而训练大模型对算力的要求极高。同时,如何挖掘更多的应用场景,还有对于模型的评估,也是比较大的挑战。
钟学丹介绍,腾讯目前在混元通用大模型、一站式模型服务MaaS平台(模型即服务)、云端算力底座、汽车行业专业知识沉淀等多方面,帮助汽车行业构建垂类大模型,并持续挖掘汽车行业创新应用场景和评估标准建设。
以下为演讲全文:
各位,大家好!非常有幸能在这样一个平台上跟大家进行交流,今天我们要讨论的是两个非常热的话题,一是AI大模型,这是目前在技术和技术底座上非常火热的一个领域;二是汽车,这是近两年非常火的行业。
汽车行业一直在电动化、智能化领域持续不断的发力,新能源车的电动化渗透率已经超过了35%,据说11月份的数据已经超过了40%,这是一个变革非常快的时代。今年整个汽车行业更热的是汽车智能化下半场的话题,汽车行业革命的上半场有非常好的成绩和增长,行业普遍认为在汽车行业革命的下半场里,一个很关键的维度在于智能化。在整个智能化过程中能否更好地取得领先和优势,对于整个行业以及对于整个企业来讲至关重要。今天希望跟大家一起分享和探讨AI大模型和汽车在新智能上面,我们通过AI以及大模型,如何更好的让企业涌现出更多新的智能。
大模型+汽车,我们会看到哪些新的机会以及这次新的智能可以为我们今后的出行以及汽车带来哪些变化?
首先汽车新智能涉及的面很广,汽车的智能化很早就开始了,腾讯从2017年就进入到汽车行业做汽车的智能化,当时我们看到的是汽车开始联网,通过联网、通过智能的系统给用户提供更多全新的智能服务和能力。今天我们说的汽车新智能具有四大核心特征:第一,它重新定义了新的人机交互方式,以及我们今天看到的可能在明年或者未来的一段时间越来越多的涌现端到端的智能驾驶,第二,是舱驾一体,AI应用到我们的座舱领域,可以让我们在驾驶的过程中获得更好的体验,以及让我们更好的感知外部的环境,同时,它一定是开放和连接的平台,能更好地接入更多的服务以及更多体验的内容。
在大模型变革的时候,座舱会发生怎样的变革?大家一开始会理解大模型就是语音,其实语音只是其中的一个部分,今天结合大模型,在语音上我们会看到它有很多新的变化,我们会从这种规则模式转变成更自然的交互方式,从单一的任务方式逐步转变成基于多任务的应用场景,从现有的单一语音交互向多模态的交互方式去进行转变。同时再结合输出的方式,之前我们在座舱里面输出更多是内容消费和服务的方式,结合大模型,我们会在内容的生产、跨平台分享等层面提供新的功能。
另外,在汽车行业里边变化比较大的是自动驾驶技术的迭代,一方面对于自动驾驶研发来讲,其实我们面临着很大挑战的是基础数据和数据标注的能力。大模型的技术,可以在海量数据的自动标注以及数据的训练多模态能力上有很大的帮助。同时大家也看到,从现在比较火热的BEV+Transformer,自动驾驶的感知决策的一体化,对我们真正去实现在自动驾驶场景下,也起到了很大的帮助。这些都让我们看到了今天在往更高阶的自动驾驶的道路上有更好的实现方式,以及更快的变成现实。除此之外,除了大家可能看到的车端的能力以外,其实云端也是今天促进这次变革的很关键的因素,在云端,要进行这样一种能力的进化和提升,AI训练的要求非常高,是否有这么高算力的集群能力,去支撑这样的计算,也是很大的基础。今天大家也会听到无图化,它也不完全是无图,它更多会结合整车的感知能力,如何做云端的实时建图,这对我们在自动驾驶环境里更好的保护用户与提供更好的外部环境的感知和校验,也会起到很大的帮助。仿真也是一个很重要的维度,使得我们在这样的过程中不断进化我们的体验。
除了刚才提到的这两个大家感知会比较强烈的领域以外,其实大模型和汽车行业的结合有非常广泛的应用环境和空间。我们可以看到从汽车研发到生产、制造、到营销、到服务,这些领域都会用到这样的技术和底座,所以我们认为大模型和汽车行业的结合,可能不只是简单的在某一个领域的应用,它可能会作为我们的一个基础设施,跟我们的基础架构去做融合,从而带来对整个产业和行业的变革。比如说我们在设计研发领域,代码助手的能力可以帮助我们更好的完成编码的编制、测试和质量的提升。同时我们通过一些提示和训练的方式,也可以帮我们在研发、创意和设计上带来很多新的发现,这些可能是超出我们专业人员的一些能力。在营销方面,我们现在看到的数字化营销的内容都是通过AI大模型的基础去做AIGC产出的内容方式,同时我们可以更好的理解用户,为用户去创造它独特的一些内容场景。比如说我们在卖车的过程中,每个用户对车的需求和想法都会不一样,我们如何为他创造独特的内容,让他在内容的核心表述上更好地集中他的需求,这对于我们汽车的售卖会有很大的帮助。
我觉得在这些领域都会看到更多的一些应用场景涌现出来,这也是希望今天跟大家探讨的很重要的一点,我们会认为它会无所不在,它也可以应用到我们很多具体的场景当中去。
我们今天说到的新的机遇,虽然是一个很热的话题,但真正落地遇到的问题和挑战很多,主要原因是大模型的落地没那么简单,它背后还有很多需要去进化和改进的点,同时它基础的进入门槛要求较高,这对我们在进入的时候会带来很大的挑战。
从大模型的角度,我们会认为主要会有三大挑战:一是模型的挑战,二是数据的挑战,三是算力的挑战。
模型的挑战在于它不能简单的用通用大模型就可以支撑我们行业的应用,因为它在很多问题的解决上,准确率还达不到我们行业的要求,会对整个模型带来的一些影响。如何针对行业去构建行业的模型,以及针对行业的特性去设计我们相应的一些算法,这些都是我们要去考虑的。
数据的挑战包括数据的合规性和安全。出行领域的这些数据都会有国家的法规和各种要求,以及我们在车内用户隐私的保护,都会是我们在做大模型过程中要去面对的挑战。
最后是算力,最近GPU很难买到,算力本身很紧张,算力的需求又很大,而训练大模型对算力的要求会非常高,很多企业和行业都面临着比较大的挑战。
除了技术和这个领域以外,我认为大模型的应用场景很多,但真正落地,如何做出好的体验,抓住好的应用场景?在汽车行业我们看到的相对较少,今天更多在互联网,特别是在一些内容、生产力方面的工具和产出会比较多,但真正在汽车行业,除了在座舱和自动驾驶这两个领域看到一些应用,其他相对会较少。如何去挖掘更多的应用场景,也是我们面临的比较大的挑战。
以及对于模型的评估。模型是完全确定性的,它会有很多点,不一定那么完善。所以如何建立行业模型的评估,我们知道在通用大模型上会有一些能力评估,今天我们看到大家都在不断地迭代。
接下来讲讲腾讯如何助力新智能的发展。首先腾讯提供了一个混元通用大模型,针对行业来讲,大家可以基于一些通用大模型的基础上去构建自己的行业大模型,像刚才提到算力的瓶颈、数据的一些瓶颈,对于单独的一个垂类行业应用通用大模型都会遇到一些挑战,对于大家来讲,可能会是更好的一种解决方案。
腾讯的混元大模型,首先是有超千亿参数的规模,同时混元大模型预训练的语料也超过了2万亿Tokens,中文的创作能力和复杂的语境推理能力,在现有的环境中它在行业里处于非常领先的情况。同时它也具备一些核心的能力,比如多轮对话、知识增强以及逻辑推理和在内容创作方面。它也在不断进化,今天我们腾讯云也有超过300个应用已经接入了混元大模型,基于混元大模型的能力,在很多应用场景下,像广告、营销、游戏和一些社交场景都会用到这样的能力去帮我们做,包括大家经常用到的腾讯会议也提供基于混元之后的会议摘要、总结以及相关的会议助手的能力,都是基于混元的能力构建的。
当有一个通用的大模型之后,对于汽车行业来讲,如何加速落地?上面提到大模型会跟基础设施融合,如何构建它基础的架构,是从零去做,还是说我们可以有一些成熟的能力,所以腾讯开放了MaaS平台,从基础设施到模型混元基础大模型的底座以及行业大模型的底座,为大家提供了更便捷的基础能力。在此基础之上,我们也提供了一些相应平台的工具,我们知道需要做很多工作,基于这些工具,我们可以更好地管理数据,帮助我们可视化的训练我们的模型。除此之外,在上面还有很多应用场景和能力。
刚才提到这个底座,我们一方面在大规模集群的训练上,提供了HCC高性能训练集群的能力,它现在提供了业界最大的3.2TB带宽的能力,同时它训练的效率比原有的平台提升了3倍。在面向大模型特殊的数据场景,我们也提供了向量数据库,帮助我们在数据访问效率上带来10倍的提升。除此之外,上层也有各种加速的工具,可以帮助我们更好的加速我们的训练。
除了这些通用的基础、基础设施和能力以外,因为腾讯跟汽车行业有深度的合作,所以腾讯针对汽车行业的特点,在汽车专有的数据知识库的构建上也做了很多努力,去针对行业的基础数据、知识和相关的去做沉淀。
除了这些以外,今天我也反复提到腾讯如何真正的在这个领域里服务到汽车行业内,腾讯提供了相应的能力,比如代码助手,协助程序员纪念性代码训练和处理,,在生产智能上,腾讯也提供一些相应的产品和平台。在营销方面,像智能文案、销售助手方面,也会帮助大家更好地提升营销的一些效率,以及在服务方面,腾讯面向智能客服等等,我觉得都会帮助行业快速地应用,以及通过应用这些场景之后,能帮助车企更好地提升车企的效率和改变车企服务的质量,为用户创造更多的价值。
最后,我想说的是与汽车行业的伙伴们一起共建大模型的应用,共探新的场景,以及抓住新的机遇。
谢谢大家!