时间：2023年6月19日 14：30-17：20 【主要内容】 1、腾讯云与智慧产业事业群CEO汤道生——模型扎根行业，共建智能生态 目前大部分互联网用户对大模型还只是处于有所听闻的状态。目前市面上通用的大模型确实在聊天领域有惊艳的表 现；同时许多企业管理者也在思考如何将大模型应用到自己的场景中，例如在客户和营销环节，为企业经营带来降本 增效。但在具体场景中，通用大模型可能还不能满足企业的许多需求。借今天的机会，我想和大家分享一下，并从模 型、数据、应用和算力四个角度来探讨。 模型： 虽然大家对通用大语言模型的聊天机器人期待很高，但他并不是唯一的大模型服务方式，也不一定是满足行业场景需 求的最优解。网络信息可能会存在错误、谣言与偏见，且许多专业知识和行业数据积累不足，导致模型的行业针对性 与精准度不够；但在很多场景中，用户对于企业所提供的专业服务的要求很高，容错很低，企业一旦提供错误信息可 能会引发巨大危机，因此企业所使用的大模型必须可控可追溯可修正，并且经过反复测试才能上线。企业所需要的大 模型是在实际的场景中真正解决了某个问题，而不是在100个场景中解决了80%的问题。此外，通用大模型训练成本 高，实际上大部分企业的业务场景并不需要通用AI进行满足。 因此，今天我们正式公布腾讯云MaaS服务解决方案。基于TI平台，我们打造了行业精选模型商店，覆盖金融、文 旅、生物、传媒、教育等十大行业提供超过50个解决方案。在这些模型的基础上，客户只需要加入自己独有的场景数 据，就可以快速生成自己的专属模型。 比如我们和国内头部的在线旅游公司打造基于文旅行业的大模型，用以构造智能机器人客服，其可自动判断用户意图 并调用相应的API进行服务。 数据： 数据是大模型的原材料，针对具体的场景，相关数据的覆盖与质量至关重要。标注数据的管理也是模型迭代中至关重 要的一环。为此，我们也推出了基于腾讯云TI平台行业大模型精调解决方案，帮助模型开发者与算法工程师一站式解 决数据处理问题；我们也可以通过TI平台以及模型私有化的部署、权限管控、数据加密等方式，让企业用户打造大模 型、使用大模型时更加放心。 最近我们与C CTV打造了央视人工智能开放平台，期间也面临数据相关的各种复杂问题；为此我们重新构建了一套传 媒专属的数据标签体系，同时也研发了创新的标签权重引擎，使得视频，使得视频编辑可以利用自然语言进行跨模态 检索。 应用： 腾讯自身的企业级应用已经率先应用了行业大模型，例如腾讯会议即将推出覆盖会议全流程的智能小助手，通过简单 的指令协助用户进行日程安排等一系列操作，会后还可以智能总结会议纪要。【中金互联网】腾讯行业大模型及智能应用技术峰会会议纪要新一代腾讯企点智能客服基于行业模型，结合客户业务需求进行训练与精调，客服机器人可以提供更精准和更详细的 回答，甚至调用业务系统数据进行实时分析，而不需要业务人员去学习复杂软件、制作看板 借助腾讯新一代AI代码助手，程序员也可以快速完成代码的补充纠错与解释，稍后会更加详细地介绍。 算力： 高性能的算力需要借助非常专业的云服务，且对网络速度和稳定性要求比较高。加之GPU服务器比一般服务器的稳定 性低一些，服务器的运维问题也会更频繁；例如在训练集群中，一旦网络有波动，训练的时间就会大大增加，大模型 的开发成本也会变高；腾讯云所提供的稳定计算高速网络与专业的运维，可以为算法工程师大大减少设备运维的压 力；腾讯也打造了面向模型训练的新一代HC C（high per formance computing clust er）高性能计算集群，搭载最 新四代的GPU，整体性能相比过去提升三倍，获得很多客户的高度认可，并与多家大模型独角兽展开合作。 软实力方面，腾讯云推出了向量数据库，能够更高效地处理图像、音频还有文本等非结构化的数据，支持单索引引入 10亿级规模数据，相比传统方案提升10倍；数据接入AI的效率也比传统方案提升了10倍。 2、腾讯云智能负责人 吴运声——腾讯云MaaS：打造一站式大模型精选商店 我们希望为客户和伙伴打造一站式大模型精选商店。在大模型“智能涌现”的背景下，产业场景已经成为最佳练兵 场。 当前企业构建大模型面临的四大挑战： 第一、计算资源少：对计算资源和存储资源有高需求，对很多客户来说门槛高，难以支持大模型的训练和推理 第二、数据质量差：需要大量高质量数据进行、训练和优化，经常会因为数据各类问题，导致大模型训练的效果和效 率无法得到保障 第三、投入成本高：为确保业务使用的效果和可持续性，需要投入成倍量级的数据、计算资源、专业技术和时间来训 练、调试、优化并部署实施 第四、专业经验少：开发和落地对技术人才储备及技术能力要求高，相关资源的缺失影响大模型在产业的快速落地和 持续优化 为此，我们通过腾讯云TI平台向客户输出了全面的MaaS能力，可以满足客户模型预训练、模型精调和智能应用开发 等多种需求。 腾讯TI平台行业大模型精调解决方案具备完整的精调工具链，支持客户加入自身业务场景的特有数据，定制专属模 型。 现场演示： Q：“端午节三天我不出江浙沪，有什么行程可以推荐？” A： Q：我和孩子都是历史人文爱好者，我们端午想去上海周边，预算在五千以内，最好每天去两个不同的景点玩 模型给出了三天的行程规划，但整体比较粗。我们加入一些行业的场景数据，运行同样的问题： 加入场景数据后，回复细致了很多 我们的大模型精调解决方案还支持API接口，接下来我们展示接通了文旅客户API后的回答：可以看到接入API后的回答非常的细致 Q：请帮我推荐一些苏州的酒店 A： 模型不仅给出了详细的介绍，还直接给出酒店的预订链接；实现智能客服的系统实现从服务到商业化的闭环。 腾讯云TI平台行业大模型精调解决方案具有四大优势： 1、高质量的行业大模型：基于腾讯云多年深耕经验打造；使客户只需要较少的训练数据就可以实现较好的精调效 果。 2、完善的平台工具：（1）TI-ONE平台提高了完善的全套工具链；（2）基础设施方面：新一代HC C高性能计算集 群+向量数据库+太极Angel；（3）针对成本高、落地难问题，在少量算力的基础上提升特定任务的效果，针对行业 场景实现低成本落地 3、成熟的流程方案： 提供全生命周期一体化的完整方法论 4、全面的配套服务：提供本地化的落地指导和陪跑服务，提供私有云部署、公有云托管等多种灵活的部署方案。 HCC：后文介绍 太极Angel：在传统CV、NLP模型的基础上，我们新增了对大模型训练和推理的加速能力——太极Angel，相较行业 常用方案性能提升30%。 向量数据库：后文介绍 成熟的流程方案： 提供全生命周期一体化的完整方法论，保障客户需求的顺利交付 在配套的服务方面，腾讯云提供本地化的落地指导和陪跑服务，提供私有云部署、公有云托管等多种灵活的部署方 案。为客户扫清落地困难。 腾讯对问题在三个层面进行敏感信息的过滤和规避，确保答案符合安全合规要求。 行业大模型和AI助手的结合可以快速提升对话理解和智能问题能力。例如，车载语音助手在学习汽车场景数据后可以 提供更加人性化的场景服务，做主动的触达。 在文旅领域我们联合一家线上O TA公司探索大模型的应用；其传统智能客服需要人工进行配置维护，工作量非常大； 跟我们合作后，其可以在不需要配置对话流程的情况下实现端到端解决客户问题，提高任务完成率，降低成本