腾讯云披露行业大模型研发最新进展

【TechWeb】6月19日消息，今日，腾讯云首次披露行业大模型研发最新进展，依托腾讯云TI平台打造行业大模型精选商店，为客户提供MaaS（Model-as-a-Service）一站式服务，助力客户构建专属大模型及智能应用。

据悉，当前，通用大语言模型在应对产业场景落地时存在一定的局限性。首先，通用大模型的训练数据主要来自公开数据集或网络数据，对于特定行业的专业领域知识了解有限。此外，通用大语言模型的训练需要大量计算资源和漫长的训练周期，这对企业来说可能昂贵且耗时。同时，安全和合规也是必要考量因素。

基于客户实际痛点和需求，腾讯云全新公布MaaS全景图，依托腾讯云TI平台打造行业大模型精选商店，为企业客户提供涵盖模型预训练、模型精调、智能应用开发等一站式行业大模型解决方案。

算力方面，今年4月，腾讯云发布了专为大模型训练设计的新一代HCC高性能计算集群，采用最新一代的腾讯云星星海自研服务器，具备业界最高的3.2Tbps互联带宽，算力性能提升了3倍。

此外，腾讯云即将推出向量数据库（Tencent Cloud VectorDB），源自腾讯集团每日处理千亿次检索的向量引擎（OLAMA），单索引支持10亿级向量规模，更适用于AI运算、检索，数据接入AI的效率也比传统方案提升10倍。

平台层面，腾讯云TI平台内置多个高质量行业大模型，涵盖金融、传媒、文旅、政务、工业等多个行业场景，企业可以结合自身场景数据可按需定制精调，也可以根据自身需求开展多模型训练任务，大幅降低大模型应用门槛。

TI平台提供完善的大模型工具链，包括数据标注、训练、评估、测试和部署等全套工具。同时，由TI-ACC升级的”太极Angel"提供更优的训练和推理加速能力。在传统CV、NLP算法模型的基础上，新增了对大模型的训练和推理加速能力，通过异步调度优化、显存优化、计算优化等方式，相比行业常用方案性能提升30%+。

此外，TI平台沉淀了从“业务分析、数据处理、大模型选择”到“模型评测”的一体化完整方法论，同时支持MLOps的体系及工具，保障客户需求的顺利交付。

在配套服务和安全保障方面，腾讯云提供本地化的训练、落地及陪跑优化服务，为客户扫清落地障碍；依托二十余年的安全经验和风控能力，提供AIGC全链路内容合规解决方案；针对客户对数据安全需求，提供私有化部署等多种灵活交付方案，加速企业快速创建和部署AI应用。

据介绍，腾讯云行业大模型能力已经在腾讯企点、腾讯会议、腾讯云AI代码助手等多款头部SaaS产品中率先应用。其中，腾讯企点基于大模型能力研发探索全新一代智能客服和企点分析AI助手，旨在全面提升企业的客服和数据分析能力。

腾讯会议宣布即将推出覆盖会议全流程场景的AI小助手，只需通过简单自然的会议指令，基于对会议内容的理解，就可以完成信息提取、内容分析、会管会控等多种复杂任务。会后可以自动生成智能总结摘要，还能基于智能录制的能力，帮助用户高效回顾，提升用户开会和信息流转效率。目前，智能录制已面向会员、商业版和企业版用户全量开放，其他更多能力将陆续上线。

腾讯云将推出新一代AI代码助手，用AI加持来重塑开发体验和团队能力，让开发者通过全新的人机协作，达到高效创作。AI代码助手支持多种编程语言和主流开发框架、以及常用开发环境；覆盖开发关键流程，包括沟通、编码、排错、评审和调优，高效承接机械性工作，释放开发者时间和精力来专注代码创作，实现开发全面加速。同时也可以基于正负反馈，不断训练调优代码生成过程，实现工具持续改进。

腾讯云方面披露，基于腾讯HCC高性能计算集群和大模型能力，腾讯云已经为传媒、文旅、政务、金融等10余个行业提供了超过50个大模型行业解决方案。