12月20日，2023百度云智年夜会·智算年夜会在北京举行，年夜会以「年夜模子重构云计较，Cloud for AI」为主题，深度聚焦年夜模子激发的云计较变化。

百度智能云暗示，为知足年夜模子落地需求，正在基在「云智一体」计谋重构云计较办事，今朝已完成从底层根本举措措施—年夜模子开辟与利用—AI原生利用开辟的端到端进级重构：周全进级百舸等20多个云计较根本举措措施、千帆年夜模子平台再进级、AI原生利用开辟工作台“千帆AppBuilder ”周全开放。

智算年夜会现场，百度智能云还发布了最新“成就单”。自8月31日文心年夜模子向全社会周全开放以来，在千帆年夜模子平台上，年夜模子API日挪用量增加10倍。今朝千帆平台已累计办事跨越4万家企业用户，累计帮忙企业用户精调近1万个年夜模子。相较在自建系统练习年夜模子，利用千帆平台练习的本钱最高能够降落90%。  

年夜模子正在重构云计较

“AI原生时期开启，年夜模子正在驱动云计较财产立异变化。”百度团体副总裁侯震宇暗示：“年夜模子重构云计较首要表现在三个层面：AI原生云将改变云计较的款式，模子即办事（MaaS ）会成为新的根本办事，AI原生利用催生新的研发范式 。”

起首，在云根本举措措施层，挪动互联网时期的利用，底层年夜多依靠CPU算力，而AI利用对GPU或异构计较的需求年夜幅增添，云市场的底层算力需求将逐步转向以GPU为主。

其次，在模子层，年夜模子正在成为通用的办事能力，即MaaS。MaaS将年夜幅下降Al落地的门坎，实现真实的Al普惠。

最初，在利用层，利用开辟的范式已被完全倾覆。年夜模子理解、生成、逻辑、回忆的怪异能力会催生A原生利用研发新范式，全部利用手艺栈、数据流和营业流都将被改变。

侯震宇暗示，整体来讲，建立繁华的A原生利用生态，需要年夜模子、智能算力、AI原生利用研发新范式三要素相辅相成。年夜模子是AI原生利用的“年夜脑”，智能计较则为A原生利用运转供给坚实支持，新研发范式助力开辟者高效基在年夜模子能力开辟利用。数据飞轮是成功的AI原生利用的充实需要前提，让年夜模子能力高速迭代，产物体验延续前进。

云计较周全进级： 五年夜范畴20余款全栈产物集中发布   AI原生时期，面向年夜模子的云计较根本举措措施系统将周全重构。侯震宇暗示，百度智能云将在三风雅面重构云计较办事，即：面向模子的智算根本举措措施、面向数据的数据根本举措措施、面向利用的云根本举措措施，以支持AI原生利用落地。

年夜会现场，百度智能云稠密发布和进级了20多款云计较产物，涵盖智能计较、通用计较、数据库和年夜数据、散布式云、利用开辟平台五年夜范畴。

在智能计较范畴，算力是年夜模子落地的根本前提，当前年夜模子练习、推理、摆设对高速互联、计较效力、算力本钱等都提出了高要求，需要制造新型的智算根本举措措施。但今朝的计较集群还面对很多挑战，年夜模子练习时候长、易犯错、不变性差，算力集群范围年夜、系统复杂度高也增添了运维难度。

全新发布的百度百舸·AI异构计较平台3.0，针对AI原生利用和年夜模子的练习、推理等环节进行了专项优化。百舸3.0在不变、高效、易运维三个方面年夜幅进级产物能力，实现万卡级别使命有用练习时长到达98%以上，带宽有用性可达 95%。比拟自建智算根本举措措施，能够实现模子训、推吞吐别离最高晋升30%和60% 。

  百度百舸3.0发布

针对AI原生时期智能算力的供给均衡问题，百度智能云发布智算收集平台。在算力资本层面，智算收集平台撑持将百度和第三方扶植的智算中间、超算中间、边沿节点等智算节点进行全域接入，将分离和异构的算力资本毗连起来，构成同一的算力收集资本池，再经由过程百度自立研发的算力调剂算法，智能阐发各类算力资本的状况、机能和操纵率等目标，同一调剂算力，让智算资本矫捷、不变、高效地交付给有需求的用户，实现智算资本的“南水北调”。   在通用计较范畴，计较、存储、收集等云原生根本举措措施也需要面向AI原生时期重构进级，供给更具弹性、高机能和智能化的运维能力。

本次年夜会，百度太行·计较新增了三款计较实例：全新推出第7代（通用计较型）云办事器实例G7，分析机能较上一代产物晋升10%；发布昆仑芯弹性裸金失实例NKL5，搭载了百度自研的昆仑芯R300加快处置器，在年夜模子推理场景分析机能较业界支流加快卡可晋升达50%；发布基在昇腾910B加快处置器制造的弹性高机能计较实例NH6T，在年夜模子练习场景中，分析机能较业界支流加快卡晋升可达40%。

同时，高机能计较平台CHPC（Cloud HPC）正式发布，为用户供给的一站式公共云 HPC 办事。在资本利用层面，CHPC撑持用户一键建立高机能计较情况，并按照营业转变矫捷利用云上资本；在营业利用层面，CHPC撑持集成药物研发、基因测序等行业的利用。另外，连系集成在 VPC 内的百度网盘等办事，用户能够轻松实现HPC源文件从提交、上传、处置、成果回传，到分发的数据全链路买通，助力研发提效。

在散布式云方面，百度智能云带来三年夜进级：边沿计较节点BEC产物能力进级，制造全球同一的边沿计较收集和产物体验，制造AI原生利用时期能力最完美的“云边一体”；专有云ABC Stack新能力发布，撑持当地摆设百度智能云千帆年夜模子平台；当地计较集群LCC新能力发布，撑持全新一代CPU/GPU实例和完全的百度智能云AI&HPC集群治理能力，进一步丰硕完美根本举措措施与云产物撑持能力矩阵。

年夜模子落地不但需要算力撑持，还需要对各类数据和海量的常识进行存储、治理和阐发工作。百度智能云在云存储、云原生数据库、年夜数据平台等数据根本举措措施范畴发布了一系列重磅新品。

百度沧海·存储，同一手艺底座正式发布，可以或许撑持各类存储产物，同时知足AI原生时期的年夜规�����APP模、高机能、低本钱的存储要求。全新进级的对象存储BOS、云磁盘CDS、并行文件存储PFS等产物，面向数据湖存储和AI存储能力进行了周全加强，加快智能计较，释放数据价值。

云原生数据库GaiaDB 4.0版本正式发布，加强并行查询能力，冲破单机计较瓶颈，实现跨机多核并行查询，在夹杂负载和及时阐发营业场景中机能晋升跨越10倍；针对分歧的工作负载推出列存索引和列存引擎，晋升分歧范围数据的查询速度，此中列存引擎最年夜可撑持 PB 级数据的复杂阐发，而且与事务处置营业严酷复杂隔离；经由过程共鸣和谈优化、链路优化、自顺应动态回放存储多版本等一些列数据流深度优化，年夜幅晋升GaiaDB全体机能60%以上。

年夜会时代，杭州吉祥易云科技无限公司总司理制品耀，分享了吉祥团体联袂百度智能云的制造团体专有云，制造数字基建底座。今朝吉祥团体已实现车联网、出产制造营业上云，且正在基在这套高效、不变的根本举措措施平台建立企业级AI年夜模子能力，全方位赋能团体营业。

模子即办事（MaaS）： 千帆年夜模子平台再进级   在AI原生时期，年夜模子将作为新的通用办事能力，由模子即办事（MaaS）平台供给给泛博用户。百度智能云千帆年夜模子平台（以下简称“千帆平台”）作为业界领先的MaaS办事平台，预置了包罗百度文心年夜模子在内的、国内最多的54个支流根本年夜模子和行业年夜模子，还为年夜模子的延续预练习、精调、评估、紧缩和摆设等环节供给最完美易用的东西链，帮忙客户针对本身营业场景快速定制专属年夜模子。相较在自建系统练习年夜模子，利用千帆平台练习的本钱最高能够降落90%。

  百度智能云千帆年夜模子平台

今朝，千帆平台已累计办事跨越40000家企业用户，精调近10000个年夜模子。本次智算年夜会，针对客户利用年夜模子最关怀的“提效”和“降本”两年夜焦点诉求，千帆平台发布一系列全新功能。   在数据方面，千帆平台供给完美、高效的年夜模子数据治理东西链，包罗数据收集，清洗、主动标注、主动加强与推理数据多位评估等功能，助力用户快速建立本身营业“数据飞轮”，实现反馈驱动增加。全新发布的数据统计阐发、数据质量查抄等功能，撑持用户获得全方位的数据洞察消息，连系数据清洗可视化Pipeline，可以或许建立出头具名向年夜模子场景的高质量数据燃料，为年夜模子练习“保驾护航”，千帆也是以成为国内首个撑持年夜模子多方位数据阐发的MaaS办事平台。

作为模子摆设上线前的“最初一千米”，模子评估可以或许对年夜模子的输出结果、计较机能等进行全方位评估，确保年夜模子上线后AI原生利用的结果不变靠得住。千帆平台立异性地引入主动化与人工连系的两重评估机制，充实阐扬两边劣势，年夜幅晋升模子评估效力与质量。一方面，百度文心年夜模子作为AI评判员，可以或许对被评估模子的回覆进行主动化打分，极年夜水平地削减海量反复性人工功课；另外一方面，由数据标注员/营业专家对年夜模子回覆进行打分，则可以或许实现对年夜模子回覆质量的邃密化权衡。

另外，千帆平台矫捷的计价体例，如Tokens（合用矫捷性要求较高的营业）、TPM（Tokens per Minute，合用在较年夜并发量营业）、批量计较（合用在离线内容出产等对及时性要求较低，吞吐较年夜的使命）、算力单位（合用在需要专享硬件摆设模子的客户）等，能够轻松知足客户的多种营业场景需要，助力企业低本钱用好年夜模子。

赋能AI原生利用开辟： 千帆AppBuilder正式开放办事   为了知足企业灵敏、高效地进行AI原生利用开辟的需求，下降AI原生利用开辟门坎，百度智能云千帆AppBuilder正式开放办事。   AppBuilder将年夜模子开辟AI原生利用的常见模式、东西、流程，沉淀成一个工作台，帮忙开辟者聚焦营业自己，而无需为开辟进程牵扯过剩精神。具体来说，AppBuilder首要由组件、框架两层办事组成。

「组件」办事由多模态的AI能力组件（如文字辨认、文生图等）、基在年夜说话模子的能力组件（如长文总结、nl2sql等）、根本组件（如向量数据库、对象存储等）三部门构成，是对底层办事能力的组件化封装，让每一个组件完成一个特定的功能。

「框架」则是经由过程将上述这些组件有选择地串连、组合起来，让它们可以或许比力完全地完成一个特定场景的使命。今朝，AppBuilder供给的检索加强生成（RAG）、智能体（Agent）、智能数据阐发（GBI）就是经常使用的AI原生利用框架。

百度智能云千帆AppBuilder   AppBuilder供给两种产物形态，代码态与低代码态。对有深度AI原生利用开辟需求的用户，AppBuilder代码态供给包罗SDK、开辟情况、调试东西、利用示例代码等各类开辟套件和利用组件；而AppBuilder低码态则供给可视化东西，用户只需简单点选，便可快速定制、上线AI原生利用。  

百度开创人、董事长兼首席履行官李彦宏认为，繁华的AI原生利用生态，会驱动经济增加。本年10月，百度智能云推出了国内首个年夜模子全链路生态撑持系统，为合作火伴供给包罗赋能培训、AI原生利用孵化、发卖商机、市场营销等全方位的撑持，努力在繁华AI原生利用生态。

侯震宇预判，2024年将成为AI原生利用的元年，迎来AI原生利用的迸发式增加。百度智能云将延续推出有合作力的产物方案，与火伴一路深耕客户利用场景，让更多的AI原生利用立异出现。

审核编纂：黄飞