欙鳇茽餐新闻网
雷递网 乐天 4月26日
4月25日,以“模型的世界,运用的世界”为主题的Create 2025 百度AI开发者大会正在湖北武汉召开。会上,百度团体执行副总裁、百度智能云奇迹群总裁沈抖分享了百度智能云正在智能基础设施建设方面的最新成果,并正在算力、模型及运用等方面发布一系列新产品。
百度称,大模型的高效落地亟需从底层算力到运用的全栈、系统级支撑——既需高性能硬件与集群优化,也需灵活的开发工具链与场景化解决计划。基于多年正在大模型研发与产业落地的积累,百度智能云构建了新一代系统级智能基础设施,为企业大模型运用落地供应最好解决计划。
沈抖表示,系统的价值,没有但是解决某一个问题,而是让企业拥有制造“制造的能力”。企业可以结合自己的数据、流程、逻辑,利用百度智能云的系统级能力打造企业专属AI基础设施。
百舸+昆仑芯超节点:推理性能提升13倍、本钱降低95%
展开剩余 85 %算力是AI时代的“新电力”。百度智能云称通过自研昆仑芯P800芯片及百舸大规模推理加速能力,实现算力性能与本钱的双重突破。
本次大会,百度正式点亮了昆仑芯P800的三万卡集群。正在金融行业,招商银行与百度智能云基于昆仑芯P800展开算力合作。目前,除招商银行这类金融机构,昆仑芯P800算力已正在国度电网、我国钢研等央企,同济大学、北京大学等高校及一批互联网企业举行规模化部署。
为了进一步降低算力使用本钱,百度智能云正式发布昆仑芯超节点。
昆仑芯超节点支持把64张昆仑芯AI加速卡放到统一个机柜,实现单节点的超强性能,一个机柜就能顶已往100台机器。
百度称,与以往的计划相比,昆仑芯超节点用更快的机内通讯替代机间通讯,可以无效降低带宽本钱,终究实现卡间互联带宽提升8倍,单机锻炼性能提升10倍,单卡推理性能提升13倍。
仅仅拥有高性能芯片和大规模集群是远远没有敷的,如何稳定、高效地释放算力的真正价值才是枢纽所正在。沈抖以为,将来三年,推理降本,肯定是企业最重要的事情。
百度智能云周全升级百舸推理加速能力。通过大规模分布式推理的PD分散,百舸支持客户根据没有同场景的营业特点,自适应地设置PD配比,并做到token级别的PD负载均衡。针对MOE模型,百舸做到了大规模多机专家并行的极致优化,可以大幅降低MOE模型推理的通讯开消。最后,百舸对核心链路上的每一个细节做了系统级的工程优化,大幅提升GPU的无效利用率。
从百度外部实践来看,百舸推理加速的能力正正在作为千帆的算力底座,为40万客户供应服务。上线以来,千帆的推理吞吐提升20倍,推理速率提升50%以上。
正在外部,百舸没有止支持着像招商银行、我国石化、长安汽车等企业的超大规模算力需求,也很好地支撑着创企客户、伙伴的模型锻炼、推理需求。
为企业运用开发提效 千帆发布智能体Pro及MCP服务
企业部署大模型,没有但必要高性价比的模型服务,更必要周全的模型工具。正在模型服务层面,目前千帆平台上有超过100多个模型,包括文心4.5Turbo、文心X1 Turbo等百度自研模型,还包括DeepSeek、Ilama、Vidu等第三方模型。正在模型开发层面,千帆平台可以供应周全的模型开发工具链,支持深度思考模型、多模态模型的定制、精调。
以模型蒸馏为例,智联招聘正在人岗匹配场景使用了千帆平台的模型蒸馏工具链,用千亿参数的DeepSeek R1作为“教师模型”,用百亿参数的ERNIE Speed作为“先生模型”,经过调优后的小参数模型,没有但可以媲美“教师模型”的效果,本钱也降低至3成。
正在运用开发上,本次大会千帆平台周全升级了企业级Agent开发工具链,发布了全新推理式智能体——智能体Pro,从快问快答升级到深思熟虑,而且支持每个企业定制自己的专属智能体。以污水宝为例,基于千帆Agentic RAG能力,让Agent结合企业自己的私域数据和企业知识库,可以基于对使命的理解去订定检索策略,大幅降低模型幻觉。
同时,智能体Pro也支持Deep Research深度研究模式,能让Agent自主完成复杂使命的步骤规划、信息挑选和清算,支持像人一样操控电脑浏览网页(computer use)举行探索式知识收集,也支持像人一样使用多种工具绘制图标、撰写,天生布局清晰、内容雄厚的专业报告。
基于DeepResearch能力,荣耀正正在利用千帆平台,面向高校先生、职场白领等群体,打造一款科研场景深度研究的运用,将很快会正在荣耀笔记本上上线。
MCP的出现,赞助开发者和企业正在开发Agent时,能够更好地利用行业数据和工具。本次大会,百度智能云正式发布国内首个企业级MCP服务,第一批已经有超过1000个MCP Servers 供企业及开发者灵活选择。另外,开发者也可以正在千帆上开发自己的MCP Server,并发布到MCP广场,支持免费托管,而且百度搜刮也会索引这些MCP Server,让它们被更多的开发者引用。
从模型服务到运用开发,企业客户已经正在千帆平台上做出了许多行业创新。民生银行与百度智能云合作,探索大模型正在贸易银行的落地,完成了金融领域第一个端到端涵盖算力、平台、模型、运用四层架构的项目落地。
自研AI运用升级:实现营销全旅程服务,视觉AI运用本钱大幅下降
百度智能云打造的智能基础设施也支撑着百度自己的运用创新。本次大会,百度智能云面向智能营销、视觉AI两大领域,升级了两大自研AI运用产品。
金融营销场景必要高精准获客、“高情商”客服及高效的流失预警,百度智能云本次升级发布客悦·ONE,正在上述核心场景举行周全优化,为客户供应全生命周期智能营销服务,助力企业实现营销效能周全提升。
以理财撤单场景为例,传统模式下,用户需经历复杂的申明阅读和多层级菜单操作,效率低下。客悦通过AI驱动的智能交互,简化了这一流程。AI没有但能辨认并抚慰用户焦急,更能正在对话中直接指导解决问题,还能主动提炼枢纽信息并回流数据。
客悦已经服务银行、证券、保险等没有同细分领域的金融企业50余家,落地金融行业10余个场景。
为了解决视觉AI模型锻炼周期长、门槛高,必要大量野生干涉干与的问题。百度智能云升级发布一见5.0,称正在标准化高、法则清晰的使命中,仅需一句自然语言,即可秒级天生专业级视觉AI运用,一线营业职员也能轻松上手,借助云边协同,运用本钱大幅降低,加速了视觉智能规模化的落地。
目前,百度智能云从算力、平台到运用的系统级能力,已经正在多个企业场景中稳定运行。我国钢研与百度智能云团结打造全栈智能基础设施,基于昆仑芯和百舸,搭建了专属的智算平台;正在千帆上做模型精调,使用大、小模型结合的方式获得最好效果;结合一见视觉平台,快速完成了外观缺陷检测、金相分析等核心场景的运用开发。
———————————————
雷递由媒体人雷建平开办,若转载请写明泉源。
发布于:北京市