baidu沈抖:企业运用大模子跑不出这五种需要

 人参与 | 时间:2024-11-15 12:41:48

封面往事记者 付文超

10月17日,抖企baidu天下2023在北京首钢园召开。业运用baidu智能云在大会时期宣告:周全降级“云智一体”策略 ,模跑面向客户落地大模子的不出五类需要提供全栈效率妄想;面向AI原生运用开拓,重磅宣告“千帆AI原生运用开拓使命台” ,种需减速企业AI原生运用落地 。抖企

baidu总体实施副总裁、业运用baidu智能云事业群总裁沈抖展现,模跑家养智能与云合计的不出深度散漫是企业快捷落地AI原生运用的关键 ,这也是种需baidu智能云不断倡讲以及践行的“云智一体”理念 。当初,抖企baidu总体所有运用以及效率全副基于“云智一体”技术架构运行在baidu智能云上 。业运用此外,模跑面向客户落地大模子的不出五类需要 ,baidu智能云基于千帆大模子平台打造的种需“大模子超级工场”分说给出了效率妄想。

首先,针对于惟独算力需要的客户 ,千帆平台可能提供极致高效以及性价比的异构算力效率 。在客户最体贴的大模子磨炼关键 ,经由火布式并行磨炼策略以及微秒级互联能耐,千帆平台可能实现万卡规模集群磨炼的减速比抵达95%;经由事条件防 、事中实时发现 、定位、处置,最大限度防止集群因倾向等原因发生的实用运行  ,后退实用磨炼光阴占比,万卡集群实用磨炼光阴占比抵达96% ,短缺释放集群实用算力 ,大幅飞腾客户算力与光阴老本。

其次,在模子层面 ,对于愿望直接调用已经有大模子的客户 ,千帆平台纳管了42个国内外主流大模子 ,企业客户可能快捷调用搜罗文心大模子在内的种种大模子的API ,取患上大模子能耐。对于第三方大模子 ,千帆平台还针对于性地妨碍了中文增强 、功能增强、高下文增强等优化。当初千帆平台已经效率了逾越17000个客户 ,大模子API调用量不断高速俯冲 。

第三,对于愿望基于现有大模子妨碍二次开拓的客户,千帆平台为大模子的再磨炼、微调 、评估以及部署等关键提供全性命周期工具链 、业界至多的41个高品质行业数据集 ,辅助客户针对于自己营业场景快捷优化模子下场。当初,搜罗中国邮政蕴藏银行 、度小满、金山办公、河北高速总体在内的诸多行业头部客户,都正在经由千帆平台提供的工具链效率开拓出贴配合业需要的专属大模子 。

第四 ,在运用层面,一部份企业需要基于大模子效率去开拓AI原生运用,千帆平台上提供的一系列能耐组件与框架,可能辅助企业快捷实现运用开拓 ,锐敏地响运用户与市场需要。

最后,另一部份客户则愿望直接、利便地选购成熟的AI原生运用产物,赋能营业睁开。

顶: 8897踩: 97