百度智能云千帆大模型平台率先适配Falcon-180B!

2023-09-11 10:26:47     来源:

日前, Falcon-180B作为参数最大的开源大模型,正式发布并支持免费商用,引发业界广泛关注。百度智能云千帆大模型平台第一时间适配了Falcon-180B,并提供模型微调、部署、应用开发的全流程工具链和开发环境,方便企业和开发者率先体验。

据了解,Falcon-180B在推理、编码、熟练度和知识测试各种任务中表现出超强性能,一经发布便登顶 Hugging Face 排行榜。为方便开发者应用最新的大模型能力,百度智能云千帆平台第一时间适配了Falcon-180B,开发者、企业现在即可在平台的“模型仓库”中申请体验,开发者还可自行将模型导入平台,从而使用平台的全部功能。

(开发者可自行导入Hugging Face Transformer格式的任意模型)

据了解,为满足开发者和企业多样化的模型需求,百度智能云千帆平台此前就已经接入了 Falcon-7b和Falcon-40b-instruct。截至目前,平台已纳管了包含 Falcon、Llama 2全系列、RWKV、Stability Diffusion在内的42个国内外主流大模型,稳居国内模型数量第一。

百度智能云方面表示,百度智能云千帆平台不只是简单的接入,还对第三方模型进行二次的性能增强、安全增强、中文增强和上下文增强。比如,在性能增强方面,训练Llama2的总体吞吐可以提升25%,推理性能甚至可以提升2倍。

在企业客户最关注的安全方面,百度智能云千帆平台提供模型安全、内容安全和数据安全多重保障。包括设计专用隔离域,保护模型资产安全;预置安全模块,有效控制输入输出的内容风险;提供从模型、数据到日志的全链路加密,保障数据安全。三管齐下,让模型厂商和客户均能享有平台的安全保障。

对于大多数企业来说,模型的开发部署仍存在较高门槛。为帮助企业用好大模型,百度智能云千帆的工具链贯穿大模型完整的生命周期。基于一站式的可视化工具,客户验证模型效果的时间大幅缩短,一天就可以跑通一个模型并看到效果。

在数据方面,为解决企业模型训练数据质量要求高、成本高的问题,百度智能云千帆平台还预置了41个高质量有行业特色的数据集,开发者点几个按钮就可以完成微调、提高模型效果,进一步降低企业使用、训练和推理大模型的门槛。

在算力方面,百度智能云千帆平台在万卡集群训练大模型时,模型有效训练时间达到95%以上。万卡规模集群中的加速比可以达到 95%,充分释放集群的整体算,大幅降低客户的算力成本和时间成本。值得一提的是,平台还兼容国内外主流芯片和操作系统,客户的算法可以最小的修改成本运行。

(百度智能云千帆大模型平台 产品全景图)

在刚刚结束的2023百度云智大会上,百度智能云千帆大模型平台实现了2.0全面升级。截至目前,平台月活企业数已近万家,覆盖金融、制造、能源、政务、交通等行业的400多个场景。

百度集团执行副总裁、百度智能云事业群总裁沈抖表示“任何新技术的真正落地,都需要相应的方法论和工具的支撑。”,“我们用了半年时间,不断沉淀经验、积累工具,对百度智能云千帆平台做了大量升级,让大模型平台更好用、更贴心。”

 

标签:

猜你喜欢

4e的崛起之道 助力用户获得更多收益
一汽解放8月重卡销量1.4万辆,上半年业绩表现亮眼
金枫酒业立足产品创新研发,推进多元化渠道布局
Shopee 9.9超级购物节开场,首2小时跨境单量劲增12倍
数智赋能 生态共建 中国投促会数字服务应用专委会发布SaaS综合服务平台
所托“安行”公益邀您“益”起做好事
定西宽粉横空出世 定西市建投组织“定西宽粉队” 完美亮相贵州“村超”赛场
喜礼领导品牌徐福记,一站式满足不同需求
荣登国际顶刊|迪哲医药全球首款T细胞淋巴瘤JAK1抑制剂戈利昔替尼研究成果刊于《肿瘤学年鉴》,影响因子高达51.8
爱尔康亮相第27届全国眼科学术大会,携创新成果助力提升眼健康行业整体水平
抖音电商全球购盛典 LaPulovce单品销量超过50万
将企业责任与非遗文化传承深度融合,雄正酒博会获各界领导点赞!
锂电隔膜龙头星源材质全球首发第五代超级湿法线
国贸地产首份ESG报告出炉 重塑企业价值
奋进行业新征程,严肃营养引领未来——2023自然阳光播商论坛盛大召开
步长制药集团董事长赵涛先生出席华夏谷全球论坛并做主题演讲
百利好环球:亚锦赛巅峰对决,国乒斩获混双、男双、女单冠军!
首日抖音潮童秀高梵KIDS压轴 田亮携小模特演绎亲子秀
第十六届全国现代物流科技创新大会在济南市成功召开
深化皖疆合作 皖能股份公司推动“能源丝路”建设 ——安徽省属控股企业首个“外电入皖”项目正式投入商业运营
第五届"丝路海运"国际合作论坛 共商行业趋势与挑战
群邑与四川省酒类流通协会达成战略合作并联合发布白皮书
爱尔眼科角膜塑形镜验配超百万!
三正医疗集团发起的首届“塔能杯”银发经济大健康产业大会在重庆隆重举行
山东莱阳市(莱阳梨等)通过 “中国生态食材之都” 生态产品区域公用品牌评定
香雪制药:携手京东健康开展“香雪橘红,为爱发声”,守护教师咽喉健康
Cleer电商总监“不务正业”,演唱会现场只顾追星
所托“安行”公益邀您“益”起做好事
发起“共建现代化产业体系”倡议,南湖青年金融论坛成功举办
雄正集团再度受邀亮相酒博会名酒馆,演绎“酱香酒本来的味道”