百度工程师首次现场演示:“文心千帆”如何可视化微调大模型 企业该如何选择大模型?除了算力还要看三个指标
2023-05-10 11:37:28来源:时代在线
5月9日,百度智能云在北京举行文心大模型技术交流会,向在场的百家企业展示文心大模型在产品技术、场景研发、生态建设等领域的最新进展。
大模型引发的AI再造产业趋势已经势不可挡。但当下企业最大的难题是,如何高效、低成本得获取大模型能力,如何挑选到最合适的大模型服务。
【资料图】
百度智能云方面表示,正在内测的“文心千帆大模型平台”,是全球首个一站式的企业级大模型生产平台,不但提供包括文心一言在内的大模型服务及第三方大模型服务,还提供大模型开发和应用的整套工具链。
未来,文心千帆将提供两种服务:第一,文心一言是目前中国市场最领先的大模型,未来,文心千帆将以文心一言为核心,提供大模型服务,帮助客户改造产品和生产流程。第二,作为一个大模型生产平台,企业可以在文心千帆上基于任何开源或闭源的大模型,开发自己的专属大模型。
百度集团副总裁侯震宇表示,大模型时代下,企业的创新要脱颖而出,不但需要智能的算力、灵活的框架平台、丰富的大模型体系以及优质的应用方案,还需要这四者之间端到端的适配与优化,这是一个“既要、又要、还要”的端到端创新工程。
(百度集团副总裁侯震宇)现场,百度智能云与联想集团、用友、宝兰德等14家文心千帆生态伙伴举行签约仪式。
用友网络副总裁、用友研究院院长吕建伟表示,中国企业关注大模型的落地能力,一个简单的智能问答背后有着非常复杂的加工过程。我们期望和百度智能云一起,把微调、性能调优等工具简化,推动大模型应用。
北京宝兰德软件董事长易存道表示,如何把大模型在垂直行业做好,是目前各个企业都要考虑的问题,多数企业无法像百度一样有能力建设大模型。怎么能够把百度的大模型能力和企业业务有效结合起来,创造更强的价值,是企业非常好的弯道超车机会。
(百度智能云与14家文心千帆生态伙伴举行签约仪式)国内第一个!百度工程师现场演示大模型微调全过程
事实上,目前企业应用大模型面临诸多难点:模型体积大,训练难度高;算力规模大,性能要求高;数据规模大,数据质量参差不齐。大模型产业化需要云计算厂商将模型开发、训练、调优、运营等复杂过程封装起来,通过低门槛、高效率的企业级服务平台深入产业,为千行百业提供服务。
侯震宇表示,文心千帆大模型平台是全球首个一站式的企业级大模型平台。之所以称为全球首个一站式平台,是因为它不但提供包括文心一言在内的大模型服务,还提供大模型开发和应用的整套工具链。此外,该平台还支持各类第三方大模型,未来将成为大模型生产和分发的集散地。
目前,文心千帆大模型平台提供公有云服务、私有化部署两大交付模式。
在公有云服务方面,将提供:推理(直接调用大模型的推理能力)、微调(通过高质量精标业务数据,高效训练出特定行业的大模型)、托管(将模型发布在百度智能云,以实现更加稳定高效的运行)三种服务,大幅降低企业部署大模型的门槛。
百度智能云AI与大数据平台总经理忻舟在现场演示了如何微调大模型,这也是国内首次演示如何微调行业专属大模型的全过程。文心千帆大模型平台提供了可视化开发工具链,提供了数据生成、标注、回流的数据闭环管理功能。客户以少量数据即可发起模型微调,最快几分钟就可获得自己的专属大模型。
在私有化部署方面,文心千帆大模型平台支持软件授权(提供在企业环境中运行的大模型服务)、软硬一体(提供整套大模型服务及对应的硬件基础设施),租赁服务(提供机器和平台的租赁满足客户低频需求)三种方式。私有化部属能够满足对数据监管有严格要求的企业客户需求。
忻舟总结,文心千帆大模型平台有六大特点:更易用,开箱即用,节约客户机会成本;更全面,提供覆盖全生命周期的工具链;更高效,可以端到端的全流程优化;更安全;更开放;更集成,更多插件拓展模型能力边界。
(百度智能云AI与大数据平台总经理忻舟:文心千帆大模型平台有六大特点)“快且收敛,是大模型应用训练中一个非常重要的指标。”忻舟说,“只快不收敛,大模型的训练是没有用的。文心千帆在多机多卡训练性能方面,可以更快达到收敛的状态,在全球权威AI基准评测MLPerf榜单中排名世界第一。”
已有300余家生态伙伴参与文心一言内测
据了解,百度内部产品正在基于文心一言升级。
比如,在百度员工内部的智能工作平台“如流”上,很多程序员会就一些产品或技术难题询问产品经理、研发同事,数量多,频次高。过去获得一个答案平均时间约5分钟,现在如流有了一个文心千帆AI小助手,可以代替同事自动回答各种问题,平均5秒就可以解答一个难题,大幅提升了工作效率。
同时,百度智能云的金融行业应用、政务行业应用、智能创作平台、智能客服、企业知识管理、数字人直播平台等六大智能产品系列,将基于文心大模型全面升级,未来将在安全评估完成后上线。
此外, 文心千帆大模型平台面向首批企业客户内测以来,正在与不同领域客户联合研发,在智能办公、旅行服务、电商直播、政务服务、金融服务五大领域打造行业样板间。
金山办公助理总裁田然表示,金山办公要跟中国优秀的大模型提供方站在一起,做好大模型应用方的角色,用更好的办公软件,为客户提供更多的价值。文心千帆在安全合规、模型深度、迭代速度、推理性能等多个方面都有一定的优势,在意图理解、PPT大纲生成、范文书写、生成待办列表、文生图等多模态生成的场景上,双方的联合开发已经取得了进展。金山办公和文心千帆的合作,会进一步推动大模型在办公领域的应用和快速落地。今天的合作只是刚刚开始,未来金山办公与百度将在更多更有价值的功能和产品上持续探索。
百度还帮助长安汽车构建了人工智能基础设施平台和数字人平台。现在双方基于百度文心大模型正在开发一款智能产品,赋能长安汽车的一款量产车型,打造创新性的用户体验和持续的研发动能。
百度集团副总裁袁佛玉表示:“截止目前,已有超过300家生态伙伴参与文心一言内测,在400多个企业内部场景取得测试成效。”
(百度集团副总裁袁佛玉)企业该如何选择大模型?除了算力还要看三个指标
国内大公司纷纷推出大模型,对于企业来说,如何挑选一个合适的大模型成为新难题。
实际上,企业选择大模型可以从三个标准评判:大模型本身的能力、大模型企业服务的能力、全栈技术积累程度。
侯震宇表示,百度是全球唯一在芯片、框架、模型和应用这四层进行全栈布局的人工智能公司。正因为可以实现全栈端到端的优化,文心一言自3月启动内测不到2个月,已完成4次技术版本升级,大模型推理成本降为原来的十分之一。
此外,大模型的大计算、大参数、高成本,也对大模型时代的AI基础设施提出新的要求。基于四层框架优势,百度智能云打造了国内首个全栈自研的AI基础设施“百度AI大底座”,面向企业AI开发提供端到端的解决方案。尤其是在框架层和模型层之间,AI大底座有很强的协同作用,可以帮助企业构建更高效的模型,持续调优性能,并显著降低成本。
百度智能云云计算产品解决方案和运营部总经理宋飞举例:“大家可能会觉得堆积算力、写好代码、然后进行模型训练,把它跑起来就行了。实际上在训练过程中会遇到各种各样的挑战,很少有人能够使得一个大模型训练过程能够在连续一两天内不出问题。百度AI大底座可以为大模型提供高效、稳定的训练和有效的收敛。千卡加速比达到90%,资源利用率70%,开发效率提升100%。这是AI大底座为大模型的开发和应用带来的价值。”
百度AI大底座也在为合作伙伴提供帮助。百图生科基于与百度智能云联合构建的生物超算平台,训练出了全球首个、也是目前最大的生命科学领域的千亿大模型“xTrimo”。 在地平线的智能驾驶解决方案全生命周期开发中,百度AI大底座为高性能数据存储和模型训练提供支持。
责任编辑:hnmd003
相关阅读
-
百度工程师首次现场演示:“文心千帆”如何可视化微调大模型 企业该如何选择大模型?除了算力还要看三个指标
5月9日,百度智能云在北京举行文心大模型技术交流会,向在场的百家企业展示文心大模型在产品技术、场景研发
2023-05-10 -
酱油抽检报告:菌落总数最高超标680倍;东丸、膳府等进口酱油曾上榜_环球快播报
酱油在调味江湖中的地位,是不可撼动的。上色、调味、提鲜,一瓶酱油自带所有技能buff。在广东,酱油又被称
2023-05-10 -
饼干抽检报告:88批次饼干已变质;麦飘香、菓子町園道、珍贝儿等上“黑榜”|焦点短讯
饼干是一种常见的零食,食用方便又便于携带,既可以在平时用来解馋,又可以在临急时用来充饥,真不愧是生活
2023-05-10 -
世界新资讯:平安2022年赔付总金额超2800亿元,每天赔付7.7亿元,保险服务呈现八大趋势
5月9日,中国平安举办“平安大讲堂·中国平安保险理赔报告发布与保险趋势观察”活动,会上发布了2022年...
2023-05-10 -
腾讯校招生接替CEO!程武辞别阅文集团,曾出品《人世间》《庆余年》等爆款 热文
图片来源:Pixabay5月9日晚间,阅文集团发布公告称,阅文集团CEO程武因个人生活规划调整提出离职,阅文集团总裁
2023-05-10
相关阅读
-
百度工程师首次现场演示:“文心千帆”如何可视化微调大模型 企业该如何选择大模型?除了算力还要看三个指标
5月9日,百度智能云在北京举行文心大模型技术交流会,向在场的百家企业展示文心大模型在产品技术、场景研发
-
酱油抽检报告:菌落总数最高超标680倍;东丸、膳府等进口酱油曾上榜_环球快播报
酱油在调味江湖中的地位,是不可撼动的。上色、调味、提鲜,一瓶酱油自带所有技能buff。在广东,酱油又被称
-
饼干抽检报告:88批次饼干已变质;麦飘香、菓子町園道、珍贝儿等上“黑榜”|焦点短讯
饼干是一种常见的零食,食用方便又便于携带,既可以在平时用来解馋,又可以在临急时用来充饥,真不愧是生活
-
母婴电商:素质教育 科学喂养 辣妈们的新战场-全球热门
前言:随着中国数字经济的深入发展,产业数字化进程不断加速,大数据在产业决策中的比重越来越高。天眼
-
每日快播:歌手IU被举报涉嫌作品抄袭,涉及《好日子》等6首歌
据韩媒报道,韩国人A某称歌手IU演唱的《粉红色高跟鞋》等6首歌曲存在剽窃海外及国内艺人音乐的情况,并
-
打造保险业数字化品牌创新典范,轻松集团荣获中国金融品牌“金诺奖”
鞭牛士报道 在“中国品牌日”来临之际,由中国银保传媒主办的第七届金融品牌影响力大会在厦门成功举办...
-
微软750亿美元收购案遭英国否决,动视暴雪聘请名律潘尼克上诉 当前快看
据财联社援引外媒消息,动视暴雪已聘请重量级法律人物潘尼克勋爵领导该公司对抗英国竞争监管机构阻止其
-
交付有望?FF获1亿美元融资承诺-今日热讯
交付有望?FF获1亿美元融资承诺盖世汽车讯据外媒报道,5月9日,电动汽车初创公司法拉第未来(FaradayFuture
-
全球视讯!第一季度亏损扩大,Nikola将暂停生产卡车
第一季度亏损扩大,Nikola将暂停生产卡车Nikola表示,柯立芝工厂的装配线将于今年7月恢复生产,并将在这条
-
电动汽车初创企业面临挑战,Fisker削减产量预期 天天新要闻
电动汽车初创企业面临挑战,Fisker削减产量预期Fisker预计,该公司在2023年中将生产3 2万至3 6万辆汽车,而
-
全球热头条丨被爆将裁员超1300人,福特中国:没有的事情
被爆将裁员超1300人,福特中国:没有的事情日前,有业内人士透露,福特中国开始裁员,按照N+3来赔偿,人数
-
特斯拉4月交付保持超7.5万辆高位,Model Y蝉联整车交付第一名!
特斯拉4月交付保持超7 5万辆高位,ModelY蝉联整车交付第一名!5月9日,乘联会发布中国市场销量,特斯拉上海
-
每日精选:“不老药”NMN远水难解近渴,维生素A、辅酶Q10价格走低,金达威净利润连续两年下滑
本报(chinatimes net cn)记者于娜北京报道曾经凭借“不老药”NMN概念被推上风口的金达威,在热度消退之后
-
股息红利怎么发放?股息红利税是怎样征收?
股息红利怎么发放?1、送红股形式采用送红股的形式发放股息红利实际上就是将应该分给股东的现金留在企业...
-
什么是借壳上市?借壳上市和ipo上市的优缺点
什么是借壳上市?借壳上市主要是把非上市的企业或者资产置入到已上市的公司中,彻底改变上市公司的主营业...
-
股票支撑位是什么意思?股票支撑位破了怎么办?
股票支撑位是什么意思?股票支撑位是指在股票价格的K线走势有两次或者两次以上,出现下跌到某一位置,股...
-
人民币为何跌到7门前!人民币破7是贬值还是升值?
人民币为何跌到7门前!一边是不断扩大的贸易顺差,一边则是加速复苏的GDP数据,但人民币汇率似乎不为所动...
-
每日消息!“中特估”五大核心指标
“中特估”与TMT作为今年最为重要的两条主线,在存量博弈的市场环境下二者呈现出较强的轮动特征。
-
睿跃生物完成4000万美元C轮融资 环球速看
5月9日,靶向蛋白质降解技术平台领先企业睿跃生物(Cullgen)宣布完成4000万美元的C轮融资。本轮融资由阿斯
-
探路者一季度营收2.43亿元,靠科技研发实现逆势增长 天天播资讯
一季度行业整体处于下行周期却实现逆势增长,究其原因,与探路者长期重视科技研发、坚持户外制造升级密切相
-
打造全流程智慧医院,这家社区医院为何被居民点赞?
在上海闵行区古美社区卫生服务中心,全科、中医、康复理疗、舒缓疗护(临终关怀)、医学影像、医学检验等,
-
上海“大零号湾”,何以打造世界级科创湾区?
从“零号湾”到“大零号湾”,不是简单地从一栋楼到一群楼、从几千平方米到17平方公里这一物理空间的扩...
-
现手是什么意思?现手和增仓的关系
现手是什么意思?1 现手指某一股票即时的成交量。对于最近成交的一笔成交量也称现手。2 股市最小交易量...
-
每日焦点!电动汽车 Rivian 第一季度营收 6.61 亿美元,同比增长 596%
品玩5月10日讯,Rivian今天发布了2023年第一季度财报,报告显示,Rivian第一季度总营收为6 61亿美元,同比
-
微软将从 7 月 15 日起弃用 RPS 协议
品玩5月10日讯,据neowin报道,微软今天宣布,将从7月15日开始启用RemotePowerShell协议。微软此前在2022年
-
“去人类” AI 游戏风靡全球:你能分清屏幕后的是 AI 还是人吗?|全球要闻
打开最近火热的AI社交平台Chirper ai,你发现你关注的朋友@Bally更新了一条动态。刚刚面试完,又不是很成功
-
“庄家”拼多多|天天快报
328炸店事件让很多人重新认识了拼多多生态。站在中国短暂的电商发展历史,这像是赛博版的十月围城——一...
-
【全球热闻】苹果将考虑为 iPhone 15 引入 USB 4.0 芯片:最高速度可达 40Gbps
看样子苹果iPhone15大概率将会抛弃Lightning接口转而使用USBType-C接口,除了更加开放之外,更为重要的原因
-
全球热文:《漫长的季节》高口碑密码:在极致的现实里融入浪漫美学
文|深响,作者|祖杨很少能见到一部剧是这样的播出走势:4月22日开播后,豆瓣开分9 0,5月1日大结局,评分
-
5 年筹建开业 100 店,华住究竟有没有做好花间堂? 环球讯息
图片来源@视觉中国文|空间秘探,作者|李梓杨近日,华住公布了Q1业绩。报告显示,华住中国2023年第一季度的R
精彩推荐
阅读排行
精彩推送
- 热点在线丨美股还要跌 26%!大...
- 华尔街提前系好安全带 债务僵局...
- 每日速讯:传奇投资人德鲁肯米勒...
- 包头:“标准地”改革助力工业项...
- 鄂尔多斯市下达市本级农村公路养...
- 通辽开鲁打造“零工市场”焕发就...
- 新三板分层是什么意思?新三板各...
- 急涨慢跌是什么意思?急涨慢跌是...
- 光头阴线预示着什么?光头阴线后...
- 股票高换手率是出货吗?股票高换...
- 生e经在哪里订购_生e经入口|全球...
- 挂单是什么意思?股票挂单没成交...
- 股票跌停什么意思?股票跌停了还...
- 股票被套是什么意思?股票被套了...
- st股是什么意思?st股票会一直跌...
- 环球热头条丨大雨!暴雨!广东雨...
- 汽车保险理赔多久到账?流程是什...
- 证券公司会破产倒闭?十大证券公...
- 每日快讯!农村合作医疗在外地住...
- 长沙失业保险金每个月几号发放?...
- 车祸保险理赔需要哪些材料?流程...
- 世界新资讯:平安2022年赔付总金...
- 300余家生态伙伴参与内测,“第...
- 焦点快播:如何办理异地医保备案...
- “微信化”改造进行时? 马斯克...
- 打开涨停板是什么意思?涨停板开...
- cpi上涨好还是下降好?cpi指数对...
- 传特斯拉上海工厂将于6月1日试产...
- 被爆运营近乎停滞,又一家新势力...
- 时代先锋,油电同价,秦PLUS EV...