【全球独家】火山引擎发布大模型训练云平台:支持万卡训练,集群性能提升3倍
4月18日,火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,让大模型训练更稳更快。“国内有数十家做大模型的企业,大多已经在火山引擎云上”,火山引擎总裁谭待认为,大模型不会一家独大。与其他云厂商力推自家大模型不同的是,火山引擎将接入多家大模型深度合作,为企业和消费者提供更丰富的AI应用。
让大模型训练快速跑起来
自2022年底发布以来,ChatGPT成为人类历史上最快获得上亿用户的消费级互联网应用。最新的GPT-4大模型,更是在法律、数学、生物学等多项测试中超过90%人类。
【资料图】
谭待表示,国内很多科技公司投入到大模型建设中,他们有优秀的技术团队,也有丰富的行业知识和创新想法,但往往缺乏经过大规模场景实践的系统工程能力。火山引擎要做的就是为大模型客户提供高稳定性和高性价比的AI基础设施。
据悉,火山引擎机器学习平台经过抖音等海量用户业务长期打磨,支持单任务万卡级别的超大规模分布式并行训练场景。GPU弹性计算实例可灵活调度资源,随用随取,最高可以为客户节省70%的算力成本。
字节跳动副总裁杨震原认为,业务创新需要试错,试错要大胆、敏捷,但试错也一定要控制成本。通过潮汐、混部等方式,火山引擎实现资源的高利用率和极低成本。以抖音推荐系统为例,工程师用15个月的样本训练某个模型,5小时就能完成训练,成本只有5000元。火爆全网的抖音“AI绘画”特效,从启动到上线只用一周多时间,模型由一名算法工程师完成训练。
谭待透露,火山引擎的大模型云平台获得智谱AI、昆仑万维等众多企业的良好反馈。国内大模型领域,七成以上已是火山引擎客户。
向“多云多模型”架构演进
有评论称,大模型将成为云厂商弯道超车的机会。谭待对此表示,大模型还在发展初期,面临数据安全、内容安全、隐私保护、版权保护等许多问题需要努力解决。但可以预见,大模型将带动云上AI算力急剧增长,AI算力的工作负载与通用算力的差距会越来越小,这会为各家云厂商带来新的机会,同时也会对数据中心、软硬件栈、PaaS平台带来新的挑战。
以数据中心的算力结构为例,谭待表示:“大模型需要大算力,虚拟化会带来资源损耗,规模越大就损耗越多。未来3年内,大规模的算力中心,都将形成‘CPU+GPU+DPU’的混合算力结构,CPU负责通用计算,GPU负责AI计算,DPU负责资源卸载、加速和隔离,提升资源效率”。
此次原动力大会上,火山引擎发布了新一代自研DPU,实现计算、存储、网络的全组件卸载,释放更多资源给业务负载。火山引擎尽管是“最年轻”的云厂商,其自研DPU已达到业界领先水平,网络性能高达5000万pps转发能力、延迟低至20us。基于自研DPU的各类计算实例性能也有显著提升,例如适用于大模型分布式并行训练场景的GPU实例,相较上一代实例集群性能最高提升3倍以上。
自动驾驶公司毫末智行与火山引擎合作打造智算中心,为DriveGPT自动驾驶生成式预训练模型提供强大的算力支持。毫末智行CEO顾维灏介绍,DriveGPT使用量产车4000万公里的人驾数据训练,参数规模达1200亿,对自动驾驶认知决策模型进行持续优化。
谭待表示,在大模型及下游应用发展推动下,无论传统企业还是初创企业,对AI算力都有迫切需求,企业使用多家云服务将成为常态。同时,各行业有自己高质量的私有语料,大模型不会一家独大,而是会在千行百业生长,形成多模型共生甚至协作的生态。
支持“多云多模型”的未来架构
火山引擎也推出了分布式云原生平台、多云安全、多云CDN、veStack混合云平台等系列产品,支持客户更好地使用多家云服务。“字节跳动用过全球几乎每一朵公有云,以及大多数CDN,形成一套完整的分布式云管理体系和架构实践”,谭待坚信火山引擎是最懂多云和分布式云的云服务商,这些技术能力都会毫无保留地提供给客户。
杨震原进一步表示,火山引擎对内对外提供统一的产品,抖音、今日头条等APP开屏都加上了“火山引擎提供计算服务”。
杨震原说:“数字化时代,机器学习可以智能、高效地围绕目标解决问题。数字化的下一步是智能化,我们在机器学习方面的技术积累和经验,都会通过火山引擎提供给外部客户,帮助更多企业做好智能化”。
文/北京青年报记者 温婧
编辑/田野
标签:
相关阅读
-
04-18
-
04-18
推荐阅读
-
【全球独家】火山引擎发布大模型训练云平台:支持
4月18日,火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、更多
2023-04-18 14:01:41
-
微速讯:国家统计局:稳外贸政策作用显效,我国外
根据此前海关总署公布的数据,3月份我国出口强劲,数据高于预期。对此,国家统计局新闻发言人、国民经济综合统计司司长付凌晖4更多
2023-04-18 14:11:06
-
抖音将打造100个乡村旅游打卡点 去年带动农民通
4月17日,抖音正式启动“美好乡村等你来”乡村旅游数字提升行动,推出一系列助力乡村文旅复苏的举措。抖音集团企业社会责任部更多
2023-04-18 13:51:33
-
3.8%的首套房利率将重新上调?机构:房价回暖或触发
财联社记者注意到,近期部分机构明确提示,依据央行1月5日建立的首套住房贷款利率政策动态调整机制,当前房价持续环比回暖的二三线城市接下来更多
2023-04-18 13:44:49
-
信息:大风沙等恶劣天气带来的安全风险 民航采取
针对近段时间国内多省市出现沙尘暴等恶劣天气,民航运行是否受到影响、民航部门有哪些措施来减少影响的问题,今日(4月18日)更多
2023-04-18 12:50:59
-
“北京古遗址保护研究中心”揭牌
今天(4月18日)上午,国际古迹遗址日中国主场活动,在圆明园正觉寺举办,活动现场举行了“北京古遗址保护研究中心”挂牌仪式更多
2023-04-18 13:04:26
-
西班牙Cepsa与Apical共建生物燃料工厂
西班牙Cepsa与Apical共建生物燃料工厂,据烃加工网4月14日报道,西班牙石油公司Cepsa与植物油加工商ApicalGroup的生物燃料部门合作,在西班牙南更多
2023-04-18 12:54:32
-
农业农村部:我国现有大豆品种基本可以保障当前扩
4月18日,农业农村部举行新闻发布会,介绍国家农作物优良品种推广目录有关情况,并回答记者提问。针对我国大豆生产方面的情况更多
2023-04-18 12:10:01
时尚热图
热门标签
精彩放送
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
04-18
-
今日必看
-
精彩话题
-
最新见闻
- 百度mp3音乐盒使用操作步骤有哪些?如何在百度音乐中找到歌曲链接?
- 为什么360浏览器打不开网页?360浏览器打不开是什么原因?
- 中国星辰|伴着梦一起飞
- 2023年1-3月全国固定资产投资增长5.1% 民间固投同比增长0.6%:天天快讯
- 理想汽车宣布将在6月举办首次Ai家庭科技日
- 全球快资讯:对广交会进口展品实行税收优惠
- 国家统计局:一季度全国城镇调查失业率平均值为5.5%_每日热闻
- 环球播报:券商有望迎来一季报业绩行情
- 锡业股份回应缅甸停产影响:目前公司生产经营正常_全球速讯
- 最高检印发《关于加强新时代检察机关网络法治工作的意见》-天天视讯
- 信息技术行业专题报告:盘古大模型发布在即,重视产业链投资机会
- 国际乒联最新世界排名:樊振东、孙颖莎继续断层式领先:当前视讯
- 我国科技企业积极“出海”中东-今日播报
- 歌尔股份:公司经营规模仍在扩大 静待行业触底反弹-焦点要闻
- 北京冬奥精神展走进和田校园 近7000名各族中小学生听取宣讲_环球速递
- 宝地矿业2022年新增资源量2.12亿吨
- 国家统计局:一季度就业形势总体稳定,城镇调查失业率下降
- 解码首季经济数据丨关注外贸开局 跑出“加速度”_天天观热点
- 国家统计局:一季度CPI同比上涨 1.3%
- 天天看点:民航局:一季度国内客运规模恢复至疫情前约九成
- 央行MLF操作明显“缩量”有何信号
- 一季度固定资产投资同比上涨5.1%,房地产开发投资下降5.8%_全球热推荐
- 【天天快播报】央行开展380亿元7天期逆回购操作
- 国家统计局:下阶段要落实好稳增长各项政策举措 着力扩大国内需求
- 解放军军演结束一周美舰过航台湾海峡,岛内民众:在作秀|世界微速讯
- 福建厦门发布暴雨红色预警 厦漳轮渡暂时停航:全球热资讯
- 天赐材料一季度实现营收43.14亿元 净利润6.95亿元 世界热消息
- 国家统计局:一季度国内生产总值同比增长4.5%|焦点快看
- 早知道|利物浦英超狂胜依然远离“欧冠区”:全球时快讯
- 这场同里与围棋的双向奔赴,道相同,共相谋 短讯
- 诺诚健华多项肿瘤管线数据在2023年美国癌症研究协会年会上公布 全球今热点
- 理想汽车发布纯电解决方案
- 中央气象台:南方降雨进入最强时段 强冷空气自西向东影响我国
- AI驱动光模块技术升级需求 薄膜铌酸锂落地或将加速
- 江西警方通报“一村民疑被当成猎物遭枪击死亡”:4人被刑拘
- 五个一百:宏伟蓝图鼓舞人心 时代号角催人奋进
- 小鹏汽车发布扶摇架构下首款新车型小鹏G6
- ios7发布时间是什么时候?ios7支持机型有哪些?
- 人民银行今日开展350亿元逆回购操作 公开市场实现净投放330亿元
- 化妆品网购正品从哪里买?网购避坑指南
- 石金钱龟价格多少钱?石金钱龟养殖前景怎么样?
- 华夏基金定投哪个好?华夏基金定投推荐
- 新上市基金一般涨还是跌?购买新基金小技巧
- 294只科创板股融资余额环比增加:环球微资讯
- 现金支票的用途包括哪些?现金支票签发流程及注意事项
- 准货币的定义如何解释?准货币包括哪些?
- 基金申购时间是什么? 基金申购时间有什么技巧?
- 养老保险15年缴费年限是怎么回事?是连续缴纳15年还是累计?
- 母羊有角吗?母羊和公羊分开养的原因是什么?
- 俄军米格31战机在战备演练中模拟“摧毁”敌机_环球速看料
- 农村合作社补贴多少钱?农民合作社有哪些补贴政策?
- 通用汽车贷款还完后怎样办手续?通用汽车贷款通过率高吗?
- 债券型基金是什么意思?债券型基金有什么特点?
- 在新农村创业还有机会吗?新农村创业有哪些好项目?
- 全国高速将统一限速标志具体什么时候执行?全国高速还有哪些改变?
- U盾是什么?u盾密码忘了怎么办?u盾安全使用指南
- 现金宝收益如何?现金宝的投资优势体现在哪里?
- 设立北京证券交易所将带来什么?北京证券交易所需要注意什么原则?
- 中秋节的历史发展过程 中秋节是纪念谁的?
- 玉门关在哪?玉门关在历史存在的意义是什么?
- 塑料袋属于什么垃圾?塑料袋属于不属于可以回收的垃圾?
- 北外等九所高校组建延河高校跑团联盟 焦点报道
- 焦点讯息:东城区东四街道“见缝插绿” 胡同微花园成为老街坊的幸福依托
- 每日看点!新钢股份2022年度拟派3.19亿元红包
- 图解丨聊聊“人造太阳”:做这个很难,也很燃! 今热点
- 宁波能源2022年度拟派1.51亿元红包:全球即时
- 机器人:已成功研发多款新型双臂真空机械手 部分产品已进入客户端验证阶段
- “核心城区推窗绿 百姓身边起步香”:东西城这样因地制宜“挖潜增绿”_当前快看
- 环球精选!广交会:连接广阔市场 外商共享中国机遇
- 全球观焦点:生成式人工智能将导入工业领域 AI+工业成长前景广阔
- 单日8300辆次 港珠澳大桥珠海公路口岸今年第五次刷新车辆通行纪录-天天微头条
- 【环球报资讯】第133届广交会:中国制造迈向全球价值链中高端
- 全球热消息:湖南祁阳:水清岸绿生态美
- 财通证券给予黄山旅游增持评级,23Q1客流修复业绩有望复苏,构建数字化生态
- 环球短讯!考古大学堂看“浙”里 逛国家考古遗址公园的正确打开方式→
- 世界看热讯:中信证券:铂族金属需求预期放量 推荐铂族金属行业战略配置价值
- 管涛:超额储蓄的结构特征与消费复苏弹性
- 2023上海车展|强化中国市场地位:宝马BMW Dee亚洲首发、创新纯电动i7 M70L全球首发_即时
- 江西省九江市被约谈:全球速讯
- 全球短讯!金融添翼 科创企业翱翔
- 中信证券:受益于国产化替代趋势叠加需求扩张 铂族金属行业龙头或迎新一轮增长:视讯
- 看点:第133届广交会:中国制造迈向全球价值链中高端
- 今日播报!望坛棚改项目顺利完成首批回迁入住
- 国联证券给予远东股份买入评级,加大研发增厚实力,线缆&储能产能扩张
- 山东玻纤:2退休监事拟合计减持不超21.46万股公司股份
- 世界视讯!万丰股份启动招股 即将登陆沪市主板
- 全球快看:畅通科普人才发展通道 中国科协试点开展科普职称评审
- 沪深港通数据监测2023年04月18日|环球快看
- 每日观点:00后吴宜泽世锦赛首秀没有遗憾
- 天天亮点!8名美警枪杀违反交规非裔男子,大陪审团拒绝指控
- 全球看点:财经早餐快递2023年04月18日
- 距高考还有50天!这些祝福送给每一位考生
- 天天最资讯丨江南华南将有较强降水过程 强冷空气将影响我国大部地区
- 当前焦点!浙江武义官方通报厂房火灾事故:发现遇难人员11名
- 即时焦点:致死率100%!最近上海狂犬病疫苗接种人数明显增多
- 【一线调研】园区企业名单折射出的发展密码
- 晨读|谈“体谅” 每日快讯
- 全球热讯:浙江武义厂房火灾已发现遇难人员11名 事故相关责任人被控制
- 焦点短讯!英国议会对首相苏纳克展开调查
- 内存芯片价格现反弹迹象