火山引擎发布高速训练引擎,实现高性价比模型训练
近日,2023火山引擎春季FORCE原动力大会在上海外滩落下帷幕。会上,火山引擎发布了“智能推荐-高速训练引擎
【资料图】
近日,2023火山引擎春季FORCE原动力大会在上海外滩落下帷幕。会上,火山引擎发布了“智能推荐-高速训练引擎”。火山引擎总裁谭待表示,希望通过这款新的产品,实现高性价比模型训练,全力支持企业在云上的智能创新。
谭待介绍到,推荐是移动互联网时代做好内容分发的核心因素,火山引擎早在2016年就开始对手机厂商等客户提供内容推荐服务。
随着客户的数据沉淀越来越多,算法模型需要快速迭代,越来越多的企业面临稀疏模型的训练速度无法满足需要的问题,导致模型更新缓慢影响线上效果。而火山引擎发布的“智能推荐-高速训练引擎”将模型的训练推理效率进行极致优化,让更多企业通过云服务,享受与字节推荐一样的智能推荐基础设施。
他表示,火山引擎最新推出的“智能推荐-高速训练引擎”,可以为合作伙伴提供超高速训练,实现软硬一体优化,超高速训练100GB-10TB+超大模型;“智能推荐-高速训练引擎”还具有高可用性,基于PS-Worker架构,在服务发现的基础上,支持 PS、Chief、Worker 全方位容错;在高速、通用的基础上,“智能推荐-高速训练引擎还保证了数据安全,实现了成本节约。“智能推荐-高速训练引擎”仅传输高度脱敏后的训练样本,使用了不可逆的哈希技术,保障数据安全,支持多种模型瘦身技术、支持多种GPU模式、优化了大量算子等,大幅提升训练和推理性能,基于字节内部的实践来看,综合成本可降低25%~67%。
同时谭待也提出,当下,只有做好云上创新才能实现上云价值。火山引擎全力支持大模型发展,目前,火山引擎已经支持了包括MiniMax、智谱等众多企业在大模型领域快速发展。
谭待认为,未来大模型会在各个行业内不断兴起,行业专属、企业专属的大模型百花齐放,火山引擎也会全力支持好“多云多模型”的未来架构,让更多企业能够在大模型领域的发展得到更好的算力保障。(作者:张绍)
标签:
近日,2023火山引擎春季FORCE原动力大会在上海外滩落下帷幕。会上,火山引擎发布了“智能推荐-高速训练引擎
最近,中国新任国防部部长李尚富将出国访问的第一站选在了俄罗斯。此前,美国一直要求中国不能和俄罗斯密切
1、我爱我家每个人都有一个家,而且每个人都会很爱他自己的家,因此,我也不例外。2、家,能给人一种温暖的
每年的4月7日是世界卫生日,随着生活水平的提升,健康居家的话题再次让人们热议,绿色环保、健康安全、舒适
4月21日,成都大熊猫繁育研究基地发布关于网传“福禄淋雨”事件经过及真实情况:2023年4月20日上午9时许,
锋利的奶酪有很多种。臭奶酪不一定是尖奶酪,尖奶酪可能有温和、令人愉悦的香气。所以拿起那块奶酪,好好闻
哈弗品牌以“全球SUV专家”的定位,践行“做每个时代最好的SUV”的使命愿景,不断超越用户期待,为用户带来
1、2006zsb xmu edu cn福建省厦门大学招生办公室通信地址:福建省厦门大学招生办公室邮政编码:36
[ 相关新闻 ]