长城汽车产业研究院

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 305|回复: 1

字节系发布大模型服务平台,已聚合七款大模型

[复制链接]

974

主题

1010

帖子

3581

积分

论坛元老

Rank: 8Rank: 8

积分
3581
发表于 2023-6-29 15:49:28 | 显示全部楼层 |阅读模式
与阿里云、腾讯云把自研大模型直接落地到云服务上不同,字节跳动在大模型上尚处于初级探索阶段,当前通过集成其他公司的大模型对外提供服务。


在大模型上尚处于探索阶段的字节跳动“另辟蹊径”卖云。6月28日下午,字节跳动旗下公司火山引擎举办发布会,推出企业级大模型服务平台“火山方舟”,即面向企业提供模型精调、评测、推理等的MaaS服务(模型即服务)。火山引擎也由此成为在阿里云腾讯云之后又一家推出MaaS服务的互联网云厂商。

与阿里云、腾讯云把自研大模型直接落地到云服务上不同,字节跳动在大模型上尚处于初级探索阶段,因此“火山方舟”是通过集成其他公司的大模型提供服务的。为火山方舟提供大模型的公司包括百川智能出门问问、复旦大学MOSS、IDEA研究院、澜舟科技、MiniMax、智谱AI七家AI公司及科研院所。

这也意味着,火山引擎正把云服务从模型生产端拓展至模型使用端。4月18日,字节跳动旗下火山引擎发布自研DPU等系列云产品,并推出升级版的机器学习平台,支持万卡级大模型训练。在上述大模型公司中,智谱AI、MiniMax都是火山引擎的客户。(详见《GPT革命|字节跳动发布大模型训练云平台 称国内七成大模型企业用火山引擎云》 )

“火山方舟”已启动邀请测试,首批邀请企业包括金融、汽车、消费等行业客户。火山引擎总裁谭待告诉财新,“四、五月份大部分是来自模型厂商的训练需求,要尽快把自己大参数的模型给训练出来,这些是早期的需求。最近很多行业的企业也过来和我们探讨,比如说消费、制造、金融、零售等行业客户,希望探讨大模型在营销、客服等场景里的需求,我们今天推出火山方舟平台就是解决企业应用。”

字节跳动内部已有十多个业务团队试用“火山方舟”,比如火山引擎的智能售后知识库问答、飞书的办公智能助手、抖音电商智能客服、剪映的智能营销文案生成等,利用大模型能力降本增效。“字节内部其他团队如果做好了模型,大概也会上到方舟平台上对外提供服务,在方舟上就是众多模型中的一个。”谭待称。

作为“最年轻”的云厂商和字节跳动持续投入的2B业务,火山引擎需要客户。据火山引擎介绍,火山引擎的大客户主要包括智能驾驶企业、大型金融机构、互联网头部企业、大模型初创企业与科研机构等。火山引擎也在协同巨量引擎,通过云和广告协同消费的方式,降低客户总体拥有成本,探索更多客户合作。(详见:《财新周刊》2023年第24期《云厂商开战大模型》 )

大模型生产门槛极高,在大模型快速迭代、AIGC落地场景已能明显提升效率的情况下,企业客户存在接入大模型服务优化业务的需求。而由于高端GPU存在出口限制,国内拥有英伟达A100对应能力的GPU(图形处理器)大部分掌握在互联网巨头手中。字节跳动是目前国内少数几家有过万张英伟达GPU的企业之一,这是火山引擎的一项优势。

自ChatGPT爆火出圈后,百度阿里分别先行公布AI对话机器人“秀肌肉”,随后跟随微软将大模型用在企业端,开辟云计算的新战场。

阿里云在2022年11月提出MaaS,现已形成IaaS(基础设施即服务)、PaaS(平台即服务)、MaaS三层架构。6月19日,腾讯云公布MaaS解决方案,直接参与大模型在行业端应用的竞争。百度则于5月公布了面向企业客户的大模型平台文心千帆。(详见《GPT革命|腾讯大模型落地云 面向行业推出模型商店》 )

从激烈的竞争中获取客户并不容易。一名接近火山引擎的人士告诉财新,由于训练模型成本不菲,市场上主要的需求其实分散在需要数据运算的企业中,他判断真正的目标客户基本来自头部互联网公司、头部医药类企业以及少量高校。

市场上可选择的大模型服务也已有不少。火山引擎智能算法负责人吴迪把“火山方舟”比作“模型精品店”,他认为企业不必急于绑定一家大模型,“火山方舟”可以帮企业同步试用多个大模型,选用更适合自身业务需要的模型组合。“从长期来看,模型的推理开销会超过训练开销,因此降低推理成本会是大模型应用落地的重要因素。”吴迪称。

在这轮份额争夺战中,头部厂商纷纷降价。“火山方舟”同样强调性价比,向客户收取的费用包含模型服务费和平台服务费两部分,后者将在“相当长时间”内免费。

谭待告诉财新等媒体,相较竞争对手,火山引擎的价格已经比较便宜,“其实大客户上云时签的都是折扣价,折扣价和刊例价的降价是没有什么关系的。最重要是让客户更省钱、提升效率,而不是刊例价的波动。”

谭待称,规模换收入不可行,火山引擎的性价比是通过技术实现的。据吴迪介绍,为了降低成本,火山引擎做了基础模型优化,同时基于云的规模化效应降低了单位价格。

回复

使用道具 举报

141

主题

235

帖子

735

积分

高级会员

Rank: 4

积分
735
发表于 2023-6-29 16:01:46 | 显示全部楼层
暂选,GPT个人用的时机还没到,商用前景更明朗;现在只是搭架构,企业现在介入会更合适
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|长城汽车产业研究院

GMT+8, 2025-6-19 11:55 , Processed in 0.017652 second(s), 19 queries .

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表