日本鬼父第二季 大模子，能篡改火山引擎在云牌桌上的位置吗？

"蓝本我并不看好火山引擎日本鬼父第二季，但当今有些改不雅了。"在云行业也曾干了 8 年的张坤暗示。

大模子大战两年后，雷峰网再次和许多从业者聊动怒山引擎这位"后进生"时，一些东说念主对火山引擎的想法有了很大变化。

云牌桌上的其后者

火山引擎在 2021 年 12 月认真晓喻运转参与云计较阛阓的竞争。与其他几家云厂商比较，这个入局时期显得有些缓不救急。

总结其他几家云厂商，阿里云属于最早迈出步子的东说念主，2009 年诞生阿里云，并运转自主研发大限制分散式计较操作系统"飞天"。

而腾讯云是 2013 年 3 月认真上线运营，2018 年 930 之后，腾讯诞生 CSIG，转型产业互联网。

华为云在集团中的地位资格了屡次调遣和晋升。领先，华为云手脚二级部门存在，但在短短半年内赶紧晋升为一级部门，计谋地位仅次于华为的三大 BG（运营商 BG、企业 BG 和耗尽者 BG），其后又重回集团业务体系。

到 2021 年底，火山引擎入局时，云阛阓也曾呈现四强竞争面貌，以阿里云为首，占据国内四成云作事阛阓限制，其次是华为云、腾讯云与百度智能云。火山引擎手脚其后者，想要在这个阛阓上争得置锥之地，有一场额外难的攻坚战要打。

当年，以 Ucloud、青云为代表的寥寂云厂商即便占据先发上风，但在这四家云厂商进入云阛阓后，运转以干预 10-20 倍的东说念主力，不计老本、不计收益的快速占领阛阓，其后寥寂云厂商不得不退出了舞台中央，站在寥寂云厂商的视角来看，这个故事果然听起来额外悲痛，但这也暗含了云阛阓格杀的强烈进程。

半年以前，雷峰网曾与数十名云从业者辩论尽头山引擎能否走出不同的红运轨迹，逆袭进入云行业前三甲时，其大多给出的回话：很难，入局太晚了。

面对强劲的敌手，火山引擎如何撬开云计较阛阓？雷峰网以为，中枢策略之一即是价钱。这种策略在云阛阓上掀翻了不小的波澜，火山引擎接连拿下了不少的泛互、游戏、耗尽电子等行业客户，获取了高速增长。据业内东说念主士泄露，本年火山引擎的营收主义是要前一年基础上翻倍。

火山引擎这种发展态势，也让其成为了面前云阛阓里唯独一家还在大限制招聘的公司。"其他几家云厂商这几年招聘需求缩减了至少 30%，而火山引擎不仅招聘岗亭多，而且给略有涨幅的薪资待遇。"猎头刘赟暗示。

不外，这种高速增长茁壮并未覆盖住担忧，不少从业者以为，短期内，火山引擎在有资源时，当然不错任性干预，但廉价弹药并非无尽尽，始终照旧需要靠居品驱动，而面前大部分以为，火山引擎在居品上还很难追逐上友商。

不外，这是半年前大多数东说念主的结论，近半年，一些业内东说念主对火山引擎的评价又发生了一些变化，以为，这一波大模子正在给了火山引擎一个极佳契机，晋升居品竞争力，同期也给了火山引擎销售，拉开一个新的打破口。

AI infra，云厂商们站在了同沿路跑线上

为何说大模子正在让火山引擎赶超老牌云厂商？

中枢原因是，跟着大模子现实推理需求的不停增多，客户在云底座的接收上，除了关注以往云的基础才调外，还会进一步体恤在 AI infra 方面的才调。而在 AI infra 上，悉数云厂商都在同沿路跑线，而且火山引擎的迭代速率险些是厂商内部最快的。

前不久，火山引擎 Force 冬季大会上新升级了以 GPU 为中心的 AI infra 分散式业务体系，通过 vRDMA 集聚撑持大限制并行计较及 P/D 分离推理架构，晋升现实和推理着力，裁汰企业使用老本；EIC 弹性极速缓存处分决策，完结 GPU 直连，使大模子推理时延裁汰至五十分之一，老本裁汰 20%。

火山引擎在 AI infra 上能快速迭代的原因日本鬼父第二季，这要记忆到 2021 年火山引擎制定的居品计谋。

"从 2021 年起，咱们就开拓了两手执的居品念念路，一边执存量，一边作念增量。"火山引擎云基础居品负责东说念主罗浩暗示。

火山引擎云基础居品负责东说念主罗浩

罗浩所言的存量是指传统云计较的需求，包括 ECS、存储、数据库、集聚、安全等一些云基础居品。不成否定，手脚其后者，火山引擎在这些基础云居品上与其他厂商还存在差距，是以罗浩以为，在这一块他们的中枢即是要快速补王人短板。

不外，光是补王人短板远远不够，如何能在居品上有所互异，才是赢得阛阓竞争的关节。而跟着生成式 AI 波澜的到来，火山引擎立地决定要从算力上作念解围，也即是罗浩所说的增量，来作事比如两年前爆发的现实需求，今天大限制的推理需求。

"早在 2021 年，咱们就运转大限制干预 AI 和 GPU 了。"

这一计谋判断，从以前一年火山引擎在 AI infra 上的销售进展，也曾不错考证正确性，大模子公司险些都是火山引擎 AI infra 的采购者。

如果说 4 年前"两手执"的居品计谋是火山引擎在 AI infra 上完结追逐的根基，那以前几年的表里部实施则是 AI infra 迭代的关节驱能源，悉数居品踏实性和才调时常是在一次次业务场景中淬真金不怕火新生。

在这些实施中，让火山引擎 AI infra 加快决骤的是豆包大模子。前不久，火山引擎总裁谭待在火山引擎 Force 冬季大会上公布了一个数据，2024 年豆包的日均 token 数据从 5 月 15 日的 1200 亿，到 12 月 18 日增长到了 4 万亿。

要承载 33 倍的增长，这险些其他厂商都莫得碰到过的，背后关于底层 AI infra 的性能、老本险些是一次大考。

罗浩谈到，本年 5 月份之前，其时豆包体量还小，为了让豆包大模子大约细致地运行，他们通过加多更多的 GPU 资源来保证大模子大约快速反应大量的查询苦求，以晋升客户的使用体验。

但他们很快发现，"堆量"这种要领行欠亨了，跟着用户量的加多，延续这么作念老本就变得难以承受。

优化推理老本山水相连，他们团队运转大量分析哪些处所是"老本破落户"，经过他们仔细的计较发现，缓存和存储部分是拉高计较老本的攻击部分。

"传统的缓存技巧有一个问题，即是它处理数据时会绕一大圈，通过 CPU 再到内存，这会导致延时加多，性能下跌。"罗浩说。

为处分这个问题，他们决定重写悉数这个词缓存系统。新的系统十足围绕 GPU 伸开，不再依赖传统的 CPU 架构。这意味着，数据不错通过一种更高效的面貌径直从 GPU 传输到远端内存，使用一种叫作念 GDR，GPU Direct RDMA（GPU 径直烦懑内存拜访）技巧，这么不仅减少了延时，还晋升了举座性能。

这个数据传递经过就像是送信，蓝本需要通过邮局，既慢又容易出错。而当今，系统就像给数据装上了纵贯车，径直从一个东说念主手中快速送到另一个东说念主，省去了中间智商，速率更快，准确性更高。

"这些表里部业务，对咱们的真义即是，让咱们比别东说念主早踩坑，也早发现问题，早处分。"

本年 5 月火山引擎 Force 春季大会上，豆包主力模子在企业阛阓的订价比行业价钱裁汰了 99.3%，"这个降价 99.3% 并非是咱们拍脑袋想的，而是建构在之前对 AI infra 的优化上算出来的。"

罗浩暗示，计较范式现时正在从云原生进入" AI 云原生"的新时间，火山引擎以 GPU 为中心重新优化计较、存储与集聚架构。GPU 不错径直拜访存储和数据库，来权贵裁汰 IO 的蔓延。同期，悉数这个词系统提供高速互联和端到端的安全保护。

这是国内初次有云厂商喊出" AI 云原生"的理念。如今，新架构仍在撑持着豆包大模子完结快速的指数级业务增长。

除有豆包大模子"倒逼"外，火山引擎 AI infra 大约在较短时期内升级，也与火山引擎特有的组织架构关系。

国内其他几家云厂商的产研团队基本是和集团业务是分开的，但火山引擎并不是，作念火山引擎的这一批东说念主马，即是来自字节中台，像罗浩本东说念主，就有两个身份，一个是火山引擎云基础居品负责东说念主，另一个是字节跨越基础架构云居品负责东说念主，而吴迪也不异如斯，他第一个身份是火山引擎的算法负责东说念主，另一个亦然字节机器学习中台的一位负责东说念主。

这种组织的平正有两个：第亡山资源和字节的资源都在一个东说念主手上管制，这么也能完结资源的充分旁边；第二是东说念主才才调上的复用。

为生意化撕开了新打破口

大模子到来，除收缩火山引擎与其他厂商居品之间的差距外，其带来更昭彰的效果即是，为火山引擎生意化带来了一个新的打破口。

上文也提到，手脚后进生的火山引擎进入云阛阓时，濒临很大的一个问题即是如何翻开阛阓，以前火山引擎用了一些价钱策略果然也获取了一些着力，但这终究不是长期之计。

而这一波大模子，关于火山引擎来说，其最攻击的即是手上多了一张撬动客户的"王牌"——豆包大模子。

又名火山引擎销售曾对雷峰网说过他的销售资格：以前往往找拜访客户由头庸俗要静思默想，而且由于火山引擎在云阛阓是其后者，一些客户时常会建议灵魂拷问，为什么选你？但自从大模子出现后，越来越多的客户有了大模子现实需求，一些客户还会主动找上来问，如何去搭建我方的大模子。

趁着大模子这一波热度，火山引擎在加快鼓舞生意化，据资深猎头王帆泄露，本年年中，火山引擎单独诞生了一个 10 东说念主不到的大模子生意化小组，这亦然云厂商中唯独一家单独诞生大模子销售团队的，其他云厂商的大模子销售东说念主马仍然是卖云的销售、渠说念。

云销售卖大模子有一个问题是在于，技巧有壁垒，一般的云销售不一定有才调跟客户证明晰大模子的价值、技巧，而火山引擎也在寄但愿于通过豆包大模子，打入更多也曾跟友商相助的客户中去，而这亦然这个小组诞生的攻击原因。

以前一年，不错看到火山引擎借助大模子在生意化的打破，据了解，面前豆包大模子也曾应用到了汽车、手机、金融、耗尽、互娱等 30 多个行业，尤为值得一提的是汽车行业，火山引擎果然拿下了不少的汽车大单。

早在前年，火山引擎先后与祯祥、长城、蔚来、广汽等多家车企达成深度相助，为车企提供了数字化营销、智能座舱、车载团聚音视频实质等一系列作事。

本年 5 月，火山引擎诞生了汽车大模子生态定约，一汽红旗、东风乘用车、祯祥汽车、长城汽车、广汽乘用车、宇通客车在内的 24 家整车厂、官方机构、出行生态公司等加入其中。下半年，火山引擎在汽车范畴有一个攻击的打破客户，那即是飞奔。8 月 13 日，火山引擎与飞奔签署计谋相助备忘录，两边晓喻将在大模子、生成式东说念主工智能和大数据技巧范畴伸开相助。

不外，也有许多东说念主会有疑问，卖大模子是否能为火山引擎增收，毕竟脚下，OpenAI 和 Gemini 都在不停降价。本年 5 月豆包在国内率先掀翻大模子的左迁潮，豆包主力模子在企业阛阓的订价为 0.0008 元 / 千 Tokens，立地几个月其他厂商也赶紧跟进，而 12 月底，火山引擎再次将视觉模子价钱打下来，订价为 0.003 元 / 千 Tokens。

火山引擎总裁谭待公开暗示，豆包大模子的订价一步到位，有合理毛利。不外，悉数厂商面前大模子 API 收入限制都不大。斡旋雷峰网调研发现，月耗尽 1 万，额外于公有云耗尽 1000 万的客户体量，是很大客户了。

果然，脚下大模子带来的收益远远小于干预，不外大模子的生意还淌若要拉万古期维度来看，大模子应用限制上去之后，一定会带动云的用量，据 IDC 呈报，畴昔 5 年国内的现实、推理算力诀别以超 50%、190% 的年复合增速发展日本鬼父第二季，并在 2028 年推理算力会卓绝现实算力。而到阿谁时候，率先在大模子上重兵干预的火山引擎，兴许也更新了我方在云牌桌上的名次。