我最近帮一家做零售的老客户梳理云架构,对方上来就说:“我们上云三年,数据库、容器、微服务都搞了,但 AI 这波浪潮一来,感觉又要重新跑一遍。到底什么才是面向 AI 的云?”
这个问题我特别有感触。过去十年我们讨论的“云”,本质是远程服务器、弹性扩容、按量计费,解决的是“资源怎么更方便地用”。但现在,AI 开始从“应用里的一项功能”变成“应用本身的发动机”,云厂商的叙事也随之变了,“AI Frontier”这类提法越来越多。在所有喊出“AI 新底座”的厂商里,Google Cloud 是最值得仔细看的一家——因为它把 AI 和“数据原生”(Data-Native)这套逻辑绑得最紧。我试着从一个从业者的视角,拆一拆 Google Cloud 到底在用 AI 和数据原生做什么、怎么做,以及普通团队能从中抄到什么作业。
1. 云的上半场是“资源租赁”,下半场是“数据与智能的原生环境”
1.1 三代云,解决的核心问题完全不同
第一代云解决“不再自己买服务器”,第二代解决“应用快速迭代”,第三代要解决的是“让数据和模型成为业务运转的默认能力”。这三类上云目标决定了你选云和用云的方式完全不同:第一代关注 CPU 核数、磁盘吞吐、可用区;第二代关注容器编排、DevOps、微服务治理;第三代的核心指标变成了“数据进入平台之后能多快被模型用上”、“模型从训练到上线多长时间”、“业务人员能不能直接用自然语言跟数据对话”。
| 维度 | 第一代:资源上云 | 第二代:应用上云 | 第三代:数据与智能原生 |
|---|---|---|---|
| 核心问题 | 不再自建机房 | 应用快速迭代 | 数据与模型成为默认能力 |
| 代表产品 | 虚拟机、块存储 | 容器、DevOps、微服务 | 数据云 + AI 平台 |
| 团队关注点 | 容量、可用性 | 流水线、配置、监控 | 数据资产、模型效果、成本控制 |
| 典型指标 | CPU/内存/磁盘 | 发布频率、SLO | 数据可信度、模型上线周期 |
Google Cloud 在这次代际切换中,选择把所有产品围绕“数据+AI”重排,这不是营销话术,而是能从产品结构里看出来的顶层设计。它没有像很多云厂商那样把 AI 当作一堆独立的“新盒子”卖给你,而是把推理、模型、数据分析做成横切层,和数据平台互相咬合。这恰恰是许多团队最容易忽略的角度:你选的不是“哪家 AI 最强”,而是“哪家云平台能让 AI 真正长在数据上”。
1.2 谷歌的“原生”优势:搜索和 YouTube 早就逼出了数据处理极限
大家都知道 AlphaGo 用了 TPU,但很少有人注意,支撑搜索、地图、YouTube 的存储和数据处理系统,才是 Google Cloud 今天 AI 能力的底子。MapReduce 论文、Spanner 全球分布式数据库、Bigtable、Colossus 文件系统,这些系统本质上都在解决同一个问题:海量数据如何在可接受的成本内被反复计算。当许多云厂商是“为了卖机柜而做存储”时,Google 是“为了让自己每天处理 PB 级数据而做存储”,两者的系统设计取向完全不同。今天 BigQuery 能做到存储与计算分离、海量数据查询秒级返回,追根溯源都是搜索业务时代攒下的功夫。
这里有个容易被忽视的点:AI 时代的数据处理,和传统 BI 分析的数据处理逻辑并不完全一样。模型训练要反复读取、清洗、特征化数据,对吞吐和稳定性的要求远高于一般的报表查询。Google 这套从搜索业务里长出来的基础设施,天然适合吞吐优先、海量数据常驻的场景,所以它讲“AI 原生云”比别人更有说服力,并不是因为模型参数更大,而是底层数据管道本来就是为超大流量设计的。
1.3 云厂商的叙事分化:为什么 Google Cloud 敢直接压注 AI
AWS 的思路更像“把企业数据中心复刻到云上再改进”,Azure 的强项是“和微软软件生态无缝衔接”,而 Google Cloud 的牌面是“把 AI 垂直整合到每一层”。这也符合它的现实处境:在传统政企云市场它追赶得很辛苦,但在生成式 AI 这个新赛道上,它的技术路线反而更容易讲清楚。具体表现是:底层有自研 TPU,中层有 AI Hypercomputer 高性能计算架构,上层有 Vertex AI 和 Gemini 模型,再往上还有 BigQuery 把模型和数据打通。这么一层层看下来,“从芯片到业务逻辑”的全栈 AI 定位,就是它在云市场里最明显的差异化。
不过也要说句公道话,技术叙事领先不等于市场份额立刻领先。AI 上云这件事,真正卡脖子的往往不是功能,而是组织的数据成熟度。Google Cloud 的这条路,对已经有一定数据基础、愿意重构数据架构的团队非常友好;但如果企业内部数据还是一团乱麻,再好的“数据原生云”也救不了。这也是为什么后面我要专门花一节讲落地动作。
2. 数据原生不是口号:BigQuery 如何成为“会思考的数据底座”
2.1 存储与算力分离的工程红利
BigQuery 的本质是集成了 Colossus 分布式文件系统、Borg 调度和 Dremel 查询引擎的“无服务器数仓”。用户感知到的“一张表”,底层可能是分布在上万台机器上的列式分片。列式存储让只读少数列的分析查询无需扫描整表;存储和计算分离,则意味着计算资源池可以按当前查询和模型训练需求动态伸缩,数据继续躺在低成本存储上。在 AI 时代,这一设计特别值钱——训练数据被反复读取、清洗、特征化,如果你每次都要“先把数据导到 GPU 机器再算”,成本和耗时都不可接受。BigQuery 的理念是数据不动、计算来找数据。
实操中我踩过最大的坑是计费。BigQuery 的按需计费按扫描数据量算钱,对频繁全表扫描的 AI 数据准备阶段,费用会很难看。我的建议是:分区表和聚簇表一定在建表时就设计好;如果团队固定跑批处理任务,开通按月预订的 slot 计费通常比按量扫描划算。我见过不止一个团队因为“AI 要的数据量太大”而对 BigQuery 产生成本焦虑,其实绝大多数问题出在表设计没考虑扫描裁剪,而不是平台本身贵。
2.2 BigQuery ML:让 SQL 工程师一只脚迈进机器学习
BigQuery ML 最被低估的价值,是降低了“在数据旁边做模型”的门槛。你不用导出数据、不用另起 Python 服务,直接在 SQL 里 CREATE MODEL,就能训练线性回归、XGBoost、深度模型,也可以把 Vertex AI 上的 Gemini 大模型注册成远程模型来调用。
一个典型场景:客服工单表存在 BigQuery 里,你想自动做情绪分类。过去需要数据工程师导出数据,算法工程师训练模型,再发布 API;现在可以在 BigQuery 里用 CREATE OR REPLACE MODEL 指定模型类型,训练集直接来自工单表,然后对未标注数据跑 ML.PREDICT。对多数业务团队来说,这已经把“机器学习”从“项目制行为”变成了一条 SQL 语句。官方文档有完整语法,我不贴大段代码,重点想说思路:Google 有意把 AI 能力下沉到 SQL 层,就是为了让数据工程师而不是专门的 MLOps 团队也能起步。我认识不少传统数仓工程师,就是从 BigQuery ML 开始,第一次亲手跑通了一个“自己的模型”。
2.3 BigLake、Dataplex 与数据治理:数据原生不等于数据搬家
很多人误以为“数据原生云”就是把所有数据都迁入一个数据仓库。实际上 Google Cloud 用 BigLake 允许你直接查询外部对象存储中的数据(包括其他云或本地数据湖),用 Dataplex 做统一的元数据、数据质量和数据权限管理,用 Dataform 做数据管道编排,用 Looker 做统一语义层和 BI 分析。这个组合要解决的是:数据可以分散在不同存储,但治理、血缘、权限和查询体验必须统一。AI 时代最怕的不是没有数据,而是数据大量存在却无目录、无权限、无质量保障。Dataplex 的自动数据扫描和沿袭跟踪,在这种背景下比任何炫酷模型都更重要。
3. TPU 到 AI Hypercomputer:谷歌押注的“AI 算力原生”
3.1 TPU 不是突然出现的,它是十年算力焦虑的答案
很多人以为 TPU 是 AlphaGo 之后才有的,实际上 Google 在 2015 年前后就在为深度学习准备专用芯片。CPU 是通用计算的“万金油”,GPU 是为图形并行优化过的处理器,而 TPU 是为矩阵乘法和 Transformer 这类 AI 计算专门设计的运算单元。它对 TensorFlow/JAX 生态友好,训练大模型时单位算力成本通常比同等 GPU 方案更有竞争力。当然,TPU 不是万能药——如果团队完全依赖 GPU 生态、用着大量 CUDA 库,迁移到 TPU 会有学习成本。这是生态选型问题,不是单纯“哪个芯片快”的问题。
在纯技术对比之外,我更看重 TPU 带来的“供应链安全感”。当所有云厂商的 GPU 都依赖同一家供应商时,谁能提供自研芯片,谁就能在资源紧张周期里更好地保障排期和成本。Google 在这一点上的角色很像“云里的第二供应商”,哪怕你不一定用 TPU,它的存在也能让 GPU 定价更理性,这是我建议所有做 AI 基建的团队都关注它的原因。
3.2 AI Hypercomputer 的实质:用超算集群的思维交付 AI 计算
AI Hypercomputer 是 Google 将 TPU/GPU、高带宽光网络、对象存储和集群调度软件打包成一套“AI 超级计算机”的产品化方案。它解决的核心痛点不是“有多少张卡”,而是“一张卡坏了集群怎么办”、“几千张卡同时训练时通信瓶颈怎么破”、“训练任务能否稳定跑数周不中断”。谷歌的工程积累来自它自己训练 Gemini 等大模型的实践,因此能提供动态切分、容错恢复、作业调度等超出普通 K8s 集群的能力。对用户来说,你租的不再是散装的 GPU 实例,而是一个经过调优、整体交付的 AI 训练环境。
这里说句实话:AI Hypercomputer 这类产品更偏大企业与 AI 公司的对公方案,普通小团队初期多半用不到。但它代表了云的方向——云厂商不再卖“零件”,而是卖“整机体验”。这个趋势对所有做 AI 的人都有影响:以后做项目,团队原本要自己搞定的很多基础设施问题,会被云服务逐步吸收掉,你要操心的事情会从“怎么把集群调稳”变成“怎么把业务目标和成本管好”。
3.3 算力选型判断框架:什么时候选 TPU、GPU,还是干脆只用 API
结合我的实际经验,算力选型可以归纳成下面几条判断标准:
- 团队对框架生态的熟悉程度:只会 PyTorch+CUDA 的话,第一版先用 GPU 跑通;有 JAX/TensorFlow 经验或者愿意投入时间迁移,TPU 的成本优势会显现。
- 训练规模和时长:短期实验、小模型、在线推理,用现成 GPU 更灵活;千卡级以上、训练周期超过一周的稳定长任务,TPU 更值得评估。
- 业务是否真的需要自己训练:如果只是想用大模型能力,Vertex AI 上的 Gemini API 或 Model Garden 里的开源模型 API,通常比自建算力便宜、上线更快。别为了“AI Native”而自建一切。
这个框架可能反向但有用:我见过太多团队一上来就租了八卡 A100 做微调,结果数据没准备好、方案还在验证,机器空转了半个月。与其纠结要不要上 TPU,不如先把“到底需不需要自己训练”这个问题想清楚。很多时候,调用 API 跑通验证,等业务量明确后再迁移到专属算力,才是成本最优路径。
4. Vertex AI:把“模型”变成“产品”的工程闭环
4.1 Model Garden 与 Agent Builder:模型选择第一次变成了“货架购物”
Vertex AI 的 Model Garden 把谷歌自研模型、开源模型和第三方模型都集中到一个入口,你可以先试 Prompt、比较效果,再决定用哪个模型、跑在什么算力上。Agent Builder 则在模型之上提供知识库检索、对话编排、函数调用(Function Calling)等能力,让“大模型聊天”进化为能调用业务 API、查询数据库、返回结构化结果的 Agent。对业务团队来说,最大变化是:过去做智能客服/知识库问答至少要一个不小的算法团队,现在配置式的工具就能把 MVP 搭出来。
我分享一个选型心得:先选足够好的商业化 API,验证完业务价值再考虑换开源模型或自部署,顺序反了会浪费大量时间在“调模型”而不是“验证需求”。很多人一上来就追求开源私有化部署,觉得数据安全、成本低,但其实在业务没跑通前,商业化 API 的快速迭代价值远大于那点推理成本差额。等流量和需求都验证了,再优化部署形态,节奏才是对的。
4.2 一次实际跑通 AI 全链路的复盘:数据、训练、部署、调用
我按最常见的企业落地路径梳理一条完整链路,可以直接当模板用:
- 数据准备:用 Dataflow 或 Dataform 把日志/业务库数据清洗进 BigQuery,完成分区、特征工程。
- 模型选择:在 Vertex AI 的 Model Garden 里试用 Gemini 或开源模型,确定基座模型。
- 端到端部署:如果用 BigQuery ML,训练完的模型直接注册到 Vertex AI Model Registry;如果用大模型,微调完的权重部署到 Vertex AI Endpoint,配置好机器类型和自动扩缩容。
- 应用接入:通过 API 或 SDK 调用 Endpoint,网关层做认证、限流和缓存。
- 监控与迭代:接入 Vertex AI Model Monitoring,观测数据漂移和推理延迟,制定定期重训策略。
这条链路每一步都有托管服务,链路短不等于没有工程债。自动扩缩容策略没配好,流量一上来账单会非常陡;模型版本的影子测试和灰度发布不做,一次升级可能把线上效果直接搞崩。这些词听起来传统,但在 AI 应用里反而更容易被忽视,因为大家的注意力全被模型效果吸引走了。以我的经验,AI 项目上线后 70% 的精力会花在“监控数据分布、处理回归、迭代数据质量”上,模型训练反而只占小部分。
4.3 RAG 的检索质量,才是知识库问答的真正瓶颈
做企业知识库问答,最常踩的坑是:模型很聪明,但检索召回的资料不对。RAG(检索增强生成)链路中,chunk 切分大小、向量索引的相似度阈值、关键词召回与向量召回的混合策略、最终给模型的上下文截断,都对答案质量有决定性影响。用 Vertex AI Search 或向量搜索时,我建议先把原始文档按语义段落切分,每段保留来源 ID,然后先跑一轮检索评估,比如人工标注 100 条问题答案。等召回准确率上了八成再调生成,别一上来就死磕 Prompt。一个很朴素的事实是:Prompt 调得再漂亮,检索回来的内容是错的,模型也只会一本正经地胡说八道。
这个问题的另一个方向是溯源设计。企业知识库问答不像聊天,用户希望每个回答都能追到原始文档,这既是业务要求也是合规要求。RAG 系统里如果只返回模型生成的答案而不附带引用来源,后期做内容审计时基本是灾难。所以做这类项目时,我会把“来源引用”当成一个和模型效果同等重要的功能来做,而不是上线后再补。
5. AI 正在重塑云上的开发范式,而不只是多了一个功能
5.1 当 AI 编程助手学会云上 SDK,开发的姿势变了
Google Cloud 的 Gemini Code Assist 这类工具,对云端开发者的价值比很多人想象的大。过去写一个 Cloud Run 服务、配一套 IAM 权限、写一段访问 BigQuery 的代码,至少要查三份文档;现在 AI 代码助手能根据注释直接生成可运行代码,还能在 IDE 里解释现有项目的结构和依赖。我自己的体验是,AI 编程不会让工程师失业,但会把“查文档-复制-改错-再查”的循环大幅压缩,让工程师把时间留给架构、安全和业务理解。
对云厂商来说,这背后是一场更大的布局:AI 编程助手不再只是“帮人写代码”,而是“帮人学会用自家的云”。当生成代码默认用了最佳实践、自动补齐了 IAM 权限建议、主动提示成本优化项时,用户的云使用门槛会肉眼可见地降低。这也意味着,云厂商之间竞争的不只是算力和价格,还包括“谁家的 AI 助手最懂自家平台”。
5.2 Agent 与 MCP:模型不再只是聊天,而是云上的“新用户”
MCP(Model Context Protocol)这类协议正在做的事,是把云端的数据源和工具抽象成模型可以调用的标准化接口。你可以理解成:以前是“人通过控制台调用云服务”,以后是“Agent 通过协议调用云服务”。这意味着云的 API 设计、权限模型和计费体系,都要开始面对“调用方可能不是人类”这一现实。IAM 依然重要,但权限最小化的对象会变得更复杂——同一个服务账号背后可能跑着几十个不同目标的 Agent。对做云应用的人来说,提前思考“我的服务要不要暴露成 Agent 可调用的工具、怎么限流、怎么做审计”,会比继续卷 CRUD 接口有更高的杠杆。
另外,Agent 生产环境的调试也值得提前设计。传统接口报错有堆栈、有 trace ID,Agent 出错却往往是“工具调用返回了异常结果,模型决定换个思路继续”,这种不确定性让排查变得困难。所以未来做 Agent 类应用,日志里一定要记录每一步工具调用的输入输出,而不是只记录最终结果。这和过去做分布式系统要记录全链路日志是一个道理,只是很多人现在还没意识到。
5.3 开发者技能树的改变:安全边界与结果校验比 YAML 更重要
过去十年云开发者的核心技能是“把系统的每一步说清楚”——集群怎么配、网络怎么通、权限怎么给。在 AI 原生的开发方式里,一部分配置工作会被平台和模型接管,开发者的重心会转移到更高层的“边界设计”:Agent 能访问哪些数据、模型输出如何校验、失败时如何降级。对一个普通开发者,我的建议是别急着学一堆新框架,先把 IAM、日志审计、数据血缘这些“安全基础设施”吃透。AI 越自动化,边界和安全设计越值钱。
另一个被低估的技能是“给模型编说明文档”。传统 API 有 OpenAPI 文档,Agent 要调用工具也需要清晰的功能描述、参数说明和错误语义。很多时候 Agent 表现不稳定,不是模型不够聪明,而是工具描述得不够清楚。会写“给模型看的接口说明”,正在成为 AI 原生开发时代的一项新基本功,这一点在跟 teams 合作过的项目里反复被验证。
6. 落到地:普通团队现在就可以动手的三件事
6.1 第一件事:把分散的数据先统一到一个可治理的平台
AI 项目最大的前置条件不是模型,而是数据。不管最后选哪个云,先用 BigQuery 或同等平台把各业务库、日志、外部数据源汇聚起来,建好分区、数据目录和血缘。这一步在短期内看不到 AI 的“噱头”,但它是后面所有模型项目能快速试错的前提。我自己很少建议客户一上来就搞大数据湖,因为湖容易搞成沼泽;一个治理得不错的数仓,远比一个空空荡荡的数据湖有用。
统一数据平台的关键不是工具选型,而是“让谁负责数据的可信度”。很多企业数据平台建完之后没人认领、没人维护,源系统一改字段,管道立刻断裂。所以这件事要有一个明确的 owner,哪怕开始只是一个小团队,也要有对数据质量负责的机制。这也是我认为“数据原生”最难落地的地方——它不是技术工作,而是组织工作。
6.2 第二件事:选一个能算出钱的场景先跑通
大模型能做的太多了,但第一个场景一定要满足两个条件:数据现成、效果可量化。比如客服工单分类、营销素材生成、库存预测、质检报告摘要。用 BigQuery ML 或 Vertex AI 先做一版最简 MVP,哪怕效果只比原来好 10%,也能在组织内部建立信心并拿到后续资源。不要第一个项目就挑战“全公司智能助手”这种范围巨大的工程,失败概率极高。
场景选择上我还有一个判断标准:优先做“人已经能做好但成本很高”的事,而不是“人根本做不了”的事。前者比如客服问答,人工能做但响应慢、口径不统一,AI 替代后收益立刻可见;后者比如预测未来库存,这类问题依赖数据和模型成熟度,见效周期长,作为第一个项目容易挫伤团队信心。
6.3 第三件事:把 AI 的账算明白
AI 上云的典型成本由四块构成:模型训练/微调算力、在线推理常驻资源、数据存储与查询、出网流量。最容易失控的是在线推理:部署一个模型到 GPU 实例上,即使没有调用也在持续烧钱。省钱的优先级可以按下面的表格来排:
| 成本项 | 典型失控原因 | 省钱策略 |
|---|---|---|
| 在线推理 | GPU 实例常驻,利用率低 | 能走批量推理就别开实时接口;必要时配置自动扩缩容 |
| 模型训练 | 数据未就绪就开始占卡 | 先用小规模样本验证,再放大训练 |
| 数据查询 | 全表扫描、无分区 | 建分区/聚簇表,批量任务用预订 slot |
| 出网流量 | 模型结果/日志反复导出 | 尽量在云内完成数据处理链路 |
这套成本意识要在项目第一天就建立。我见过很多团队,模型效果很好,一算账却发现每月推理费用比预期高了一个数量级,最后项目被叫停。AI 项目不是只比效果,还要比“单位业务价值的成本”。能把账算清楚的人,在组织里的话语权远比只会调模型的人大。
最后再分享一点个人体会:别被“AI 重新定义云”这种宏大叙事推着走。每次听到新概念,我都会先问自己三个问题——它降低了我做某件事的门槛吗?它把原本很贵的事变便宜了吗?它有没有引入新的、我不愿意承受的锁定?用这三个问题去看 Google Cloud 的 AI 和数据原生布局,你会发现方向确实在变,但真正值钱的地方,永远是你有没有把自己的数据和场景管好。技术永远在迭代,这两件事不会变。