一、Discover|模型发现与基础接入
该模块是新手进入 Bedrock 的第一步,核心作用:浏览模型、开通访问、获取调用凭证。
- Overview 总览控制台首页,展示 Bedrock 整体能力、用量看板、快速上手指引,适合刚开通服务时快速了解产品定位。
- Quickstart 快速启动(New)官方一键 Demo 模板,内置代码示例(Python/Java/CLI),开箱即用,不用自己写基础调用代码,新手第一个跑通模型就用它。
- Model catalog 模型目录(当前页面高亮)全平台模型仓库,所有亚马逊自研、第三方厂商大模型都在这里:Claude、Titan、Llama、Mistral、Cohere、Stable Diffusion 等。
- 可查看每个模型参数、上下文长度、支持功能(文生文 / 文生图 / 多模态)、定价;
- 在这里提交模型访问申请,开通权限后才能调用对应模型。
- API keys API 密钥Bedrock 运行时调用凭证,用于本地代码、第三方工具(LiteLLM/OneAPI)对接 Bedrock,替代长期 AWS AccessKey,权限管控更细。
二、Labs|实验室辅助工具(New 新功能区)
实验类工具,用来对比、排查配额限制,选型阶段高频使用。
- Quotas 配额管理查看当前账号各模型并发、TPM 令牌限额;申请提升调用配额,解决 “调用限流报错” 核心入口。
- Compare models 模型对比可视化并排对比多个模型输出效果、速度、成本,不用手动切换模型测试,快速选型。
三、Test|模型测试与调试
拿到模型权限后,先在这里离线测试 Prompt 效果,不用写代码。
- Playground 沙盒测试台Bedrock 最常用功能!可视化调试 Prompt:
- 支持文本、图片多模态输入;
- 调整温度、TopP、最大生成长度等超参数;
- 一键复制生成对应 API 调用代码,直接复制到项目使用。
- Watermark detection AI 水印检测检测一段文本 / 图片是否由 Bedrock 模型生成,满足企业内容溯源、合规审计需求。
- Tokenizer 分词器统计输入 Prompt、输出内容的 Token 数量,精准预估调用成本,避免超长文本超出模型上下文窗口。
四、Infer|推理部署(生产级运行能力)
测试完 Prompt 后,正式上线业务时使用的推理能力,区分按需、批量、自定义推理。
- Inference profiles 推理配置文件统一管理模型调用参数模板,全局复用 Prompt 参数、限流规则,多服务调用统一配置,不用每个项目重复写参数。
- Batch inference 批量推理离线大批量任务:海量文档摘要、数据清洗、批量生成文案,不需要实时响应,按批量文件计费,成本更低。
- Provisioned Throughput预置 / 预留模型算力吞吐量:它是 Bedrock 面向生产级高并发、稳定业务推出的专属算力方案,用来彻底解决按需模式 TPM/RPM 限流、算力共享拥堵、延迟波动大的痛点。
- Custom model on-demand 自定义按需推理针对导入 / 微调后的专属模型,开通专属按需推理端点,稳定承载线上实时业务流量。
五、Tune|模型微调(定制化模型优化)
通用大模型效果不满足业务场景时,用自有数据微调专属模型。
- Custom models 自定义微调模型托管微调入口,上传自有训练数据集,一键完成监督微调 SFT、RLHF,生成专属优化后的模型。
- Prompt router models 提示路由模型智能路由:根据用户输入内容自动分发到最合适的模型,简单问题用轻量低成本模型,复杂推理使用高端大模型,节省调用成本。
- Imported models 导入模型把本地 / 开源训练好的模型上传到 Bedrock 平台托管推理,支持自有开源大模型私有化部署。
- Marketplace model deployments 市场模型部署AWS Marketplace 第三方专业行业模型(金融、医疗、法律专用模型),一键部署到 Bedrock 推理环境。
六、Build|搭建企业级 AI 应用(核心业务模块)
不用从零开发,基于 Bedrock 封装能力搭建完整 AI 系统,RAG、智能体、安全防护全在这里。
- Agents 智能体可自动调用外部 API、工具、数据库的 AI Agent,实现复杂任务自动化(订单查询、数据分析、工单处理),支持多步骤自主规划。
- Flows 工作流编排可视化拖拽编排 AI 流程:串联多个模型、知识库、函数,实现多阶段 AI 流水线(检索→总结→翻译→输出)。
- Knowledge Bases (KB) 知识库 RAGBedrock 原生 RAG 能力,上传 PDF/Word/ 数据库,自动切片、向量存储,让大模型读取私有业务数据,解决模型幻觉问题,企业知识库问答必备。
- Automated Reasoning 自动推理增强模型逻辑、数学、代码推理能力,针对复杂计算题、逻辑推理场景优化输出结果。
- Guardrails 安全护栏AI 内容安全管控:自定义敏感词、违禁内容、PII 隐私过滤、话题限制,防止模型输出违规内容,满足行业合规(金融 / 政务)。
- Prompt Management 提示词管理企业级 Prompt 仓库,统一存储、版本管理、灰度发布 Prompt,团队多人协作维护提示词模板。
- Advanced Prompt Optimization 高级提示词优化(New)自动迭代优化 Prompt,输入业务目标和评测标准,平台自动生成多版 Prompt 对比,提升输出准确率,降低人工调参成本。
- Data Automation 数据自动化自动处理训练、推理、知识库数据,数据清洗、格式转换、增量同步一体化。
- AgentCore企业级大规模智能体托管运行环境,面向复杂多 Agent 集群业务。
七、Assess|AI 效果评估
上线前 / 上线后量化 AI 应用质量,避免凭主观感受判断效果。
- Evaluations 模型评估上传测试数据集,自动化评测模型准确率、召回率、幻觉率、回答相关性,生成量化报告,用于对比微调前后、不同模型的效果差异。
八、Configure and learn|配置与学习中心
账号全局设置、权限、官方文档入口
- Settings 全局设置Bedrock 服务全局配置:日志开启、加密、跨区域设置、标签管理。
- Model access 模型访问权限统一管理所有模型开通权限,批量申请 / 关闭模型访问,适合多账号、多团队管理。
- User guide 用户指南官方完整文档,功能详细参数、代码示例、最佳实践。
- Bedrock Service Terms 服务条款计费、数据隐私、合规相关官方协议。
新手推荐上手顺序(避坑路线)
- 打开「Discover-Model catalog」申请模型访问权限
- 进入「Test-Playground」调试 Prompt,跑通基础对话
- 搭建业务知识库:「Build-Knowledge Bases」做 RAG 问答
- 加安全管控:「Build-Guardrails」配置内容过滤
- 复杂自动化场景:「Build-Agents」开发智能体
- 自有数据优化模型:「Tune-Custom models」微调
- 批量离线任务:「Infer-Batch inference」
- 上线前验证效果:「Assess-Evaluations」自动化评测
- 生产环境统一管理:Prompt Management、Inference profiles
总结
Amazon Bedrock 把大模型完整生命周期全部封装在控制台:从模型选型测试→RAG/Agent 应用搭建→微调定制→推理部署→效果评估→安全管控一站式完成,不用底层搭建算力、向量库、推理服务。新手可以按照本文模块顺序逐个体验,快速落地企业 AI 应用。