企业官网建设流程全解析

10分钟上手GE：昇腾平台模型编译与执行的极简教程

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

GE（Graph Engine）是面向昇腾的图编译器和执行器，提供计算图优化、多流并行、内存复用和模型下沉等技术，加速模型执行效率并减少内存占用。它支持PyTorch、TensorFlow前端接入，以及onnx、pb等主流模型格式的解析与编译。

🚀 准备工作：环境搭建

1. 克隆代码仓库

git clone https://gitcode.com/cann/ge cd ge

2. 安装依赖

# 执行初始化脚本 ./scripts/init_env.sh # 安装Python依赖 pip install -r requirements.txt

⚙️ 核心功能与工作流程

GE的工作流程主要分为模型解析、图优化和执行三个阶段。通过自动化处理，将深度学习模型转换为昇腾平台高效运行的格式。

模型解析

GE支持多种模型格式输入，包括ONNX、TensorFlow PB模型等。解析模块位于parser/parser/目录，负责将不同格式的模型统一转换为GE内部计算图表示。

图优化

图优化是GE的核心能力之一，通过compiler/graph/optimize/目录下的优化算法，对计算图进行算子融合、内存复用、并行策略优化等操作，提升模型执行效率。

执行阶段

优化后的计算图由执行器在昇腾设备上运行，执行器相关代码位于runtime/v2/目录，支持多流并行执行和动态内存管理。

📝 快速上手：编译与运行ONNX模型

1. 准备ONNX模型

将你的ONNX模型（如model.onnx）放置在当前目录。

2. 使用ATC工具编译模型

ATC（Ascend Tensor Compiler）是GE提供的模型编译工具，位于api/atc/目录。执行以下命令编译模型：

./api/atc/atc --model=model.onnx --framework=5 --output=output_model --soc_version=Ascend310

• --model：输入ONNX模型路径
• --framework=5：指定框架为ONNX
• --output：输出模型名称
• --soc_version：指定昇腾设备型号

3. 加载并执行编译后的模型

使用GE提供的Python API加载模型并执行推理，示例代码可参考examples/offline_compile_run/目录下的样例。

📚 进阶学习资源

• 官方文档：详细的使用指南和API说明位于docs/目录
• 示例代码：examples/目录包含各类使用场景的示例，如自定义算子、模型编译运行等
• 测试用例：tests/目录下的测试代码可帮助理解GE的功能实现细节

💡 常见问题解决

Q：编译模型时提示依赖缺失？

A：检查requirements.txt文件，确保所有依赖已正确安装。

Q：如何查看模型优化过程？

A：通过设置环境变量GE_DUMP_GRAPH=1，可在base/common/dump/目录下生成优化过程中的中间图文件。

通过以上步骤，你已掌握GE的基本使用方法。GE作为昇腾平台的核心图编译引擎，为深度学习模型提供了高效的优化和执行能力，助力AI应用在昇腾设备上发挥最佳性能。

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge