☰

企业官网建设流程全解析

首页 / 建站日记 / 企业官网建设流程全解析
CANN/asc-devkit：L0C Buffer到UB数据搬运（Fixpipe）
2026/7/16 23:39:05 网站建设 项目流程

L0C Buffer到UB数据搬运（Fixpipe）

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

  • Ascend 950PR/Ascend 950DT：支持包含FixpipeParamsArch3510参数的接口。
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持
  • Atlas 200I/500 A2 推理产品：支持包含FixpipeParamsM300参数的接口。
  • Atlas 推理系列产品AI Core：不支持
  • Atlas 推理系列产品Vector Core：不支持
  • Atlas 训练系列产品：不支持
  • Kirin X90：不支持
  • Kirin 9030：不支持

功能说明

头文件路径为：basic_api/kernel_operator_fixpipe_intf.h。

矩阵计算的结果存放在L0C Buffer，Fixpipe接口用于将结果搬运至Unified Buffer（UB）中，并且在搬运过程中支持随路格式转换等操作。

以Ascend 950PR/Ascend 950DT为例，下图展示了随路量化、随路ReLU、随路通道合并的有效组合、中间数据类型和数据路径。下图中的F32->F16与F32->BF16为非量化模式，仅为Cast，其余为随路scalar/tensor量化模式。

图2L0C2UB流程图

函数原型

L0C Buffer到UB数据搬运提供矩阵搬出的组合接口Fixpipe，接口内包含了设置寄存器与数据搬运能力，对应的接口如下：

针对Ascend 950PR/Ascend 950DT：

  • 通路L0C Buffer->UB，不开启tensor量化功能：

    template <typename T, typename U, const FixpipeConfig& config = CFG_ROW_MAJOR> __aicore__ inline void Fixpipe(const LocalTensor<T>& dst, const LocalTensor<U>& src, const FixpipeParamsArch3510<config.format>& intriParams)

  • 通路L0C Buffer->UB，开启tensor量化功能：

    template <typename T, typename U, const FixpipeConfig& config = CFG_ROW_MAJOR> __aicore__ inline void Fixpipe(const LocalTensor<T>& dst, const LocalTensor<U>& src, const LocalTensor<uint64_t>& cbufWorkspace, const FixpipeParamsArch3510<config.format>& intriParams)

针对Atlas 200I/500 A2 推理产品：

  • 通路L0C Buffer->UB，不开启tensor量化功能：

    template <typename T, typename U, const FixpipeConfig& config = CFG_ROW_MAJOR> __aicore__ inline void Fixpipe(const LocalTensor<T>& dst, const LocalTensor<U>& src, const FixpipeParamsM300& intriParams)

  • 通路L0C Buffer->UB，开启tensor量化功能：

    template <typename T, typename U, const FixpipeConfig& config = CFG_ROW_MAJOR, typename S = uint64_t, typename Std::enable_if<Std::is_same<PrimT<S>, uint64_t>::value, bool>::type = true> __aicore__ inline void Fixpipe(const LocalTensor<T>& dst, const LocalTensor<U>& src, const LocalTensor<S>& cbufWorkspace, const FixpipeParamsM300& intriParams)

注意：

  • 调用L0C Buffer到UB的Fixpipe接口时，模板参数“const FixpipeConfig& config”的值不能使用CFG_ROW_MAJOR、CFG_COLUMN_MAJOR、CFG_NZ，而需要显式构造isToUB = true的配置，表示目的物理地址为UB。

参数说明

表1Fixpipe模板参数说明

参数名描述
T/U目的操作数/源操作数的数据类型。支持的数据类型请参考数据类型。
configFixpipe相关配置参数，类型为FixpipeConfig，需要显式构造isToUB = true的配置，表示目的物理地址为UB，构造示例如下：
开启NZ2ND，输出数据格式为ND格式：
constexpr AscendC::FixpipeConfig CFG_ROW_MAJOR_UB = {AscendC::CO2Layout::ROW_MAJOR, true};
NZ2NZ，输出数据格式为NZ格式：
constexpr AscendC::FixpipeConfig CFG_NZ_UB = {AscendC::CO2Layout::NZ, true};
开启NZ2DN，输出数据格式为DN格式：
constexpr AscendC::FixpipeConfig CFG_COLUMN_MAJOR_UB = {AscendC::CO2Layout::COLUMN_MAJOR, true};
FixpipeConfig结构体定义如下：
struct FixpipeConfig {
CO2Layout format;
bool isToUB; // 用于用户指定目的地址的位置是否是UB
};
enum class CO2Layout : uint8_t {
NZ = 0, // 输出数据格式仍为NZ格式。
ROW_MAJOR, // 开启NZ2ND，输出数据格式为ND格式。
COLUMN_MAJOR, // 仅Ascend 950PR/Ascend 950DT支持，开启NZ2DN，输出数据格式为DN格式。
};
constexpr FixpipeConfig CFG_NZ = {CO2Layout::NZ};
constexpr FixpipeConfig CFG_ROW_MAJOR = {CO2Layout::ROW_MAJOR};
constexpr FixpipeConfig CFG_COLUMN_MAJOR = {CO2Layout::COLUMN_MAJOR}; // 仅Ascend 950PR/Ascend 950DT支持
S参数cbufWorkspace的数据类型，即随路量化参数的数据类型。
•当目的操作数、源操作数、cbufWorkspace使用基础数据类型时，模板参数S必须为uint64_t类型，否则编译失败。
•当目的操作数、源操作数、cbufWorkspace使用TensorTrait类型时，模板参数S的LiteType必须为uint64_t类型，否则编译失败。
模板参数S后一个模板参数仅用于上述数据类型检查，用户无需关注。

表2Fixpipe参数说明

参数名称输入/输出含义
dst输出目的操作数，类型为LocalTensor，地址需满足32字节对齐。
src输入源操作数，类型为LocalTensor，支持的物理地址为L0C Buffer（TPosition为CO1），为Mmad接口计算的结果。数据格式为NZ格式，地址需要满足64B对齐。
intriParams输入Fixpipe搬运参数，具体定义请参考"basic_api/interface/kernel_struct_fixpipe.h"。
参数说明请参考Fixpipe搬运参数（FixpipeParamsArch3510、FixpipeParamsM300）结构体说明。
cbufWorkspace输入量化参数，类型为LocalTensor<uint64_t>，支持的物理地址为L1 Buffer（TPosition为C1），地址需满足32字节对齐。
•当quantPre为VDEQF16、VQF322B8_PRE、VREQ8时支持。
•针对Ascend 950PR/Ascend 950DT，除上述外还有VQF322FP8_PRE、VQF322HIF8_PRE、VQF322HIF8_PRE_HYBRID、VQS322BF16_PRE、VQF322F16_PRE、VQF322BF16_PRE、VQF322F32_PRE支持。
quantPre介绍请参考Fixpipe搬运参数结构体中quantPre部分。

表3Fixpipe搬运参数（FixpipeParamsArch3510）结构体说明

参数名称数据类型含义
nSize必选输入源NZ矩阵在N方向上的大小，取值范围为nSize∈[0, 4095]。
• 若开启channelSplit功能功能，nSize必须为8的倍数。
• 若不开启channelSplit功能，nSize必须为16的倍数。
• 若开启NZ2ND，nSize*sizeof(T)必须为32的倍数。
注：nSize=0表示不执行搬运，该接口将被视为NOP（空操作）。
mSize必选输入源NZ矩阵在M方向上的大小，取值范围为mSize∈[0, 65535]。若开启NZ2DN，mSize*sizeof(T)必须为32的倍数。
注：mSize=0表示不执行搬运，该接口将被视为NOP（空操作）。
srcStride必选输入源NZ矩阵中相邻Z排布的起始地址偏移，取值范围为srcStride∈[0, 65535]，单位为C0_Size（16*sizeof(T)），T为src的数据类型，其值应填成mSize对16向上取整。
dstStride必选输入• 不开启NZ2ND/NZ2DN功能（NZ2NZ搬运）：目的NZ矩阵中相邻Z排布的起始地址偏移，取值不为0，单位为element。（与Fixpipe搬运参数（FixpipeParamsV220）中的dstStride相比，二者的单位发生了变化，FixpipeParamsV220中dstStride的单位为datablock（32字节），而FixpipeParamsArch3510中dstStride的单位为element。）
• 开启NZ2ND/NZ2DN功能：目的ND/DN矩阵每一行中的元素个数，取值不为0，单位为element。
quantPre可选输入用于控制量化模式，QuantMode_t类型，默认值为QuantMode_t::NoQuant，具体定义如下：
注：此参数需要用户手动配置，不会自动推导配置对应量化模式。
enum QuantMode_t
{
NoQuant, // 不开启量化功能
F322F16, // Float32_2_Float16: float cast成half，cast mode为CAST_RINT模式
F322BF16, // Float32_2_BFloat16 :float cast成bfloat16_t，cast mode为CAST_RINT模式
DEQF16, // DeQuant_Float16: int32_t量化成half, scalar量化
VDEQF16, // Vector_DeQuant_Float16: int32_t量化成half，tensor量化
QF322B8_PRE, // Quant_Float32_2_B8: float量化成int8_t/uint8_t，scalar量化
VQF322B8_PRE, // Vector_Quant_Float32_2_B8: float量化成int8_t/uint8_t，tensor量化
REQ8, // ReQuant_int8: int32_t量化成int8_t/uint8_t，scalar量化
VREQ8, // Vector_ReQuant_int8: int32_t量化成int8_t/uint8_t，tensor量化
QF322FP8_PRE, // Quant_Float32_2_FP8: float量化成fp8_e4m3fn_t，scalar量化
VQF322FP8_PRE, // Vector_Quant_Float32_2_FP8: float量化成fp8_e4m3fn_t，tensor量化
QF322HIF8_PRE, // Quant_Float32_2_HIF8: float量化成hifloat8_t(Half to Away Round)，scalar量化
VQF322HIF8_PRE, // Vector_Quant_Float32_2_HIF8: float量化成hifloat8_t(Half to Away Round)，tensor量化
QF322HIF8_PRE_HYBRID, // Quant_Float32_2_HIF8_Hybrid: float量化成hifloat8_t(Hybrid Round)，scalar量化
VQF322HIF8_PRE_HYBRID, // Vector_Quant_Float32_2_HIF8_Hybrid: float量化成hifloat8_t(Hybrid Round)，tensor量化
QS322BF16_PRE, // Quant_Int32_2_BFloat16: int32_t量化成bfloat16_t，scalar量化
VQS322BF16_PRE, // Vector_Quant_Int32_2_BFloat16: int32_t量化成bfloat16_t，tensor量化
QF322F16_PRE, // Quant_Float32_2_Float16: float量化成half，scalar量化
VQF322F16_PRE, // Vector_Quant_Float32_2_Float16: float量化成half，tensor量化
QF322BF16_PRE, // Quant_Float32_2_BFloat16: float量化成bfloat16_t，scalar量化
VQF322BF16_PRE, // Vector_Quant_Float32_2_BFloat16: float量化成bfloat16_t，tensor量化
QF322F32_PRE, // Quant_Float32_2_Float32: float量化成float，scalar量化，精度可以达到双千分之一，无法达到双万分之一。如果有双万分之一的精度要求，建议使用AscendDeQuant高阶API。
VQF322F32_PRE, // Vector_Quant_Float32_2_Float32: float量化成float，tensor量化，精度可以达到双千分之一，无法达到双万分之一。如果有双万分之一的精度要求，建议使用AscendDeQuant高阶API。
};
deqScalar可选输入scalar量化参数，表示单个scale值，quantPre量化模式为随路量化时需要设置该参数。支持的数据类型为uint64_t。
reluEn可选输入是否开启NormReLU的开关：
•false：不开启NormReLU功能， 默认为false；
•true：开启NormReLU功能。
unitFlag可选输入unitFlag是一种Mmad指令和Fixpipe指令细粒度的并行，开启该功能后，硬件每计算完一个分形，计算结果就会被搬出。取值说明如下：
• 0（2'b00）：不开启unitFlag；
• 2（2'b10）：开启unitFlag，硬件执行完指令之后，不复位单元标记位；
• 3（2'b11）：开启unitFlag，硬件执行完指令之后，复位单元标记位。
开启该功能时，须将Mmad指令和Fixpipe指令的unitFlag值设置为2或3。
参数设置方案和特性细节可参考：Mmad计算中关键特性说明的UnitFlag章节。
params可选输入用于选择和配置不同的随路格式转换（NZ2NZ/NZ2ND/NZ2DN），该参数为TransformParams类型的结构体。TransformParams结构体是一个基于模板参数的类型选择器，用于在编译时根据定义FixpipeParamsArch3510搬运参数时使用的模板参数，自动选择对应的参数类型。
template <CO2Layout format>
struct TransformParams {};
template <>
struct TransformParams<CO2Layout::NZ> {
__aicore__ inline TransformParams(){};
using PARAMS = uint8_t;
};
template <>
struct TransformParams<CO2Layout::ROW_MAJOR> {
__aicore__ inline TransformParams(){};
using PARAMS = Nz2NdParams;
};
template <>
struct TransformParams<CO2Layout::COLUMN_MAJOR> {
__aicore__ inline TransformParams(){};
using PARAMS = Nz2DnParams;
};

CO2Layout布局类型为ROW_MAJOR时， 该指令被定义为从L0C Buffer到目标位置的数据移动，并附带NZ2ND转换，结构体参数如下：
struct Nz2NdParams {
uint16_t ndNum = 1;
uint16_t srcNdStride = 0;
uint32_t dstNdStride = 0;
};
• ndNum：源NZ矩阵的数目，也就是传输ND矩阵的数目，取值范围为ndNum∈[0, 65535]。注：ndNum=0表示不执行搬运，该接口将被视为NOP（空操作）。
• srcNdStride：不同NZ矩阵起始地址之间的间隔，取值范围为srcNdStride∈[0, 65535]，单位为C0_SIZE。当ndNum配置为1时，srcNdStride配置为0即可，不生效。
• dstNdStride：目的相邻ND矩阵起始地址之间的偏移，取值范围为dstNdStride∈[1, 2^32 -1]，单位为element。当ndNum配置为1时，dstNdStride配置为0即可，不生效。

CO2Layout布局类型为COLUMN_MAJOR时， 该指令被定义为从L0C Buffer到目标位置的数据移动，并附带NZ2DN转换，结构体参数如下：
struct Nz2DnParams {
uint16_t dnNum = 1;
uint16_t srcNzMatrixStride = 0;
uint32_t dstDnMatrixStride = 0;
uint16_t srcNzC0Stride = 0;
};
• dnNum：传输DN矩阵的数目，取值范围为dnNum∈[0, 65535]。注：dnNum=0表示不执行搬运，该接口将被视为NOP（空操作）。
• srcNzMatrixStride：不同源NZ矩阵的偏移（头与头），取值范围srcNzMatrixStride∈[0, 65535]，单位C0_SIZE。当dnNum配置为1时，srcNzMatrixStride配置为0即可，不生效。
• dstDnMatrixStride：目的相邻ND矩阵起始地址之间的偏移，取值范围dstDnMatrixStride∈[0, 2^32 -1]，单位element。当dnNum配置为1时，dstDnMatrixStride配置为0即可，不生效。
• srcNzC0Stride：源矩阵NZ分形中相邻行的地址偏移（头与头），取值范围srcNzC0Stride∈[0, 65535]，单位C0_SIZE。当启用NZ2DN时，srcNzC0Stride不能为0。

CO2Layout布局类型为NZ时，为普通搬运DMA模式，表示从L0C Buffer到目标位置的正常数据移动。
dualDstCtrl可选输入双目标模式控制参数。对于Ascend 950PR/Ascend 950DT，同一AI Core内有一个Cube Core和两个Vector Core，当启用双目标模式控制时，L0C Buffer中的M×N矩阵将被分成两半，并同时分别写入两个Vector Core各自的UB中，其中前半部分写入SUB BLOCK0，后半部分写入SUB BLOCK1。
• 2'b00：单目标模式，将整个矩阵写入通过subBlockId参数配置的目标UB。
• 2'b01：双目标模式，按M维度拆分成形状为M / 2 * N的两个矩阵，分别写入两个UB, M必须为2的倍数。
• 2'b10：双目标模式，按N维度拆分成形状为M * N / 2的两个矩阵，分别写入两个UB, N须为32的倍数。
• 2'b11：保留值。
dualDstCtrl仅支持在普通搬运模式（NZ2NZ）或NZ2ND搬运场景下使用，不支持随路功能场景。
参数设置方案和特性细节可参考：L0C到UB双目标模式
subBlockId可选输入启用单目标模式时用于指示目标UB的SUB BLOCK ID。取值为0或1，取值为0时写入SUB BLOCK0，为1时写入SUB BLOCK1，默认为0。
isChannelSplit可选输入此参数仅在L0C Buffer到Global Memory通路下有效。

表4Fixpipe搬运参数（FixpipeParamsM300）结构体说明

参数名称数据类型含义
nSize输入源NZ矩阵在N方向上的大小，取值范围为nSize ∈[1, 4095]。
•若开启channelSplit功能，nSize必须为8的倍数。
•若不开启channelSplit功能，nSize必须为16的倍数。
mSize输入源NZ矩阵在M方向上的大小。
•不开启NZ2ND功能，取值范围为mSize∈[1, 65535]。
•开启NZ2ND功能，取值范围为mSize∈[1, 8192]。
srcStride输入源NZ矩阵中相邻Z排布的起始地址偏移，取值范围为srcStride∈[0, 65535]，单位为C0_SIZE(16*sizeof(T)，T为src的数据类型)。
dstStride输入•不开启NZ2ND功能，目的NZ矩阵中相邻Z排布的起始地址偏移，取值不为0，单位为datablock(32字节)。
•开启NZ2ND功能，目的ND矩阵每一行中的元素个数，取值不为0，单位为element。
quantPre输入QuantMode_t是一个枚举类型，用于控制量化模式，默认值为QuantMode_t::NoQuant，即不开启量化功能。QuantMode_t取值如下：
• NoQuant，不开启量化功能。
• F322F16，float cast成half，cast mode为CAST_RINT模式。
• F322BF16，float cast成bfloat16_t，cast mode为CAST_RINT模式。
• DEQF16，int32_t量化成half，scalar量化。
• VDEQF16，int32_t量化成half，tensor量化。
• QF322B8_PRE，float量化成uint8_t/int8_t，scalar量化。
• VQF322B8_PRE，float量化成uint8_t/int8_t，tensor量化。
• REQ8，int32_t量化成uint8_t/int8_t，scalar量化。
• VREQ8，int32_t量化成uint8_t/int8_t，tensor量化
deqScalar输入scalar量化参数，表示单个scale值，quantPre量化模式为scalar量化时需要设置该参数。支持的数据类型为uint64_t。
ndNum输入源NZ矩阵的数目，也就是传输ND矩阵的数目，取值范围为ndNum∈[1, 65535]。
srcNdStride输入不同NZ矩阵起始地址之间的间隔。当ndNum大于1时，取值范围为srcNdStride∈[1, 512]；当ndNum配置为1时，srcNdStride可配置为0，此时不生效。单位为数据块（16 * C0_SIZE）。
dstNdStride输入目的相邻ND矩阵起始地址之间的偏移，取值范围为dstNdStride∈[1, 65535]，单位为element。当ndNum配置为1时，dstNdStride配置为0即可，不生效。
reluEn输入是否开启ReLU的开关：
• false：不开启ReLU功能；
• true：开启ReLU功能。
unitFlag输入unitFlag是一种Mmad指令和Fixpipe指令细粒度的并行，开启该功能后，硬件每计算完一个分形，计算结果就会被搬出，该功能不适用于在L0C Buffer累加的场景。取值说明如下：
• 0（2'b00）：不开启unitFlag；
• 2（2'b10）：开启unitFlag，硬件执行完指令之后，不会设置寄存器；
• 3（2'b11）：开启unitFlag，硬件执行完指令之后，会将unitFlag关闭。
isChannelSplit输入此参数仅在L0C Buffer到Global Memory通路下有效。

数据类型

源矩阵与目的矩阵支持的数据类型组合

针对Ascend 950PR/Ascend 950DT，支持的数据类型组合如下：

源矩阵（L0C Buffer）目的矩阵（UB）
floatint8_t、uint8_t、hifloat8_t、fp8_e4m3fn_t、half、bfloat16_t、float。
int32_tint8_t、uint8_t、half、bfloat16_t、int32_t。

针对Atlas 200I/500 A2 推理产品，支持的数据类型组合如下：

源矩阵（L0C Buffer）目的矩阵（UB）
floatint8_t、uint8_t、half、bfloat16_t、float。
int32_tint8_t、uint8_t、half、int32_t。

返回值说明

无

约束说明

  • 对于量化输入为float32数据类型的说明如下：
    • 标准的IEEE 754 float32格式为：1bit符号位，8bits指数位，23bits尾数位；当前AI处理器支持的float32格式为：1bit符号位，8bits指数位，10bits尾数位。
    • 如果用户提供的是标准的IEEE 754 float32输入，API内部会处理成处理器支持的float32格式进行计算，此时如果golden数据生成过程中使用的是标准的IEEE 754 float32数据，则可能引入精度不匹配问题，需要修正golden数据的生成，将量化参数的23bits尾数位的低13bits数据位清零再参与量化计算。
  • 源矩阵NZ格式地址要求64字节对齐，目的矩阵NZ格式地址需要满足32字节对齐。
  • 当搬出的mSize、nSize或者ndNum中的任意一个值为0时，该指令不会被执行。ndNum=0时会报warning。
  • 量化和ReLU参数不能为inf/nan和非规格化数。
  • 目标数据不能有重叠。如果对目的地址有重叠写入，硬件不会报告任何警告和错误，也不保证重叠数据的写入顺序。
  • unitFlag特性开启需要配合Mmad同时开启。

  • dualDstCtrl仅支持在普通搬运模式（NZ2NZ）或NZ2ND搬运场景下使用，不支持随路功能场景。

  • 当启用NZ2DN且srcNzC0Stride不等于1时，不能同时开启unitFlag。

  • Ascend 950PR/Ascend 950DT特殊值/边界值约束说明：

    对于浮点类型inf/nan输入输出，可以通过CTRL寄存器（控制寄存器）的CTRL[48]比特位进行设置，控制浮点数量化搬出时的饱和模式；

    对于fp8_e4m3fn_t类型，可以通过CTRL寄存器（控制寄存器）的CTRL[48]比特位进行更精细的设置；

    • 非饱和模式：CTRL[48]设置成1'b1，inf/nan保持原输出。对于fp8_e4m3fn_t类型，若结果的绝对值为inf或大于fp8_e4m3fn_t的最大规格化值，则输出结果为nan。

    • 饱和模式：CTRL[48]设置成1'b0，inf输出会被饱和为±MAX， nan输出会被饱和为0。对于fp8_e4m3fn_t类型，当CTRL[50]设置成1'b0时，nan被转换为零，当CTRL[50]设置成1'b1时，nan保持不变，若结果的绝对值为inf或大于fp8_e4m3fn_t的最大规格化值，则结果为最大规格化值。

      // 设置CTRL[48]为0，开启浮点数饱和模式 AscendC::AscendCUtils::SetOverflow(0);

    对于整数类型只有饱和模式。

关键特性说明

以下图片和说明仅适用于Ascend 950PR/Ascend 950DT：

不开启NZ2ND随路格式转换

不开启NZ2ND的情况下，参数设置示例（通过Fixpipe接口搬运并去除dummy数据）和解释说明如下：

当M方向上的数据元素个数不是16的倍数时，搬入时会额外读取dummy数据，并在写入目标位置后丢弃这些dummy数据。矩阵块被定义为连续的16*16的数据块，数据块的个数为M/16向上取整，矩阵块的长度为M*16*sizeof(T)，T是数据类型。

单搬运模式：

  • nSize = 48，表示源NZ矩阵中待搬运矩阵（图中蓝色区域）在N方向上的大小为48个元素。
  • mSize = 24，表示源NZ矩阵中待搬运矩阵在M方向上的大小为24个元素。
  • srcStride = 64，表示源NZ矩阵中待搬运矩阵相邻Z排布的起始地址偏移，即下图中第一个蓝色Z排布的起始地址与第二个蓝色Z排布的起始地址之间的间隔为64 * C0_Size。
  • dstStride = 40 * C0，表示目的NZ矩阵中相邻Z排布的起始地址偏移，即下图中第一个蓝色Z排布的起始地址与第二个蓝色Z排布的起始地址之间的间隔为40 * 16个元素。

图1不开启NZ2ND参数的单搬运模式设置示意图

![](https://raw.gitcode.com/cann/asc-devkit/raw/1cd1d1192e01ae4a8684cd07552c35e13e5c4bdf/docs/zh/api/figures/不开启NZ2ND参数的单搬运模式设置示意图.png "不开启NZ2ND参数的单搬运模式设置示意图"?utm_source=gitcode_repo_files)

双目标控制模式：

在普通搬运模式下启用双目标模式如下图所示，分为按M维度拆分和按N维度拆分，按M维度拆分M必须为2的倍数，按N维度拆分N必须为32的倍数：

N方向切分：

  • nSize = 32，表示源NZ矩阵中待搬运矩阵在N方向上的大小为32个元素。
  • mSize = 48，表示源NZ矩阵中待搬运矩阵在M方向上的大小为48个元素。
  • srcStride = 64，表示源NZ矩阵中待搬运矩阵相邻Z排布的起始地址偏移，即下图中第一个块Z排布矩阵的起始地址与第二个Z排布矩阵的起始地址之间的间隔为64 * C0_Size。
  • dstStride = 64 * C0，表示目的NZ矩阵中相邻Z排布的起始地址偏移，即下图中UB0中Z排布的起始地址与UB1中Z排布的起始地址之间的间隔为64 * 16个元素。

M方向切分：

  • nSize = 32，表示源NZ矩阵中待搬运矩阵在N方向上的大小为32个元素。
  • mSize = 24，表示源NZ矩阵中待搬运矩阵在M方向上的大小为24个元素。
  • srcStride = 64，表示源NZ矩阵中待搬运矩阵相邻Z排布的起始地址偏移，即下图中第一个块Z排布矩阵的起始地址与第二个Z排布矩阵的起始地址之间的间隔为64 * C0_Size。
  • dstStride = 40 * C0，表示目的NZ矩阵中相邻Z排布的起始地址偏移，即下图中UB0（或UB1）中第一个Z排布的起始地址与第二个Z排布的起始地址之间的间隔为40 * 16个元素。

图2不开启NZ2ND参数和NZ2DN参数的双目标搬运模式设置示意图

![](https://raw.gitcode.com/cann/asc-devkit/raw/1cd1d1192e01ae4a8684cd07552c35e13e5c4bdf/docs/zh/api/figures/不开启NZ2ND参数和NZ2DN参数的双目标搬运模式设置示意图.png "不开启NZ2ND参数和NZ2DN参数的双目标搬运模式设置示意图"?utm_source=gitcode_repo_files)

开启NZ2ND随路格式转换

开启NZ2ND的情况下，参数设置示例和解释说明如下：

  • ndNum = 2，表示源NZ矩阵的数目为2。图中蓝色区域为NZ矩阵1，紫色区域为NZ矩阵2。
  • nSize = 32，表示源NZ矩阵（图中蓝色区域）在N方向上的大小为32个元素。
  • mSize = 48，表示源NZ矩阵在M方向上的大小为48个元素。
  • srcStride = 64，表示源NZ矩阵中相邻Z排布的起始地址偏移，即下图中第一个蓝色Z排布的起始地址与第二个蓝色Z排布的起始地址之间的间隔为64 * C0_Size。
  • dstStride = 64，表示目的ND矩阵每一行中的元素个数为64。
  • srcNdStride = 16，表示不同NZ矩阵起始地址之间的间隔为16 * 16 * C0_Size。
  • dstNdStride = 4096，表示目的相邻ND矩阵起始地址之间的偏移为4096个元素。

图3开启NZ2ND参数设置示意图

![](https://raw.gitcode.com/cann/asc-devkit/raw/1cd1d1192e01ae4a8684cd07552c35e13e5c4bdf/docs/zh/api/figures/开启NZ2ND参数设置示意图.png "开启NZ2ND参数设置示意图"?utm_source=gitcode_repo_files)

单搬运模式：

  • ndNum = 2，表示源NZ矩阵的数目为2。图中蓝色区域为NZ矩阵1，紫色区域为NZ矩阵2。
  • nSize = 32，表示源NZ矩阵（图中蓝色区域）在N方向上的大小为32个元素。
  • mSize = 48，表示源NZ矩阵在M方向上的大小为48个元素。
  • srcStride = 64，表示源NZ矩阵中相邻Z排布的起始地址偏移，即下图中第一个蓝色Z排布的起始地址与第二个蓝色Z排布的起始地址之间的间隔为64 * C0_Size。
  • dstStride = 64，表示目的ND矩阵每一行中的元素个数为64。
  • srcNdStride = 256，表示不同NZ矩阵起始地址之间的间隔为256，单位为C0_Size。
  • dstNdStride = 4096，表示目的相邻ND矩阵起始地址之间的偏移为4096个元素。

图4开启NZ2ND参数的单搬入模式设置示意图

![](https://raw.gitcode.com/cann/asc-devkit/raw/1cd1d1192e01ae4a8684cd07552c35e13e5c4bdf/docs/zh/api/figures/开启NZ2ND参数的单搬入模式设置示意图.png "开启NZ2ND参数的单搬入模式设置示意图"?utm_source=gitcode_repo_files)

双目标控制模式：

  • ndNum = 2，表示源NZ矩阵的数目为2。图中红框区域为矩阵1，蓝框区域为矩阵2。

  • nSize = 32，表示源NZ矩阵（图中红框区域或蓝框区域）在N方向上的大小为32个元素。

  • mSize = 48，表示源NZ矩阵在M方向上的大小为48个元素。

  • srcStride = 64，表示源NZ矩阵中相邻Z排布的起始地址偏移，即下图红框区域中左侧浅色Z排布矩阵的起始地址与右侧深色Z排布矩阵的起始地址之间的间隔为64 * C0_Size。

  • dstStride = 64，表示目的ND矩阵每一行中的元素个数为64。

  • ndNum = 2，表示源NZ矩阵的数目。

  • srcNdStride = 240，表示不同NZ矩阵起始地址之间的间隔为240 * C0_Size。

  • dstNdStride = 4096，表示目的相邻ND矩阵起始地址之间的偏移为4096个元素。

    图5开启NZ2ND参数双搬入模式设置示意图

    ![](https://raw.gitcode.com/cann/asc-devkit/raw/1cd1d1192e01ae4a8684cd07552c35e13e5c4bdf/docs/zh/api/figures/开启NZ2ND参数双搬入模式设置示意图.png "开启NZ2ND参数双搬入模式设置示意图"?utm_source=gitcode_repo_files)

开启NZ2DN随路格式转换

开启NZ2DN的情况下，参数设置示例和解释说明如下：

单搬运模式：

示例一，参数取值说明如下，示意图见图6：

  • dnNum = 2，表示源NZ矩阵的数目为2。图中蓝色区域为NZ矩阵1，紫色区域为NZ矩阵2。
  • nSize = 32，表示源NZ矩阵（图中蓝色区域）在N方向上的大小为32个元素。
  • mSize = 48，表示源NZ矩阵在M方向上的大小为48个元素。
  • srcStride = 80，表示源NZ矩阵中相邻Z排布的起始地址偏移，即下图中相邻两块蓝色Z排布的起始地址之间的间隔为80 * C0_Size。
  • dstStride = 80，表示目的DN矩阵每一行中的元素个数为80。
  • ndNum = 2，表示源NZ矩阵的数目。
  • srcNzMatrixStride = 240，表示不同源NZ矩阵的偏移，即下图中第一个蓝色Z排布的起始地址和第二个紫色Z排布的起始地址之间的间隔为240 * C0_Size。
  • srcNzC0Stride = 1：表示源矩阵NZ分形相邻行的地址偏移。
  • dstDnMatrixStride：表示相邻DN矩阵起始地址间的偏移为48 * 80 =3840个元素。

图6开启NZ2DN单搬运模式示意图1

![](https://raw.gitcode.com/cann/asc-devkit/raw/1cd1d1192e01ae4a8684cd07552c35e13e5c4bdf/docs/zh/api/figures/开启NZ2DN单搬运模式示意图1.png "开启NZ2DN单搬运模式示意图1"?utm_source=gitcode_repo_files)

示例二，参数取值说明如下，示意图见图7：

  • dnNum = 2，表示源NZ矩阵的数目为2。图中蓝色区域为NZ矩阵1，红色区域为NZ矩阵2。
  • nSize = 24，表示源NZ矩阵（图中蓝色区域）在N方向上的大小为24个元素。
  • mSize = 24，表示源NZ矩阵在M方向上的大小为24个元素。
  • srcStride = 80，表示源NZ矩阵中相邻Z排布的起始地址偏移，即下图中相邻两块蓝色Z排布的起始地址之间的间隔为80 * C0_Size。
  • dstStride = 60，表示目的DN矩阵每一行中的元素个数为60。
  • ndNum = 2，表示源NZ矩阵的数目。
  • srcNzMatrixStride = 240，表示不同源NZ矩阵的偏移，即下图中第一个蓝色Z排布的起始地址和第二个紫色Z排布的起始地址之间的间隔为240 * C0_Size。
  • srcNzC0Stride = 2：表示源矩阵NZ分形相邻行的地址偏移。
  • dstDnMatrixStride：表示相邻DN矩阵起始地址间的偏移为48 * 60 = 2880个元素。

图7开启NZ2DN单搬运模式示意图2

![](https://raw.gitcode.com/cann/asc-devkit/raw/1cd1d1192e01ae4a8684cd07552c35e13e5c4bdf/docs/zh/api/figures/开启NZ2DN单搬运模式示意图2.png "开启NZ2DN单搬运模式示意图2"?utm_source=gitcode_repo_files)

调用示例

完整样例请参考fixpipe_l0c2ub样例。

  • 示例：通路L0C Buffer->UB。输入A矩阵和B矩阵的数据类型为half，输出C矩阵为float，默认配置开启Nz2Nd的格式转换。完整样例可以参考样例链接。

    // L0C Buffer->UB 搬运，目的位置为UB，需将FixpipeConfig的isToUB配置为true。 constexpr AscendC::FixpipeConfig CFG_ROW_MAJOR_UB = {AscendC::CO2Layout::ROW_MAJOR, true}; AscendC::LocalTensor<outputType> cUB; cUB = AscendC::LocalTensor<outputType>(AscendC::TPosition::VECOUT, 0, cSingleSize); AscendC::FixpipeParamsArch3510<AscendC::CO2Layout::ROW_MAJOR> fixpipeParams; fixpipeParams.mSize = baseM; fixpipeParams.nSize = baseN; fixpipeParams.srcStride = CeilAlign(baseM, CUBE_BLOCK); fixpipeParams.dstStride = baseN; AscendC::Fixpipe<outputType, l0cType, CFG_ROW_MAJOR_UB>(cUB, c, fixpipeParams);

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

标签： 网站建设 企业官网 项目流程 UI设计 前端开发

热门文章

文章分类

标签云

网站建设 响应式设计 用户体验 SEO优化 前端开发 小程序 电商平台 性能优化

相关文章

您可能感兴趣的其他内容

如何在离线环境中安全高效地使用draw.io桌面版？
2026/7/16 23:32:11 网站建设

如何在离线环境中安全高效地使用draw.io桌面版？

如何在离线环境中安全高效地使用draw.io桌面版&#xff1f; 【免费下载链接】drawio-desktop Official electron build of draw.io 项目地址: https://gitcode.com/GitHub_Trending/dr/drawio-desktop 你是否经常需要绘制流程图、架构图或UML图&#xff0c;但又担心在线…...

阅读更多 →
应急响应 | Windows关键安全事件ID深度解析与实战应用
2026/7/16 23:29:20 网站建设

应急响应 | Windows关键安全事件ID深度解析与实战应用

1. Windows安全事件ID基础认知当你打开Windows事件查看器&#xff0c;面对海量日志时是否感到无从下手&#xff1f;作为安全工程师&#xff0c;我最初也常被4624、4625这些数字搞得晕头转向。其实这些事件ID就像系统的"摩斯密码"&#xff0c;每个编号都对应特定的安全…...

阅读更多 →
Git config 配置层级与优先级详解
2026/7/16 23:24:50 网站建设

Git config 配置层级与优先级详解

1. Git配置的三层结构&#xff1a;系统级、全局级与仓库级 第一次接触Git配置时&#xff0c;很多人会被 --system 、 --global 、 --local 这些参数搞得晕头转向。其实这三个层级就像套娃一样&#xff0c;从外到内层层嵌套&#xff0c;每一层都有自己明确的职责范围。 系…...

阅读更多 →

需要专业的网站建设服务？

联系我们获取免费的网站建设咨询和方案报价，让我们帮助您实现业务目标

立即咨询