asc_copy_ub2gm
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | √ |
功能说明
将数据从Unified Buffer (UB) 搬运到 Global Memory (GM)。
函数原型
- 前n个数据搬运
__aicore__ inline void asc_copy_ub2gm(__gm__ void* dst, __ubuf__ void* src, uint32_t size)- 高维切分搬运
__aicore__ inline void asc_copy_ub2gm(__gm__ void* dst, __ubuf__ void* src, uint16_t n_burst, uint16_t len_burst, uint16_t src_gap, uint16_t dst_gap)- 同步计算
__aicore__ inline void asc_copy_ub2gm_sync(__gm__ void* dst, __ubuf__ void* src, uint32_t size)参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| dst | 输出 | 目的GM地址。 |
| src | 输入 | 源UB地址。 |
| size | 输入 | 搬运数据大小(字节)。 |
| n_burst | 输入 | 待搬运的连续传输数据块个数。取值范围:[1, 4095]。 |
| len_burst | 输入 | 待搬运的每个连续传输数据块的长度,单位为DataBlock(32字节)。取值范围:[1, 65535]。 |
| src_gap | 输入 | 源操作数相邻连续数据块的间隔(前面一个数据块的尾与后面一个数据块的头的间隔)。 单位为DataBlock(32字节)。 |
| dst_gap | 输入 | 目的操作数相邻连续数据块的间隔(前面一个数据块的尾与后面一个数据块的头的间隔)。 单位为DataBlock(32字节)。 |
返回值说明
无
流水类型
PIPE_MTE3
约束说明
- dst的起始地址要求按照对应数据类型所占字节数对齐。
- src的起始地址要求32字节对齐。
- 如果需要执行多条asc_copy_ub2gm指令,且asc_copy_ub2gm指令的目的地址存在重叠,需要插入同步指令,保证多个asc_copy_ub2gm指令的串行化,防止出现异常数据。
- 同步计算包含同步等待。
- 当采用前n个数据搬运接口时,搬运数据大小要求32字节对齐。
调用示例
// total_length指参与搬运的数据总个数。dst是外部输入的half类型的GM内存。 constexpr uint64_t total_length = 128; __ubuf__ half src[total_length]; asc_copy_ub2gm(dst, src, total_length * sizeof(half));【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考