企业官网建设流程全解析

Cos

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

• Ascend 950PR/Ascend 950DT：支持

• Atlas A3 训练系列产品/Atlas A3 推理系列产品：支持

• Atlas A2 训练系列产品/Atlas A2 推理系列产品：支持

• Atlas 200I/500 A2 推理产品：不支持

• Atlas 推理系列产品AI Core：支持
• Atlas 推理系列产品Vector Core：不支持

• Atlas 训练系列产品：不支持

• Kirin X90：支持

• Kirin 9030：支持

功能说明

按元素做三角函数余弦运算，计算公式如下：

Cos(x)的泰勒展开式为：

函数原型

• 通过sharedTmpBuffer入参传入临时空间

  • 源操作数Tensor全部/部分参与计算

    template <typename T, bool isReuseSource = false, const CosConfig& config = defaultCosConfig> __aicore__ inline void Cos(const LocalTensor<T>& dstTensor, const LocalTensor<T>& srcTensor, const LocalTensor<uint8_t>& sharedTmpBuffer, const uint32_t calCount)

  • 源操作数Tensor全部参与计算

    template <typename T, bool isReuseSource = false, const CosConfig& config = defaultCosConfig> __aicore__ inline void Cos(const LocalTensor<T>& dstTensor, const LocalTensor<T>& srcTensor, const LocalTensor<uint8_t>& sharedTmpBuffer)

• 接口框架申请临时空间

  • 源操作数Tensor全部/部分参与计算

    template <typename T, bool isReuseSource = false, const CosConfig& config = defaultCosConfig> __aicore__ inline void Cos(const LocalTensor<T>& dstTensor, const LocalTensor<T>& srcTensor, const uint32_t calCount)

  • 源操作数Tensor全部参与计算

    template <typename T, bool isReuseSource = false, const CosConfig& config = defaultCosConfig> __aicore__ inline void Cos(const LocalTensor<T>& dstTensor, const LocalTensor<T>& srcTensor)

由于该接口的内部实现中涉及复杂的数学计算，需要额外的临时空间来存储计算过程中的中间变量。临时空间支持开发者通过sharedTmpBuffer入参传入和接口框架申请两种方式。

• 通过sharedTmpBuffer入参传入，使用该tensor作为临时空间进行处理，接口框架不再申请。该方式开发者可以自行管理sharedTmpBuffer内存空间，并在接口调用完成后，复用该部分内存，内存不会反复申请释放，灵活性较高，内存利用率也较高。
• 接口框架申请临时空间，开发者无需申请，但是需要预留临时空间的大小。

通过sharedTmpBuffer传入的情况，开发者需要为tensor申请空间；接口框架申请的方式，开发者需要预留临时空间。临时空间大小BufferSize的获取方式如下：通过GetCosMaxMinTmpSize中提供的接口获取需要预留空间范围的大小。

参数说明

表1模板参数说明

struct CosConfig { CosAlgo algo = CosAlgo::POLYNOMIAL_APPROXIMATION; }; enum class CosAlgo { POLYNOMIAL_APPROXIMATION = 0, RADIAN_REDUCTION, };

表2参数说明

返回值说明

无

约束说明

• 对于Ascend 950PR/Ascend 950DT，模板参数config中使用多项式拟合算法POLYNOMIAL_APPROXIMATION时，必须保证输入源数据的值域在[-65504.0, 65504.0]范围内。

• 对于以下产品，输入源数据必须保持值域在[-65504.0, 65504.0]范围内。

  • Atlas A3 训练系列产品/Atlas A3 推理系列产品
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品
  • Atlas 推理系列产品AI Core

• 不支持源操作数与目的操作数地址重叠。

• 不支持sharedTmpBuffer与源操作数和目的操作数地址重叠。

• 操作数地址对齐要求请参见通用地址对齐约束。

调用示例

// dstLocal: 存放计算结果的Tensor // srcLocal: 参与计算的输入Tensor // sharedTmpBuffer: 临时缓存,内部复杂计算时存储中间变量 // 输入tensor长度为1024,算子输入的数据类型为half,实际计算个数为512 AscendC::Cos(dstLocal, srcLocal, sharedTmpBuffer, 512); constexpr AscendC::CosAlgo algo = AscendC::CosAlgo::RADIAN_REDUCTION; constexpr AscendC::CosConfig config = {algo}; AscendC::Cos<half, false, config>(dstLocal, srcLocal, sharedTmpBuffer, 512);

结果示例如下：

输入数据(srcLocal): [0.00 0.01 0.02 ... 5.10 5.11] 输出数据(dstLocal): [1.00000000e+00 9.99949992e-01 9.99800026e-01 ... 3.77977639e-01 3.87216508e-01]

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit