CANN ops-nn GeGluV2算子
GeGluV2【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√Atlas 200I/500 A2 推理产品×Atlas 推理系列产品√Atlas 训练系列产品×Kirin X90 处理器系列产品√Kirin 9030 处理器系列产品√功能说明接口功能高斯误差线性单元激活门函数针对aclnnGeGlu扩充了设置激活函数操作数据块方向的功能。计算公式 若activateLeft为true表示对$self$的左半部分做activate$$ out_{i}GeGlu(self_{i}) Gelu(A) \cdot B $$若activateLeft为false表示对$self$的右半部分做activate$$ out_{i}GeGlu(self_{i}) A \cdot Gelu(B) $$其中$A$表示$self$的左半部分$B$表示$self$的右半部分。参数说明参数名输入/输出/属性描述数据类型数据格式self输入公式中的输入self。FLOAT、FLOAT16、BFLOAT16NDdim可选属性设定的slice轴需要对self对应的轴进行对半切同时dim对应的self的轴必须是双数。INT64NDapproximate可选属性GeGlu计算使用的激活函数索引0表示使用“none”1表示使用“tanh”。INT64-activateLeft属性表示激活函数操作数据块的方向false表示对右边做activatetrue表示对左边做activate。BOOL-out输出公式中的dx。FLOAT、FLOAT16、BFLOAT16NDoutGelu输出公式中的outGelu。FLOAT、FLOAT16、BFLOAT16NDGeGlu不包含activateLeft参数。Atlas 推理系列产品 、 Atlas 训练系列产品 self、out和outGelu的数据类型支持FLOAT、FLOAT16。Kirin X90/Kirin 9030处理器系列产品self、out和outGelu的数据类型不支持BFLOAT16。约束说明无调用说明调用方式调用样例说明aclnn调用test_aclnn_ge_glu通过aclnnGeGlu接口方式调用GeGluV2算子。aclnn调用test_aclnn_ge_glu_v3通过aclnnGeGluV3接口方式调用GeGluV2算子。图模式调用-通过算子IR构图方式调用GeGluV2算子。【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考