ApplyGradientDescent
【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库，实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn
产品支持情况
| 产品 | 是否支持 |
|---|---|
| Ascend 950PR/Ascend 950DT | √ |
| Atlas A3 训练系列产品/Atlas A3 推理系列产品 | √ |
| Atlas A2 训练系列产品/Atlas A2 推理系列产品 | √ |
| Atlas 200I/500 A2 推理产品 | × |
| Atlas 推理系列产品s | √ |
| Atlas 训练系列产品 | √ |
功能说明
算子功能：用于在梯度下降训练过程中更新模型参数。
计算公式：
$$ var = var - alpha \times delta $$
其中，var表示待更新的模型参数，alpha表示学习率，delta表示参数的梯度。
参数说明
| 参数名 | 输入/输出/属性 | 描述 | 数据类型 | 数据格式 |
|---|---|---|---|---|
| var | 输入 | 待更新的模型参数，公式中的var。 | FLOAT、FLOAT16、BFLOAT16 | ND |
| alpha | 输入 | 学习率，控制参数更新的步长，公式中的alpha。 | FLOAT、FLOAT16、BFLOAT16 | ND |
| delta | 输入 | 对应参数var的梯度值，公式中的delta。 | FLOAT、FLOAT16、BFLOAT16 | ND |
| var | 输出 | 更新后的模型参数，公式中的var。 | FLOAT、FLOAT16、BFLOAT16 | ND |
约束说明
无
调用说明
| 调用方式 | 调用样例 | 说明 |
|---|---|---|
| 图模式调用 | test_geir_apply_gradient_descent | 通过算子IR构图方式调用ApplyGradientDescent算子。 |
【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库，实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
