双曲正切 (Tanh)

term_id: tanh

Category: basic_concepts

Definition

双曲正切（Tanh）函数是一种非线性激活函数，常用于神经网络。它将输入值压缩到(-1, 1)区间内，提供零中心的输出，这有助于加速收敛。

Summary

Tanh（双曲正切）是一种激活函数，将输入值映射到-1到1的范围之间。

Key Concepts

  • 激活函数
  • 非线性
  • 零中心输出
  • 反向传播

Use Cases

  • 循环神经网络
  • LSTM单元门控
  • 多层感知机中的隐藏层

Code Example

1
2
3

import numpy as np
def tanh(x):
    return np.tanh(x)

Related