深度学习基础知识详解
激活函数
常见的激活函数
1. sigmoid函数
函数的定义
,其值域为
。 函数图像
2. tanh激活函数
函数的定义为:
,值域为
。函数图像
3. Relu激活函数
函数的定义为:
,值域为
;函数图像
4. Leak Relu激活函数
函数定义为:
KaTeX parse error: Expected '}', got '\right' at position 74: … \end{aligned} \̲r̲i̲g̲h̲t̲.
,值域为
。图像如下(
):
5. SolftPlus 激活函数
函数的定义为:
,值域为
。图像如下
6. softmax激活函数
函数定义为:
。
Softmax 多用于多分类神经网络输出。
持续跟新中。。