品易云推流 关闭
文章详情页
文章 > Python基础教程 > python ReLU函数是什么

python ReLU函数是什么

Python

头像

小妮浅浅

2021-06-11 16:28:511738浏览 · 0收藏 · 0评论

1、说明

线性整流函数,又称为修正性线性单元,ReLU是一个分段函数,其公式为:f(x)=max(0,x)。

2、优缺点

优点

比Sigmoid函数收敛速度更快。

输出以0为中心。

缺点:

由于饱和性产生的梯度消失。

3、实例

import numpy as np
import matplotlib.pyplot as plot
 
 
def relu(x):
    return np.maximum(0, x)
 
 
if __name__ == "__main__":
    a = np.arange(-20, 20, 0.1)
    b = relu(a)
 
    plot.plot(a, b, label="ReLU", color="red")
    plot.legend()
    plot.grid()
    plot.show()

以上就是python ReLU函数的介绍,希望对大家有所帮助。更多Python学习指路:python基础教程

关注

关注公众号,随时随地在线学习

本教程部分素材来源于网络,版权问题联系站长!

底部广告图