資訊專欄INFORMATION COLUMN
摘要：首先看一下這個函數的圖像，以值的值做為區分點，在值范圍左右的軸數據為范圍內的數據。實現核心思想是公式以上我所展示的是函數以及函數所產生的圖像，以下我來說一下一般來說我們所希望激勵函數應該是什么樣子的。
首先看一下這個sigmoid函數的圖像，以x值的0值做為區分點，在0值范圍左右的y軸數據為0~1范圍內的數據。
python實現：
from math import e
from matplotlib import pyplot as plt
xs = []
ys = []
def sigmoid(x):
y = 1. / (1. + e **(-x))
return y;
for x in range(-1000,1001):
x = x * 0.1
y = sigmoid(x)
xs.append(x)
ys.append(y)
print(xs)
print(ys)
plt.plot(xs,ys)
plt.show()
核心思想是公式:
以上我所展示的是sigmoid函數以及函數所產生的圖像，以下我來說一下一般來說我們所希望激勵函數應該是什么樣子的。
通常來說，我們希望一個數據做了激勵后，應該能明確的知道結果應該是true或false，但是對于這種函數，如：
def f(x):
if(x < 0):
return 0;
if(x > 0):
return 1;
所產生的函數是不連續且不可求導的，那么在計算過程中就會非常的不方便，sigmoid其實相當于做了折中處理。且在具體的計算過程中，根據實際情況，也許產生的S(x)可能取值在0~0.5以及0.5~1分別分成兩類。也有可能是0~0.8，0.8~1。在具體的計算過程中可能會更靈活。
以上就當一個筆記，后續理解如果有出入，再做修改。
?
文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。
轉載請注明本文地址：http://m.specialneedsforspecialkids.com/yun/41106.html
摘要：比如說，我們在邏輯回歸中用到的函數就是一種激勵函數，因為對于求和的結果輸入，函數總會輸出一個之間的值，我們可以認為這個值表明信號的強度或者神經元被激活和傳導信號的概率。通過激勵函數引入非線性因素后，使神經網絡的表示能力更強了。 ?showImg(https://segmentfault.com/img/bVbikBg?w=758&h=324);showImg(https://segme...
閱讀 2490·2023-04-25 21:41
閱讀 1658·2021-09-22 15:17
閱讀 1930·2021-09-22 10:02
閱讀 2446·2021-09-10 11:21
閱讀 2586·2019-08-30 15:53
閱讀 1004·2019-08-30 15:44
閱讀 959·2019-08-30 13:46
閱讀 1148·2019-08-29 18:36
