透過 MCP 連接 →

輸入計算

數學公式

廣告

結果

已產生 Softsign 數值表
101
phi(x) = x / (1 + |x|) 的資料點
第一個 Softsign 值 -0.833333
最後一個 Softsign 值 0.833333
x Softsign phi(x) phi'(x)(一階導數)
-5 -0.83333333 0.02777778
-4.9 -0.83050847 0.02872738
-4.8 -0.82758621 0.02972652
-4.7 -0.8245614 0.0307787
-4.6 -0.82142857 0.03188776
-4.5 -0.81818182 0.03305785
-4.4 -0.81481481 0.03429355
-4.3 -0.81132075 0.03559986
-4.2 -0.80769231 0.03698225
-4.1 -0.80392157 0.03844675
-4 -0.8 0.04
-3.9 -0.79591837 0.04164931
-3.8 -0.79166667 0.04340278
-3.7 -0.78723404 0.04526935
-3.6 -0.7826087 0.04725898
-3.5 -0.77777778 0.04938272
-3.4 -0.77272727 0.05165289
-3.3 -0.76744186 0.05408329
-3.2 -0.76190476 0.05668934
-3.1 -0.75609756 0.0594884
-3 -0.75 0.0625
-2.9 -0.74358974 0.06574622
-2.8 -0.73684211 0.06925208
-2.7 -0.72972973 0.07304602
-2.6 -0.72222222 0.07716049
-2.5 -0.71428571 0.08163265
-2.4 -0.70588235 0.08650519
-2.3 -0.6969697 0.09182736
-2.2 -0.6875 0.09765625
-2.1 -0.67741935 0.10405827
-2 -0.66666667 0.11111111
-1.9 -0.65517241 0.11890606
-1.8 -0.64285714 0.12755102
-1.7 -0.62962963 0.13717421
-1.6 -0.61538462 0.14792899
-1.5 -0.6 0.16
-1.4 -0.58333333 0.17361111
-1.3 -0.56521739 0.18903592
-1.2 -0.54545455 0.20661157
-1.1 -0.52380952 0.22675737
-1 -0.5 0.25
-0.9 -0.47368421 0.27700831
-0.8 -0.44444444 0.30864198
-0.7 -0.41176471 0.34602076
-0.6 -0.375 0.390625
-0.5 -0.33333333 0.44444444
-0.4 -0.28571429 0.51020408
-0.3 -0.23076923 0.59171598
-0.2 -0.16666667 0.69444444
-0.1 -0.09090909 0.82644628
0 0 1
0.1 0.09090909 0.82644628
0.2 0.16666667 0.69444444
0.3 0.23076923 0.59171598
0.4 0.28571429 0.51020408
0.5 0.33333333 0.44444444
0.6 0.375 0.390625
0.7 0.41176471 0.34602076
0.8 0.44444444 0.30864198
0.9 0.47368421 0.27700831
1 0.5 0.25
1.1 0.52380952 0.22675737
1.2 0.54545455 0.20661157
1.3 0.56521739 0.18903592
1.4 0.58333333 0.17361111
1.5 0.6 0.16
1.6 0.61538462 0.14792899
1.7 0.62962963 0.13717421
1.8 0.64285714 0.12755102
1.9 0.65517241 0.11890606
2 0.66666667 0.11111111
2.1 0.67741935 0.10405827
2.2 0.6875 0.09765625
2.3 0.6969697 0.09182736
2.4 0.70588235 0.08650519
2.5 0.71428571 0.08163265
2.6 0.72222222 0.07716049
2.7 0.72972973 0.07304602
2.8 0.73684211 0.06925208
2.9 0.74358974 0.06574622
3 0.75 0.0625
3.1 0.75609756 0.0594884
3.2 0.76190476 0.05668934
3.3 0.76744186 0.05408329
3.4 0.77272727 0.05165289
3.5 0.77777778 0.04938272
3.6 0.7826087 0.04725898
3.7 0.78723404 0.04526935
3.8 0.79166667 0.04340278
3.9 0.79591837 0.04164931
4 0.8 0.04
4.1 0.80392157 0.03844675
4.2 0.80769231 0.03698225
4.3 0.81132075 0.03559986
4.4 0.81481481 0.03429355
4.5 0.81818182 0.03305785
4.6 0.82142857 0.03188776
4.7 0.8245614 0.0307787
4.8 0.82758621 0.02972652
4.9 0.83050847 0.02872738
5 0.83333333 0.02777778

什麼是 Softsign 函數?

Softsign 函數是一種應用於神經網路的激活函數,定義為 \(\phi(x) = x / (1 + |x|)\)。與雙曲正切函數(tanh)類似,它平滑、呈 S 形,並被限制在開區間 \((-1, 1)\) 之內。兩者最大的差異在於趨近漸近線的方式:Softsign 以多項式速度(約 \(1/|x|\))逼近 \(\pm 1\),而 tanh 則以指數速度逼近。這種較緩慢的飽和特性,在某些網路架構中有助於減輕梯度消失的問題。

穿過原點的 S 形 softsign 曲線,在正一和負一處有水平漸近線
Softsign 函數是一條限定在 -1 與 +1 之間的 S 形曲線。

如何使用本計算器

請輸入三個數值:x 的起始值(第一列的 x)、遞增值(每一列累加的步長),以及重複次數(要產生的列數)。計算器會逐點列出 x、Softsign \(\phi(x)\) 以及一階導數 \(\phi'(x)\) 的數值表,方便您繪製曲線或查詢特定點的值。

公式解析

對於每一列,設 \(a = 1 + |x|\),則 \(\phi(x) = x / a\),而 \(\phi'(x) = 1 / a^2\)。由於 \(|x|\) 永遠不為負,分母 \(a\) 至少為 1,因此絕不會出現除以零的情況,函數處處平滑。完整的公式為:

$$f(x) = \frac{x}{1+|x|}, \qquad f'(x) = \frac{1}{(1+|x|)^{2}}$$

其中

$$x_i = \text{Initial }x + i \cdot \text{Step}, \quad i = 0,1,\dots,\text{Repetitions}-1$$

Softsign 函數是奇函數(\(\phi(-x) = -\phi(x)\)),而其導數則是偶函數(\(\phi'(-x) = \phi'(x)\))。在原點處,\(\phi(0) = 0\) 且 \(\phi'(0) = 1\)。

Advertisement
鐘形的 softsign 導數曲線,在原點上方達到峰值一,並向兩側趨近於零
導數在 x = 0 時達到峰值 1,並隨著 |x| 增大而趨近於 0。

實例演算

當 \(x = -5\) 時:\(a = 1 + 5 = 6\),因此 \(\phi(-5) = -5/6 = -0.8333333\),\(\phi'(-5) = 1/36 = 0.0277778\)。當 \(x = 1\) 時:\(a = 2\),因此 \(\phi(1) = 0.5\),\(\phi'(1) = 0.25\)。當 \(x = 0\) 時:\(a = 1\),因此 \(\phi(0) = 0\),\(\phi'(0) = 1\)。採用預設值(起始 -5、步長 0.1、共 101 列)時,數值表會將 x 從 -5 掃描至 +5。

常見問題

為什麼導數永遠不會是負數?因為 \(\phi'(x) = 1/(1+|x|)^2\) 是某個平方的倒數,恆為嚴格正值,這代表 Softsign 是單調遞增的函數。

Softsign 與 tanh 有何不同?兩者都會飽和到一個有界範圍,但 Softsign 飽和得更加緩慢(有理式衰減),相較之下 tanh 為指數衰減,因此 Softsign 能在更廣的輸入範圍內保持梯度的活性。

步長可以是負數嗎?可以。負的步長會讓數值表遞減;步長為零則會讓每一列都重複相同的 x 值。

最後更新: