通过MCP连接 →

输入计算

数学公式

广告

结果

x = 0 处的 Softplus 值(参考)
0.693147
101 rows generated · x from -5 step 0.1
x Softplus f(x) 一阶导数 f'(x)
-5 0.006715 0.006693
-4.9 0.007419 0.007392
-4.8 0.008196 0.008163
-4.7 0.009054 0.009013
-4.6 0.010002 0.009952
-4.5 0.011048 0.010987
-4.4 0.012203 0.012128
-4.3 0.013477 0.013387
-4.2 0.014884 0.014774
-4.1 0.016437 0.016302
-4 0.01815 0.017986
-3.9 0.02004 0.01984
-3.8 0.022124 0.021881
-3.7 0.024423 0.024127
-3.6 0.026957 0.026597
-3.5 0.02975 0.029312
-3.4 0.032828 0.032295
-3.3 0.036219 0.035571
-3.2 0.039953 0.039166
-3.1 0.044064 0.043107
-3 0.048587 0.047426
-2.9 0.053563 0.052154
-2.8 0.059033 0.057324
-2.7 0.065044 0.062973
-2.6 0.071645 0.069138
-2.5 0.07889 0.075858
-2.4 0.086836 0.083173
-2.3 0.095545 0.091123
-2.2 0.105083 0.09975
-2.1 0.11552 0.109097
-2 0.126928 0.119203
-1.9 0.139387 0.130108
-1.8 0.152978 0.141851
-1.7 0.167786 0.154465
-1.6 0.183901 0.167982
-1.5 0.201413 0.182426
-1.4 0.220417 0.197816
-1.3 0.241008 0.214165
-1.2 0.263282 0.231475
-1.1 0.287335 0.24974
-1 0.313262 0.268941
-0.9 0.341154 0.28905
-0.8 0.371101 0.310026
-0.7 0.403186 0.331812
-0.6 0.437488 0.354344
-0.5 0.474077 0.377541
-0.4 0.513015 0.401312
-0.3 0.554355 0.425557
-0.2 0.598139 0.450166
-0.1 0.644397 0.475021
0 0.693147 0.5
0.1 0.744397 0.524979
0.2 0.798139 0.549834
0.3 0.854355 0.574443
0.4 0.913015 0.598688
0.5 0.974077 0.622459
0.6 1.037488 0.645656
0.7 1.103186 0.668188
0.8 1.171101 0.689974
0.9 1.241154 0.71095
1 1.313262 0.731059
1.1 1.387335 0.75026
1.2 1.463282 0.768525
1.3 1.541008 0.785835
1.4 1.620417 0.802184
1.5 1.701413 0.817574
1.6 1.783901 0.832018
1.7 1.867786 0.845535
1.8 1.952978 0.858149
1.9 2.039387 0.869892
2 2.126928 0.880797
2.1 2.21552 0.890903
2.2 2.305083 0.90025
2.3 2.395545 0.908877
2.4 2.486836 0.916827
2.5 2.57889 0.924142
2.6 2.671645 0.930862
2.7 2.765044 0.937027
2.8 2.859033 0.942676
2.9 2.953563 0.947846
3 3.048587 0.952574
3.1 3.144064 0.956893
3.2 3.239953 0.960834
3.3 3.336219 0.964429
3.4 3.432828 0.967705
3.5 3.52975 0.970688
3.6 3.626957 0.973403
3.7 3.724423 0.975873
3.8 3.822124 0.978119
3.9 3.92004 0.98016
4 4.01815 0.982014
4.1 4.116437 0.983698
4.2 4.214884 0.985226
4.3 4.313477 0.986613
4.4 4.412203 0.987872
4.5 4.511048 0.989013
4.6 4.610002 0.990048
4.7 4.709054 0.990987
4.8 4.808196 0.991837
4.9 4.907419 0.992608
5 5.006715 0.993307

什么是 Softplus 函数?

Softplus 函数 \(f(x) = \ln(1 + e^{x})\) 是神经网络中常用的 ReLU(修正线性单元)激活函数的一种光滑、可微近似。与在原点处存在尖锐折角的 ReLU 不同,Softplus 处处光滑,且始终严格大于零。本计算器会在你设定的区间内生成 x、f(x) 及其一阶导数的数值表,并同时绘制两条曲线,让你直观看到那条从平缓 S 形过渡到线性斜坡的典型曲线。

在 x-y 坐标轴上将 Softplus 曲线与 ReLU 对比
Softplus 曲线是 ReLU 的平滑近似,始终为正,并在原点附近轻柔弯曲。

使用方法

只需输入三个数值:x 的初始值(第一个横坐标)、步长(相邻点之间的间隔)以及重复次数(要生成多少行数据)。举例来说,初始值取 -5、步长取 0.1、重复 101 次,就会得到从 -5.0 到 +5.0 的 x 序列。计算结果是一张可滚动的数值表,外加一幅同时展示 Softplus 及其导数的图像。

公式详解

Softplus 的表达式为 $$f(x) = \ln(1 + e^{x}).$$ 它的导数是 $$f'(x) = \frac{e^{x}}{1 + e^{x}} = \frac{1}{1 + e^{-x}},$$ 这恰好就是逻辑斯谛(logistic)sigmoid 函数。当 x 取很大的正值时,\(f(x)\) 趋近于 \(x\),\(f'(x)\) 趋近于 1;当 x 取很大的负值时,\(f(x)\) 趋近于 0,\(f'(x)\) 也趋近于 0。为了在 x 较大时避免数值溢出,本工具采用数值稳定的写法:$$f(x) = \max(x, 0) + \ln\!\left(1 + e^{-|x|}\right).$$

Advertisement
Softplus 及其 sigmoid 导数绘制在一起
Softplus 的导数是 sigmoid 函数,一条从 0 上升到 1 的 S 形曲线。

计算实例

当 \(x = 0\) 时:$$f(0) = \ln(2) = 0.693147, \qquad f'(0) = 0.5.$$ 当 \(x = 1\) 时:$$f(1) = \ln(1 + 2.718282) = 1.313262, \qquad f'(1) = \frac{1}{1 + e^{-1}} = 0.731059.$$ 当 \(x = -1\) 时:$$f(-1) = 0.313262, \qquad f'(-1) = 0.268941.$$ 注意这里有一个恒等式 \(f(x) - f(-x) = x\),例如 \(1.313262 - 0.313262 = 1\)。

常见问题

为什么要用 Softplus 而不是 ReLU?Softplus 处处光滑,且在任意点都有非零梯度,这有助于基于梯度的优化过程;不过相比之下,ReLU 的计算成本更低。

输出值是否始终为正?是的。对任意有限的 x,都有 \(1 + e^{x} > 1\),因此 \(\ln(1 + e^{x}) > 0\) 恒成立。

导数代表什么?它表示 Softplus 曲线的斜率,并且等于逻辑斯谛 sigmoid 函数,其取值从 0 单调递增到 1,在 \(x = 0\) 处恰好为 0.5。

最后更新: