通过MCP连接 →

输入计算

求导的点(可为任意实数)。

数学公式

广告

结果

Softplus 的一阶导数
0.622459
phi'(x) at x = 0.5
输入 x 0.5
公式 phi'(x) = 1 / (1 + e^(-x))
取值范围 0 < phi'(x) < 1

什么是 Softplus 一阶导数计算器?

本工具用于计算 Softplus 激活函数在任意实数 x 处的一阶导数。Softplus 函数的定义为 \(\phi(x) = \ln(1 + e^{x})\),它是 ReLU(修正线性单元)函数的一种光滑、可微的近似形式,在神经网络中应用十分广泛。它的导数正好就是 Logistic Sigmoid 函数,这一特性使其在基于梯度的训练中格外方便。

使用方法

输入你想求导的 x 值并提交即可。计算器会返回 \(\phi'(x)\),这个结果始终严格介于 0 和 1 之间。x 为正时结果趋近于 1,x 为负时结果趋近于 0,而当 x 恰好等于 0 时结果为 0.5。

公式解析

对 Softplus 函数求导可得:

$$\frac{d}{dx}\ln\!\left(1 + e^{x}\right) = \frac{e^{x}}{1 + e^{x}} = \frac{1}{1 + e^{-x}}$$

这正是 Logistic Sigmoid 函数 \(\sigma(x)\)。为保证数值计算的稳定性,本计算器在 \(x \geq 0\) 时采用 \(\frac{1}{1 + e^{-x}}\),在 \(x < 0\) 时采用等价的 \(\frac{e^{x}}{1 + e^{x}}\),从而避免输入数值过大时指数运算发生溢出。

Advertisement
同一坐标轴上的 softplus 函数及其 S 形的一阶导数
Softplus 曲线(上升的曲棍球杆形)及其一阶导数——S 形的 sigmoid 曲线。

实例演算

设 \(x = 0.5\)。则 \(e^{-0.5} = 0.6065306597\),因此 \(1 + e^{-0.5} = 1.6065306597\)。于是 $$\phi'(0.5) = \frac{1}{1.6065306597} = 0.622459$$由于输入略大于 0,导数值也略高于 0.5。

常见问题

为什么导数恰好是 Sigmoid 函数?因为对 \(\ln(1 + e^{x})\) 应用链式法则后,在代数上可化简为 \(\frac{1}{1 + e^{-x}}\),也就是标准的 Logistic Sigmoid 函数。

\(\phi'(x)\) 的取值范围是多少?它落在开区间 \((0, 1)\) 内。当 x 趋向负无穷时该值趋近于 0,当 x 趋向正无穷时趋近于 1,但永远不会真正达到这两个边界。

会不会出现除以零的风险?不会。由于对任意实数 x,\(1 + e^{-x}\) 恒大于零,因此分母永远不可能为零。

最后更新: