Processing math: 100%

假设函数表达式

  • 逻辑回归的假设函数

分类问题,希望分类器的输出值在 0 和 1 之间,因此,假设函数需要满足预测值要在 0 和 1 之间。

回归模型的假设是: hθ(x)=g(θTX) 其中:
X 代表特征向量
g 代表逻辑函数(logistic function), 是一个常用的逻辑函数为 S 形函数(Sigmoid function),公式为: g(z)=11+ez

该函数的图像为:

#python 代码实现sigmoid函数:
import numpy as np
def sigmoid(z):
    return 1 / (1 + np.exp(-z))

Copy to clipboard Start interactive mode

结合起来,获得逻辑回归的假设: hθ(x)=11+eθTX

h_θ(x) 的作用是,对于给定的输入变量,根据选择的参数计算输出变量为1 的可能性(estimated probablity),即:

hθ(x)=P(y=1|x;θ)

例如,如果对于给定的 x,通过已经确定的参数计算得出 hθ(x)=0.7,则表示有 70%的几率 y 为正向类,相应地 y 为负向类的几率为 1-0.7=0.3