- 中文名
- 损失函数
- 外文名
- loss function
- 类 型
- 函数
- 应用学科
- 统计学
- 应用领域
- 机器学习，经济学，控制理论
回归问题所对应的损失函数为L2损失函数和L1损失函数，二者度量了模型估计值
分类问题所对应的损失函数为0-1损失，其是分类准确度的度量，对分类正确的估计值取0，反之取1：
这里给出二元分类（binary classification）中0-1损失函数的代理损失：
名称 | 表达式 |
|---|---|
铰链损失函数（hinge loss function） |  |
交叉熵损失函数（cross-entropy loss function） |  |
指数损失函数（exponential loss function） |  |
铰链损失（实线）、交叉熵损失（点）、指数损失（虚线）铰链损失函数是一个分段连续函数，其在分类器分类完全正确时取0。使用铰链损失对应的分类器是支持向量机（Support Vector Machine, SVM），铰链损失的性质决定了SVM具有稀疏性，即分类正确但概率不足1和分类错误的样本被识别为支持向量（support vector）被用于划分决策边界，其余分类完全正确的样本没有参与模型求解 [6]。
交叉熵损失函数是一个平滑函数，其本质是信息理论（information theory）中的交叉熵（cross entropy）在分类问题中的应用。由交叉熵的定义可知，最小化交叉熵等价于最小化观测值和估计值的相对熵（relative entropy），即两者概率分布的Kullback-Leibler散度：
指数损失函数是表中对错误分类施加最大惩罚的损失函数，因此其优势是误差梯度大，对应的极小值问题在使用梯度算法时求解速度快。使用指数损失的分类器通常为自适应提升算法（Adaptive Boosting, AdaBoost），AdaBoot利用指数损失易于计算的特点，构建多个可快速求解的“弱”分类器成员并按成员表现进行赋权和迭代，组合得到一个“强”分类器并输出结果。
