残差项与误差项的区别与联系图 浅析多元回归中的“三差”：离差（Deviation）、残差（Residual）与误差（Error）

文章目录 1. 综述 2. 误差（Error）——模型的总体性质 3. 离差（Deviation）——因变量真实值与平均值之间的差 4. 残差（Residual）——因变量真实值与模型拟合值之间的差 5. 三者之间的关系 5.1 残差 V.S. 离差 5.2 残差 V.S. 误差 5.3 离差 V.S. 误差 写在最后

1. 综述

有不少小伙伴在初学多元回归模型的时候，会被一些术语搞得晕头转向，其中就包括经常出现的 离差（Deviation）、残差（Residual）与误差（Error）。这三个术语看起来完全就是一回事儿啊！！ 其实不然，这三个概念虽然有一定的关联性，但其描述的本质却完全不同。现在，就让我们就来简单聊聊这三者之间的区别吧！

2. 误差（Error）——模型的总体性质

误差（Error） 的英文本意就是“错误”。我们在日常生活中总是会犯这样或那样的错误，模型其实就是简化了的现实世界，其也必然会包含错误。而在多元回归模型中，我们在建立模型的时候就已经加入了这个错误：误差项。比如，在多元回归模型： Y = β 0 + ∑ i = 1 p X i β i + ϵ Y = \beta_0 + \sum_{i=1}^{p} X_i \beta_i + \epsilon Y=β0​+i=1∑p​Xi​β