(1)回归模型:对于具有线性关系的两个变量,可以用一个线性方程来表示它们之间的关系。描述因变量y如何依赖于自变量x和误差项ε的方程称为回归模型。对于只涉及一个自变量的一元线性回归模型可表示为:y=β_O+β₁x+ε。
(2)回归方程:根据回归模型中的假定,ε的期望值等于0,因此y的期望值E(y)=β_O+β₁x,也就是说,y的期望值是x的线性函数。描述因变量y的期望值如何依赖于自变量x的方程称为回归方程。一元线性回归方程的形式为:E(y)=β_O+β₁x。
(3)估计的回归方程:如果回归方程中的参数β_O和β₁已知,对于一个给定的x的值,利用式E(y)=β_O+β₁x就能计算出y的期望值。但总体回归参数β_O和β₁是未知的,必须利用样本数据去估计它们。用样本统计量和代替回归方程中的未知参数β_O和β₁,这时就得到了估计的回归方程。它是根据样本数据求出的回归方程的估计。
对于一元线性回归,估计的回归方程形式为:

式中,是估计的回归直线在y轴上的截距;是直线的斜率,表示x每变动一个单位时,y的平均变动值。