已知y与x有线性关系：y = ax + b (1)但 a, b 未知！就可以根据x，y的 1组观测数据 x1,x2,......,xn y1,y2,......,yn用最小二乘法确定系数a，b完成直线拟合。

为此令误差的平方和： Q=∑(i:1→n) [Yi-(aXi+b)]^2 (2)取极小，即： ∂Q/∂a= -2Σ(i=1->n)[yi-(axi+b)](-xi)= 0 (3) ∂Q/∂b= -2Σ(i=1->n)[yi-(axi+b)] = 0 (4) 解出a ，b就确定了回归方程（1）.其中：∑ 是求和的符号：含义是：∑ (i：1→n) ai = (a1+a2+...+an).举一个最简单的例子：就是通过原始的试验数据应用最小二乘法确定一个弹簧的倔强系数（或弹簧常数）。

为此设计一个实验：压缩弹簧3次，测得变形和受力如下表： xi 弹簧变形(毫米) 1 2 3 yi 弹簧受力(千牛顿) 3.1 5.9 9.2假定y与x之间成正比例关系： y = k x (A)构造一个误差函数： Q(k) = (y1-kx1)^2+ (y2-kx2)^2+ (y3-kx3)^2 (B)注意(B)式中，只所含有一个未知参数，即弹簧常数k：使误差函数Q(k)取极小值的k，就是我们要求的弹簧常数！Q(k)取极小值的条件是： dQ / dk = 0导出： 2[(y1-kx1)(-x1)+ (y2-kx2)(-x2)+ (y3-kx3)(-x3)]=0经整理得到： k(x1^2+x2^2+x3^2)=(x1y1+x2y2+x3y3) (C)解出弹簧常数： k = (x1y1+x2y2+x3y3)/ (x1^2+x2^2+x3^2) (D)代入原始数据(xi，yi)的值，最后得到： k = 42.5/14 ≈3.0357当有两个参数a、b时，复杂一点。