求问 拟合与回归到底有什么不同

Liujiaxin

有没有大佬可以通俗的解释一下 拟合与回归到底有什么不同

astiny

假设真实环境（ground truth）中，特定定义域中全部的x,y 之间的关系可以由函数y = f(x)来表示。
在一般研究中，我们实际无法获取定义域中全部的x,y；我们通过观测、试验等过程，获得的实际上是x,y的子集x0,y0,而我们的研究也就只能围绕x0和y0展开。
假设我们已经推测x0,y0符合某种关系，该关系可以由函数y=g(x,a,b,c.....)等表示，其中g是我们预设的，已知的函数，其可以由超参数a,b,c....等定义，与x和y无关。我们可以使用最小二乘法等方法，在x0，y0的集合上，计算出使得g(x0,a,b,c....) 与y0最接近的a,b,c....等超参数的值（该“最接近”的测度一般为均方误差或均方根误差等），这一过程即为拟合。该拟合结果仅与选用的g有关、与x0,y0有关，和真实的f,x,y都没有直接关系（我们希望的结果是f=g，g可应用于x,y而非只x0,y0,但这是我们的良好愿望）。换句话说，拟合的根本目的是用x0和y0计算出g函数在x0,y0上的最优超参数a,b,c.....
假设我们的目的是基于x0和y0，推理出一个与f相同或接近的函数g,并期望与这个g能够应用于x和y上，且此时y的定义域为实数域R上的时候，我们才把这一过程称作回归。换句话说，回归的根本目的是利用x0,y0,求出在x，y上最接近函数f的g。在特定函数上拟合，可以视作是回归的一种实现方法。当然我们不能简单地理解成回归包含拟合。拟合可以利用于其他领域，比如分类等等。

Liujiaxin

astiny 发表于 2021-7-18 11:05
假设真实环境（ground truth）中，特定定义域中全部的x,y 之间的关系可以由函数y = f(x)来表示。
在一般研 ...

非常感谢！
似乎是明白了，还得好好体会一番。