非线性回归与非线性回归

非线性回归是指使用方程来描述连续型响应变量之间的非线性关系以及使用一个或多个预测变量来预测新观测值的
方法。 当你不能用线性参数模型充分反映二者的关系时，你可以使用非线性回归来取代偏较小二乘法。当模型中的
每个因变量都是可变的而且有且只有一个变量会影响因变量取值时, 参数关系才是线性关系。
关于您*的希望使用的函数

使用Minitab进行非线性回归时，您必须*希望使用的函数。您对函数的选择往往取决于关于响应曲线形状的经验或者过程体系中物理和化学的反应变化。 可能的非线性形状包括凹形、凸形、指数递增或递减,正态变化图形(S)和渐近曲线。 您必须*一个函数，既满足先前的经验要求，又满足非线性回归的假设条件。如果你*一个新的函数,它必须至少包含以下三个基本组成中的一个:

参数
Minitab通过使用递归算法计算残差平方和的较小值(SSE)来拟合样本数据的期望函数以预测参数。 在函数中,输入不与列名或数学运算重名的文本来确定参数。 例如,您可以输入b1、b2、Theta1 Theta2等等。

预测因子
在工作表的列中输入变量，再输入函数的列名。 如果列名包含多个词,使用单引号标注(例如,‘密度Ln’)。
 
数学运算以及函数

*参数和预测变量之间的逻辑关系以产生响应变量的期望值， 您可以很*地使用非线性回归的计算器进行操作和使用函数(例如,*,+,COS,EXP,等等)。 或者,你也可以直接在编辑字段进行输入。

算法和初始值

无论线性还是非线性回归都是通过计算残差平方和较小值(SSE)来进行参数估计的。 然而,它们使用的方法却完全不同。 对于线性回归,Minitab通过求解方程来获得残差平方和的较小值。在你选择模型后,没有更多的选择。如果使用相同的模型来预测相同的数据，那么你会得到相同的结果。
 
然而,对于非线性回归,没有直接计算残差平方和较小值的方法。 因此,通过迭代算法自动调整参数来减少残差的平方和以估计参数。 在你选择模型之后,你要选择算法并提供每个参数的初始值，这个算法使用这些初始值来计算初始残差的平方和。

每次迭代过程，算法会自动调整参数使残差平方和的预测值小于先前迭代的结果。不同的算法在每次迭代中使用不同的方法来决定如何进行调整。除非有错误阻止了随后的迭代过程或者Minitabf达到了较大迭代次数，要不然迭代算法会不断执行，直到残差平方和较小为止,。 如果该算法的不残差平方和不减小,你可以尝试不同的起始值以及其他算法。

对于一些期望函数和数据集,初始值会显着影响结果。某些初始值会在计算到特定阶段时会停止计算残差平方和中的较小值。有时,可能需要更努力寻找一些较佳的初始值。

比较非线性和线性回归

了解非线性回归的基本知识,对于理解它和线性回归之间的异同之处很重要。
相似之处

二者均为数据分析:

使用数学方法来描述响应变量和一个或多个预测变量之间的关系。

可以改变的关系模型。

计算残差平方和的较小值(SSE)。

有参数估计的相同假设。

 
不同之处

线性和非线性回归的本质区别,不在于回归分析名字的不同,而在于模型可接受函数形式的不同。 具体来说,线性回归需要线性模型参数而非线性模型不需要。当你使用线性模型不能充分表明参数关系时，使用非线性回归而不是线性回归。

线性回归函数用以约束方程的基本形式的参数必须是线性的。当模型的因变量是可变的同时只有一个自变量影响因变量时，参数模型是线性模型

响应变量=常数+参数*预测+…… * +参数预测
或y =βO+β1x1+β2x2+…… +βKxK

然而,非线性方程可以采取许多不同的形式。 事实上,由于有很多种可能,您必须*Minitab用以执行非线性回归分析所用的期望函数。 这些例子表明了变量的关系(θ代表参数):

你选择的期望函数往往取决于经验总结的响应曲线形状或生产过程中物理和化学反映性质。非线性回归的可能形状包括凹形、凸形、指数递增或递减,正态分布形状(S)以及渐近曲线。 您必须*满足经验要求和非线性回归假设的函数。

虽然灵活地*许多不同预期的函数非常重要,但也需要努力寻找匹配数据较佳的期望函数。这通常需要附加的探索研究,主题所在领域的专业知识,尝试以及错误分析。 此外,对于非线性方程,确定每个指标对响应变量的影响比使用线性方程组更加直观。

     与线性回归相比，非线性回归使用不同的方法来计算残差平方和的较小值(SSE)。