网站布局模式,wordpress 百度网盘插件,网站诊断从哪里开始,学校做网站目标 探索特征工程和多项式回归#xff0c;使用线性回归来拟合非常复杂甚至非线性的函数。 1.为什么线性回归能拟合非线性函数#xff1f; fxw*xb#xff0c;属于线性回归的扩展#xff0c;这个公式在数学中不属于线性#xff0c;因为有x#xff0c;而在机器学习中属于…目标 探索特征工程和多项式回归使用线性回归来拟合非常复杂甚至非线性的函数。 1.为什么线性回归能拟合非线性函数 fxw*x²b属于线性回归的扩展这个公式在数学中不属于线性因为有x²而在机器学习中属于线性回归因为wb是一次项详情有待补充。 2.线性回归函数拟合非线性数据 红色数据点y1x**2x,y的关系是非线性需要一个函数拟合非线性数据点。特征数组X为一次项因此线性回归w*xb无法拟合非线性数据。 3.多项式回归函数拟合非线性数据 扩展线性回归为多项式回归重新构建特征数组Xx**2对应函数x²*wb通过梯度下降计算最佳wb并代入函数能够拟合非线性数据。 4.设计新特征 继续扩展多项式回归通过对x平方立方设计出2个新特征。对应函数为f_wb xw0x²w1x³*w2b 。 此函数没有很好的拟合数据w1的权重最大0.54代表x²特征对预测结果影响最大。 4.根据特征数量自动设置w n表示特征数量。 5.线性模型捕捉非线性关系 ²特征与目标值y呈线性关系。线性回归可以很容易地使用该特征生成模型。 6.多项式回归的特征缩放 使用Z标准化缩放X特征。 可以使用比之前更大的学习率梯度下降更快收敛。 7.多项式回归拟合更复杂的数据 总结 当我们发现数据的走势为非线性选择线性回归函数已经无法拟合数据所以我们采用多项式回归。但是我们不能随意的设计出新特征结合实验例子如果数据的关系是y1x²f_wbwx²b函数可以很好的拟合数据而f_wbw0xw1x²w2x³b函数则不会很好的拟合数据。而在多项式回归中特征缩放是很重要的因为多项式特征之间的差异是很大的。