01-线性回归-LinearRegress（小白入门）

1、什么是线性回归？

• 线性：两个变量之间的关系是一次函数关系的

• 非线性：两个变量之间的关系不是一次函数关系的

2、应用场景

• 房价预测

• 流量预测

• 票房预测

• ....

3、表达式&优化函数

• 表达式: y=wx+b

       w是x的系数，b是偏置项

• 目标函数（Loss Function）

• 利用梯度下降法求 J 的最小值，从而推导出w和b

4、为什么需要正则化

4.1 L1正则化(Lasso回归)

L1正则化项：

L1如何解决过拟合问题：

• 特征稀疏性

4.2 L2正则化(岭回归)

L2正则化项：

L2如何解决过拟合问题

• 拟合过程中通常都倾向于让权值尽可能小

• 参数很小，数据偏移得多一点也不会对结果造成什么影响，鲁棒性更强

• 参数:=0.01

代码实现：房价回归预测-LinearRegression

预测值&实际值效果图：