机器学习第四章.txt

训练模型
线性回归
    正态方程
        计算复杂度
    梯度下降
        批量梯度下降
        随机梯度下降
            模拟退火: 降低学习率
        小批量梯度下降

多项式回归
学习曲线
线性模型的正则化
    Ridge回归 在损失函数上加上正则项
    Lasso回归 
    弹性网络
    早期停止法(early stop)
    逻辑回归(Logistic回归)
        概率估计
        训练和损失函数
        决策边界
    Softmax回归(多类别Logistic回归)