Linear Models
标签
AI
DL
ML
字数
843 字
阅读时间
4 分钟
Machine Learning & Neural Computation
An algorithm is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E. 如果一个算法针对某类任务 T,其在性能度量 P 下的表现随着经验 E 的增加而提高,那么我们称该算法从经验 E 中学习了。
T的种类
Classification: 从R映射到类型,或者给出每个类的机率。 Regression: 从输入向量预测一个数值。 Machine translation: 从原语言字符串到目标与阿严字符串
E的定义
E就是训练集
P的定义
其实就是损失函数
神经计算通过利用神经网络(NNs)来处理机器学习问题。
神经
%20(1).BSkB3wUQ.png)
机器学习基础
机器学习的种类分为有监督学习,无监督学习和强化学习 有监督不必多说。 无监督就是在无标签的情况下,使用clustering algorithm去分簇 强化学习就是用代理去看是否能得到奖励。 这里说一下损失函数。测试的损失可以被表示为这样:
其中我们定义训练和测试时的gap叫做泛化误差。所以测试的err就等于训练err + 泛化误差。好的模型gap小。 如何分数据?
%20(1)%20(1).DdhmOWTv.png)
Linear regression
学出一个 f(x) = wTx+b的模型去拟合数据 均方差MSE。平方的原因是,忽略正负,惩罚大residual:
%20(1)%20(1).CswhC7vt.png)
%20(1)%20(1).DUwtJZdM.png)
%20(1)%20(1).D2kRI6q8.png)
%20(1)%20(1).BjDlXMUm.png)
多项式回归
%20(1)%20(1).C0ieo7O2.png)
%20(1)%20(1).DVEbEOuF.png)
%20(1)%20(1).BbQPt8vT.png)
%20(1)%20(1).BV4Kp7-8.png)
%20(1).-KmVl_zR.png)