机器学习基本概念

机器学习基本概念

文章目录

​​基本概念​​​​课程任务​​​​机器学习的步骤​​

​​1. Function with Unknown Parameters​​​​2. Define Loss from Training Data​​​​3. Optimization​​

基本概念

机器学习就是去寻找一个复杂的函数 深度学习：找一个函数，这个函数用类神经网络表示

函数的输入可以是一个向量、矩阵（images）、序列（语音） 输出可以是一个数（regression）、可以是一个类别（分类）、文本、画图等

课程任务

Supervised Learning (监督学习)Self-supervised Learning (自监督学习)Generative Adversarial Network (生成对抗网络)Reinforcement Learning (强化学习)Anomaly Detection (异常检测)Explainable AI (可解释性 AI)Model Attack (模型攻击)Domain Adaptation (域自适应)Network Compression (让模型变小)Life-long Learning (终身学习)Meta learning (学习如何学习)

机器学习的步骤

1. Function with Unknown Parameters

2. Define Loss from Training Data

越小代表这一组参数越好。

3. Optimization

Optimization的方法：Gradient Descent

步骤:

可能出现局部最优解(Local minima)

切线斜率负的：切线左高右低，所以如果应该向右边前进（w = w - 学习率 * 斜率）

决定步长的因素有两个：

斜率（斜率越大步长越大）学习率（自己设置的一个参数）

hyperparameters：需要自己设定的参数

二维图上：

上面这些模型统称为 Linear models

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。