大四上 Week 4

机器学习

P1 导学

什么是机器学习？

Looking for function（寻找一个函数）。这个函数太复杂，人类无法直接写出，所以借助机器的力量。

不同类型的函数

深度学习（函数 f 为类神经网络）

输入，即 input，有很多种类型，例如 vector（向量）、matrix（矩阵）和 sequence（序列）。

输出可以是一个点（regression），也可以是一个类别（classification），还可以是一段话、一篇文章或一张图。

Supervised learning（Lecture 1–5）

Training data（有 label 标记）。

Self-supervised learning（Lecture 7）

使用没有标注的资料进行 pre-training，发展出 pre-trained model（foundation model，例如 BERT、GPT-3），再进行 downstream tasks。

Generative adversarial network（Lecture 6）

生成对抗网络（GAN / GANs）。

Reinforcement learning（Lecture 12）

强化学习（RL / 增强学习）。

没有标注资料，但可以定义什么叫做成功，用 feedback 反哺 input。

Anomaly detection（Lecture 8）

异常检测：让 model 具备说 “I don’t know” 的能力。

Explainable AI（Lecture 9）

机器认为重要的部分会被标亮。

Model attack（Lecture 10）

攻击技术与防御的可能性。

Domain adaptation（Lecture 11）

如果训练资料是黑白的，而测试数据是彩色的，预测正确率就会下降。

Network Compression（Lecture 13）

Life-long learning（Lecture 14）

Meta Learning（Lecture 15）