【Deep Learning 8】元学习

🌞欢迎来到AI+生物医学的世界
🌈博客主页：卿云阁

💌欢迎关注🎉点赞👍收藏⭐️留言📝

🌟本文由卿云阁原创！

🌠本阶段属于练气阶段，希望各位仙友顺利完成突破

📆首发时间：🌹2024年3月22日🌹

✉️希望可以和大家一起完成进阶之路！

🙏作者水平很有限，如果发现错误，请留言轰炸哦！万分感谢！

目录

基本思想

引入

传统的监督学习VSFew-Shot Learning

Siamese Network

Learning Pairwise Similarity Scores

Triplet损失

Pretraining and Fine Tuning

数学知识

简单的例子

基本思想

引入

下图有4张图片，左边两张是球鱼，右边两个是穿山甲，现在给了一张Query图片，这张图片是球鱼还是穿山甲呐？如果每一类只有一两个样本，计算机能否想我们一样正确的分类？对于这4个样本，我们不可能构建一个传统的神经网络。图中的Support set指的是一个很小的数据集，Few-Shot Learning针对的就是这种小样本分类问题。

Few-Shot Learning和传统的监督学习有所不同，它的目标不是让计算机识别训练集里的图片，并且泛化到测试集，而是让计算机自己学会学习，我拿一个很大是数据集来训练神经网络，学习的目的不是让计算机知道什么是大象什么是老虎，不是让计算机识别没见过的大象和老虎，学习的目的是让计算机理解事物的异同，学会区分不同的事物，给两张图片，让计算机知道两个图片是相同的东西还是不同的东西。

我们的数据集里有很多的动物，一共有5类但是没有松鼠这个类别，所以模型不会识别松鼠，模型看到这两张图片，不知道是否是松鼠，而是去判断异同。

现在我们换一种问法，我们给一张Query图片图片，让计算机判断这是什么东西，计算机会和Support set中的图片依次进行对比。（Support set中的图片可能很小，每一类的下面可能只有一类或者几类图片）

Meta-Learning (元学习)其实就是Few-Shot Learning，小朋友虽然没有见过水獭，但是看过一些动物的图片，就可以判断出来了。

传统的监督学习VSFew-Shot Learning

Few-Shot Learning里面有两个常用的术语

一般来说，分类准确率会随着ways是增加而降低，shot的增加而增加。

如何解决Few-Shot Learning？

学一个函数来判断相似度sim()

第一，从很大的数据集上，学习相似度函数。Siamese Network就可以作为相似度函数。

公共数据集介绍

Siamese Network

Learning Pairwise Similarity Scores

第一种方法是每次取两个样本比较它们的相似度。

正样本，就是从同类中取图片，把标签设置成1。

负样本，随机抽取一张图片，比如这辆车，排除汽车这个类别，然后再做随机抽样。

搭建一个卷积神经网络用来提取特征，输入是一张图片（X），输出是一个向量（f(x))。

现在开始训练神经网络，z表示两个向量的区别，再用全连接层来处理这个z向量，最后变成一个标量，最后经过激活函数，最后得到的就是0-1的实数，这个实数就可以衡量两张图片的相似度。

损失函数就是真实值和预测值的差别。有了损失函数就可以反向更新参数，模型一共有两个部分，一部分是卷积神经网络用来提取特征，一部分是全连接层用来计算相似度，训练的过程就是更新这两部分的参数。

训练好之后就可以进行预测，这6个类别都不在训练集里。现在来了一个Query，我们知道它一定属于6个样本中的一个。

Triplet损失

我们需要这样准备数据，我们有这样一个数据集我们每次选3张图片进行训练。

首先从训练集中随机选一张图片，把他当成anchor，然后从老虎中随机抽取另一张图片，作为正样本，排除老虎类别再抽取一张图片作为负样本。

搭建一个卷积神经网络用来提取特征，分别计算锚点和正负样本的距离。

d+越小越好，d-越大越好

训练好之后就可以进行预测，找出距离最小的。

Pretraining and Fine Tuning

基本想法是在数据上预训练模型，然后在小规模的support set上做Fine Tuning。虽然这类方法很简单，但是很准确。

数学知识

假设两个向量的长度都是1，二范数为1，把向量x和向量w的夹角记作g。

如果向量x和向量w的长度不是1，归一化，把长度变成1，然后再求内积。

Softmax Function

假设它的输入是任意的k维向量，对每一个元素做归一化，得到k个大于0的数，然后对结果做归一化，让相加的结果为1。p就是 Softmax的输出。
Softmax Classifier是一个全连接层，加上一个Softmax函数，分类器的输入是x。

预训练一个神经网络用来提取特征，做预测的时候需要用到这个模型，我们把Query和support set中的图片都映射成特征向量，这样我们就可以比较Query和support set在特征你空间上的相似度。搭建一个卷积神经网络用来提取特征。

提取特征向量

预测

Fine Tuning

Xj是图片，Yj是标签，预训练的神经网络记作f(x)（特征向量）放到分类器。

实际上W和b是可以学习的，support set中有一个甚至几十个有标注的样本，每个样本都对应一个损失函数，相加作为目标函数，用support set所有的图片和标签来学习这个分类器，对目标函数做minimazation。

好的初始化

防止过拟合
简单的例子
import torch
from torchmeta.datasets import Omniglot
from torchmeta.transforms import Categorical, ClassSplitter, Rotation
from torchmeta.utils.data import BatchMetaDataLoader
from torchmeta.modules import (MetaModule, MetaSequential, MetaConv2d, MetaBatchNorm2d, MetaLinear)# 加载 Omniglot 数据集
dataset = Omniglot("data",num_classes_per_task=5,meta_train=True,transform = Categorical(num_classes=5))# 定义元学习模型
class ConvolutionalNeuralNetwork(MetaModule):def __init__(self, in_channels, out_features):super(ConvolutionalNeuralNetwork, self).__init__()self.features = MetaSequential(MetaConv2d(in_channels, 64, kernel_size=3, padding=1),torch.nn.ReLU(),torch.nn.MaxPool2d(2),MetaConv2d(64, 64, kernel_size=3, padding=1),torch.nn.ReLU(),torch.nn.MaxPool2d(2),)self.classifier = MetaLinear(64*7*7, out_features)def forward(self, inputs, params=None):features = self.features(inputs, params=self.get_subdict(params, 'features'))features = features.view((features.size(0), -1))logits = self.classifier(features, params=self.get_subdict(params, 'classifier'))return logits# 构建元学习模型
model = ConvolutionalNeuralNetwork(1, dataset.num_classes)# 定义损失函数和优化器
loss_func = torch.nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(model.parameters(), lr=1e-3)# 训练元学习模型
for epoch in range(num_epochs):for batch in dataloader:train_inputs, train_targets = batch["train"]test_inputs, test_targets = batch["test"]train_outputs = model(train_inputs)train_loss = loss_func(train_outputs, train_targets)model.zero_grad()train_loss.backward()optimizer.step()# 在测试集上进行元更新test_outputs = model(test_inputs)test_loss = loss_func(test_outputs, test_targets)model.adapt(test_loss)
使用 PyTorch 和 Torchmeta 库来实现。我们将使用 Omniglot 数据集，该数据集是一个小型的手写字符数据集，用于图像分类任务。我们将使用 MAML（Model-Agnostic Meta-Learning）算法来训练元学习模型，该模型能够快速适应新的任务。
【1】https://www.youtube.com/watch?v=UkQ2FVpDxHg&list=PLvOO0btloRnuGl5OJM37a8c6auebn-rH2