如何用PyTorch进行语义分割？

木易 发自 凹非寺 
量子位 报道 | 公众号 QbitAI

很久没给大家带来教程资源啦。

正值PyTorch 1.7更新&＃xff0c;那么我们这次便给大家带来一个PyTorch简单实用的教程资源&＃xff1a;用PyTorch进行语义分割。

△图源&＃xff1a;stanford

该教程是基于2020年ECCV Vipriors Chalange Start Code实现了语义分割&＃xff0c;并且添加了一些技巧。

友情提示&＃xff1a;教程中的所有文件均可以在文末的开源地址获取。

预设置

在开始训练之前&＃xff0c;得首先设置一下库、数据集等。

库准备

pip install -r requirements.txt

下载数据集

教程使用的是来自Cityscapes的数据集MiniCity Dataset。

数据集的简单数据分析

将各基准类别进行输入&＃xff1a;

之后&＃xff0c;便从0-18计数&＃xff0c;对各类别进行像素标记&＃xff1a;

使用deeplab v3进行基线测试&＃xff0c;结果发现次要类别的IoU特别低&＃xff0c;这样会导致难以跟背景进行区分。

如下图中所示的墙、栅栏、公共汽车、火车等。

分析结论&＃xff1a;数据集存在严重的类别不平衡问题。

训练基准模型

使用来自torchvision的DeepLabV3进行训练。

硬件为4个RTX 2080 Ti GPU (11GB x 4)&＃xff0c;如果只有1个GPU或较小的GPU内存&＃xff0c;请使用较小的批处理大小&＃xff08;<&＃61; 8&＃xff09;。

python baseline.py --save_path baseline_run_deeplabv3_resnet50 --crop_size 576 1152 --batch_size 8;


python baseline.py --save_path baseline_run_deeplabv3_resnet101 --model DeepLabv3_resnet101 --train_size 512 1024 --test_size 512 1024 --crop_size 384 768 --batch_size 8;


损失函数

有3种损失函数可供选择&＃xff0c;分别是&＃xff1a;交叉熵损失函数&＃xff08;Cross-Entropy Loss&＃xff09;、类别加权交叉熵损失函数&＃xff08;Class-Weighted Cross Entropy Loss&＃xff09;和焦点损失函数&＃xff08;Focal Loss&＃xff09;。

交叉熵损失函数&＃xff0c;常用在大多数语义分割场景&＃xff0c;但它有一个明显的缺点&＃xff0c;那就是对于只用分割前景和背景的时候&＃xff0c;当前景像素的数量远远小于背景像素的数量时&＃xff0c;模型严重偏向背景&＃xff0c;导致效果不好。

# Cross Entropy Loss
python baseline.py --save_path baseline_run_deeplabv3_resnet50 --crop_size 576 1152 --batch_size 8;


类别加权交叉熵损失函数是在交叉熵损失函数的基础上为每一个类别添加了一个权重参数&＃xff0c;使其在样本数量不均衡的情况下可以获得更好的效果。

# Weighted Cross Entropy Loss
python baseline.py --save_path baseline_run_deeplabv3_resnet50_wce --crop_size 576 1152 --batch_size 8 --loss weighted_ce;


焦点损失函数则更进一步&＃xff0c;用来解决难易样本数量不平衡。

# Focal Loss
python baseline.py --save_path baseline_run_deeplabv3_resnet50_focal --crop_size 576 1152 --batch_size 8 --loss focal --focal_gamma 2.0;


归一化层

有4种归一化方法&＃xff1a;BN&＃xff08;Batch Normalization&＃xff09;、IN&＃xff08;Instance Normalization&＃xff09;、GN&＃xff08;Group Normalization&＃xff09;和EvoNorm&＃xff08;Evolving Normalization&＃xff09;。

BN是在batch上&＃xff0c;对N、H、W做归一化&＃xff0c;而保留通道 C 的维度。BN对较小的batch size效果不好。

# Batch Normalization
python baseline.py --save_path baseline_run_deeplabv3_resnet50 --crop_size 576 1152 --batch_size 8;


IN在图像像素上&＃xff0c;对H、W做归一化&＃xff0c;用在风格化迁移。

# Instance Normalization
python baseline.py --save_path baseline_run_deeplabv3_resnet50_instancenorm --crop_size 576 1152 --batch_size 8 --norm instance;

GN将通道分组&＃xff0c;然后再做归一化。

# Group Normalization
python baseline.py --save_path baseline_run_deeplabv3_resnet50_groupnorm --crop_size 576 1152 --batch_size 8 --norm group;


EvoNorm则是4月份由谷歌和DeepMind 联合发布的一项新技术。实验证明&＃xff0c;EvoNorms 在多个图像分类模型上效果显著&＃xff0c;而且还能很好地迁移到 Mask R-CNN 模型和 BigGAN。

# Evolving Normalization
python baseline.py --save_path baseline_run_deeplabv3_resnet50_evonorm --crop_size 576 1152 --batch_size 8 --norm evo;


数据增强

2种数据增强技术&＃xff1a;CutMix、Copy Blob。

• CutMix

将一部分区域cut掉但不填充0像素&＃xff0c;而是随机填充训练集中的其他数据的区域像素值&＃xff0c;分类结果按一定的比例分配。

而在这里&＃xff0c;则是在原有CutMix的基础上&＃xff0c;引入了语义分割。

# CutMix Augmentation
python baseline.py --save_path baseline_run_deeplabv3_resnet50_cutmix --crop_size 576 1152 --batch_size 8 --cutmix;


• Copy Blob

在 Blob 存储的基础上构建&＃xff0c;并通过Copy的方式增强了性能。

另外&＃xff0c;如果要解决前面所提到的类别不平衡问题&＃xff0c;则可以使用视觉归纳优先的CopyBlob进行增强。

# CopyBlob Augmentation
python baseline.py --save_path baseline_run_deeplabv3_resnet50_copyblob --crop_size 576 1152 --batch_size 8 --copyblob;


推理

训练结束后&＃xff0c;对训练完成的模型进行评估。

python baseline.py --save_path baseline_run_deeplabv3_resnet50 --batch_size 4 --predict;


多尺度推断

使用[0.5&＃xff0c;0.75&＃xff0c;1.0&＃xff0c;1.25&＃xff0c;1.5&＃xff0c;1.75&＃xff0c;2.0&＃xff0c;2.2]进行多尺度推理。另外&＃xff0c;使用H-Flip&＃xff0c;同时必须使用单一批次。

# Multi-Scale Inference
python baseline.py --save_path baseline_run_deeplabv3_resnet50 --batch_size 1 --predict --mst;


使用验证集计算度量

计算指标并将结果保存到results.txt中。

python evaluate.py --results baseline_run_deeplabv3_resnet50/results_val --batch_size 1 --predict --mst;


最终结果

最后的单一模型结果是0.6069831962012341&＃xff0c;

如果使用了更大的模型或者更大的网络结构&＃xff0c;性能可能会有所提高。

另外&＃xff0c;如果使用了各种集成模型&＃xff0c;性能也会有所提高。

资源地址&＃xff1a;
https://github.com/hoya012/semantic-segmentation-tutorial-pytorch

— 完 —

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容&＃xff0c;未经账号授权&＃xff0c;禁止随意转载。

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见~