李宏毅机器学习2022春季第十三课和HW13

李宏毅2022课程视频全部以线上视频的形式给出&＃xff08;已经全部录好&＃xff0c;你可以选择短时间全部学完&＃xff09;&＃xff0c;上课时间会直播讲解额外的内容&＃xff08;可以不听&＃xff09;和作业&＃xff08;建议一定要做&＃xff09;&＃xff0c;目前已更新到作业十三。

第十三课主要内容是Network compression(模型压缩)&＃xff0c;课程中介绍了五种模型压缩的方法&＃xff1a;Network Pruning&＃xff08;模型剪枝&＃xff09;, Knowledge Distillation&＃xff08;知识蒸馏&＃xff09;, Parameter Quantization&＃xff08;参数量化&＃xff09;, Archtecture Design&＃xff08;架构设计&＃xff09;, Dynamic Computation&＃xff08;动态计算&＃xff09;。详细内容见课程视频。

• 课程视频&＃xff1a;

  b站视频号&＃xff1a;机器学习手艺人

  https://www.bilibili.com/video/BV1Z34y1C7sj?spm_id_from&＃61;333.999.0.0

• Github&＃xff1a;课堂和作业课件及基础代码

  https://github.com/yaoweizhang/LHY2022-SPRING

作业十三需要使用kaggle或者colab下载代码、训练数据集、模型等资料&＃xff0c;文末也有助教代码和训练数据集的获得方式。

• 作业任务&＃xff1a;

  Network Compression(模型压缩)&＃xff0c;训练小模型并且精度不下降很多。本次作业的模型类似于作业三种的食物分类模型&＃xff0c;助教代码提供了一个teacher network&＃xff0c;准确率大概是0.899&＃xff0c;学生需要训练一个student network&＃xff0c;参数能不超过100&＃xff0c;000个&＃xff0c;并且有一定的准确率。

• 提交地址&＃xff08;Kaggle&＃xff09;&＃xff1a;

  https://www.kaggle.com/competitions/ml2022spring-hw13

  截止日期&＃xff1a;

  2022/06/17 23:59&＃xff08;北京时间&＃xff09;&＃xff0c;去冲榜吧。

• 评分&＃xff1a;学生通过改进代码提升student network的精度。

• QQ交流群&＃xff1a;156013866

  难易程度	分数
  simple	acc >&＃61; 0.44820
  medium	acc >&＃61; 0.64840
  strong	acc >&＃61; 0.82370
  boss	acc >&＃61; 0.85159

作业十三助教代码和数据获得方式&＃xff1a;

1. 关注微信公众号 “机器学习手艺人” 

2. 后台回复关键词&＃xff1a;202213