文献阅读（73）

• 题目&＃xff1a;Convolutional Neural Network Accelerator with Vector Quantization
• 时间&＃xff1a;2019
• 会议&＃xff1a;ISCAS
• 研究机构&＃xff1a;国立台湾大学
• 参考链接&＃xff1a;https://blog.csdn.net/lishuiwang/article/details/78483547

Quantized cnn: a unified approach to accelerate and compress convolutional networks 2017 IEEE Transactions on Neural Networks and Learning Systems

本篇论文的主要贡献&＃xff1a;

1. 提出了DNN压缩方法&＃xff1a;向量量化vector quantizaion
2. 提出了accelerator&＃xff0c;可以支持不同的codebook和kernel尺寸
3. cycle-accurate python model来估计模拟这种dataflow&＃xff0c;估计所需的cycle数

首先矢量量化vector quantization需要将数据分成好几个子空间&＃xff0c;分割方法是每Cs′C_s&＃39;Cs′​个input channel分成一个子空间&＃xff0c;比如下图是按照Cs′&＃61;4C_s&＃39;&＃61;4Cs′​&＃61;4分割的

分割完子空间&＃xff0c;每个子空间有一个codebook&＃xff0c;有K个可能的权重矢量

3.1 PE架构

因为有codebook&＃xff0c;计算也可以通过查找表进行&＃xff0c;所以PE计算流程分成预计算、dispatch、累加三步&＃xff0c;预计算就是提前计算好查找表

数据流包括weight stationary、row stationary-like

• caffenet&＃xff1a;Cs′&＃61;4C_s&＃39;&＃61;4Cs′​&＃61;4&＃xff0c;$K\&＃61;128$
• VGG-16&＃xff1a;Cs′&＃61;8C_s&＃39;&＃61;8Cs′​&＃61;8&＃xff0c;$K\&＃61;128$
  只是综合了&＃xff0c;没有流片&＃xff0c;还通过一个周期准确的python模型来仿真周期数