CTR预估之DeepInterestNetWork模型原理详解

本文介绍的Deep Interest NetWork是阿里妈妈盖坤带领的团队2018年8月发表在KDD的Paper&＃xff0c;在点击率预估等场景有不错的效果。由于最近团队也准备尝试下该模型&＃xff0c;因此提前熟悉下DIN的原理与实现。

点击率预估在搜索、推荐、广告等领域具有很广泛及成功的应用&＃xff0c;众多学者和公司也纷纷发表了相关Paper。随着深度学习在计算机视觉&＃xff0c;自然语言处理等领域的重大突破&＃xff0c;有许多研究将DNN模型应用于CTR预估中&＃xff0c;常见的比如&＃xff0c;DeepFM, Wide&Deep&＃xff0c;PNN等。这类模型将原始高维的离散特征映射为固定长度的低维embedding向量&＃xff0c;并将embedding向量作为多个全连接层的输入&＃xff0c;拟合高阶的非线性关系&＃xff0c;最后通过Sigmoid等手段将输出值归一到0~1&＃xff0c;表示点击概率。相比于传统的LR、GBDT、FM等模型&＃xff0c;这类DNN的模型能减少大量的人工构造特征过程&＃xff0c;并且能学习特征之间的非线性关系。

但是&＃xff0c;上述DNN模型也存在一定的问题&＃xff0c;利用固定维度的embedding向量表示用户的兴趣多样性是有限制的。为了增加模型的多样性学习能力&＃xff0c;往往会扩充embedding向量的维度。而广告场景的样本比例往往是不平衡的&＃xff0c;在训练样本有限的情况下&＃xff0c;扩充特征维度将容易导致过拟合&＃xff0c;并且增加了模型训练的负担。

此外&＃xff0c;针对某一条广告&＃xff0c;没必要将用户的所有兴趣都同等对待&＃xff0c;往往决定用户点击的只有一部分兴趣。传统基于DNN的CTR预估模型对用户的历史行为是同等对待的&＃xff0c;一般离当前时间越近的行为&＃xff0c;越能反应用户目前的兴趣。因此&＃xff0c;DIN利用attention机制对用户历史行为进行了不同的加权处理&＃xff0c;针对不同的广告&＃xff0c;用户历史行为的权重不一致。

Deep Interest NetWork有以下三点创新&＃xff1a;

1. 利用attention机制实现Local Activation&＃xff0c;从用户历史行为中动态学习用户兴趣的embedding向量&＃xff1b;
2. CTR中特征稀疏而且维度高&＃xff0c;通常利用L1、L2、Dropout等手段防止过拟合。由于传统L2正则计算的是全部参数&＃xff0c;CTR预估场景的模型参数往往数以亿计。DIN提出了一种正则化方法&＃xff0c;在每次小批量迭代中&＃xff0c;给与不同频次的特征不同的正则权重&＃xff1b;
3. 由于传统的激活函数&＃xff0c;如Relu在输入小于0时输出为0&＃xff0c;将导致许多网络节点的迭代速度变慢。PRelu虽然加快了迭代速度&＃xff0c;但是其分割点默认为0&＃xff0c;实际上分割点应该由数据决定。因此&＃xff0c;DIN提出了一种数据动态自适应激活函数Dice。

DIN构建的特征分为四类&＃xff1a;分别是用户特征、用户行为特征、广告特征、上下文特征。特征均被变换为one-hot或者multi-hot形式的数据。然后&＃xff0c;通过DNN学习数据之间的交叉特征。

首先&＃xff0c;介绍一般的DNN模型结构&＃xff0c;大致分为以下几个部分&＃xff1a;

• Embedding Layer: 原始数据是高维且稀疏的0-1矩阵&＃xff0c;emdedding层用于将原始高维数据压缩成低维矩阵&＃xff1b;
• Pooling Layer : 由于不同的用户有不同个数的行为数据&＃xff0c;导致embedding矩阵的向量大小不一致&＃xff0c;而全连接层只能处理固定维度的数据&＃xff0c;因此&＃xff0c;利用Pooling Layer得到一个固定长度的向量。

• Concat Layer: 经过embedding layer和pooling layer后&＃xff0c;原始稀疏特征被转换成多个固定长度的用户兴趣的抽象表示向量&＃xff0c;然后利用concat layer聚合抽象表示向量&＃xff0c;输出该用户兴趣的唯一抽象表示向量&＃xff1b;
• MLP&＃xff1a;将concat layer输出的抽象表示向量作为MLP的输入&＃xff0c;自动学习数据之间的交叉特征&＃xff1b;
• Loss&＃xff1a;损失函数一般采用Loglos

传统DNN模型在Embedding Layer -> Pooling Layer得到用户兴趣表示的时候&＃xff0c;没有考虑用户与广告之间的关系&＃xff0c;即不同广告之间的权重是一致的。之前也分析过&＃xff0c;这样是有问题的。因此&＃xff0c;DIN利用attention机制&＃xff0c;在得到用户兴趣表示时赋予不同的历史行为不同的权重&＃xff0c;即通过Embedding Layer -> Pooling Layer&＃43;attention实现局部激活。从最终反向训练的角度来看&＃xff0c;就是根据当前的候选广告&＃xff0c;来反向的激活用户历史的兴趣爱好&＃xff0c;赋予不同历史行为不同的权重。

DIN认为用户的兴趣不是一个点&＃xff0c;而是一个多峰的函数。一个峰就表示一个兴趣&＃xff0c;峰值的大小表示兴趣强度。那么针对不同的候选广告&＃xff0c;用户的兴趣强度是不同的&＃xff0c;也就是说随着候选广告的变化&＃xff0c;用户的兴趣强度不断在变化。 

attention的公式如下&＃xff1a;

其中&＃xff0c;ei表示用户U历史行为embedding向量&＃xff0c;wj表示ej的权重&＃xff0c;Vu表示用户所有行为embedding向量的加权和&＃xff0c;表示用户的兴趣。候选广告影响着每个behavior id的权重&＃xff0c;也就是Local Activation。权重表示的是&＃xff1a;每一个behavior id针对当前的候选广告Va&＃xff0c;对总的用户兴趣表示的Embedding Vector的贡献大小。在实际实现中&＃xff0c;权重用激活函数Dice的输出来表示&＃xff0c;输入是Vi和Va。

DIN提出了一种数据动态自适应激活函数Dice&＃xff0c;认为分割点不是固定为0的&＃xff0c;而是随着数据不同而动态变化的。 Dice公式如下&＃xff1a;

ps的计算分为两步&＃xff1a;

• 对进行正态分布归一化处理&＃xff0c;使得数据集中在正态分布均值处&＃xff1b;
• 利用sigmoid函数归一化&＃xff0c;使得输出在0~1之间。

f(s)的作用可以理解为一种平滑操作&＃xff0c;alpha是一个超参数&＃xff0c;推荐值为0.99。

由于DNN模型往往十分复杂&＃xff0c;而且参数较多。利用L1,L2等正则手段往往加重了模型过拟合&＃xff0c;DIN提出了一种高效的正则方法&＃xff1a;

由于数据中有些feature id出现次数较少&＃xff0c;这在训练过程中将引入很多噪声&＃xff0c;从而加重了过拟合风险。DIN构造的正则器会针对id出现的频率不同&＃xff0c;动态调整其参数的正则化力度。即&＃xff0c;出现频率较高的id&＃xff0c;给与较小的正则化力度&＃xff0c;反之&＃xff0c;则加大力度。

DIN通过引入attention机制&＃xff0c;针对不同的广告构造不同的用户抽象表示&＃xff0c;从而实现了在数据维度一定的情况下&＃xff0c;更精准地捕捉用户当前的兴趣。此外&＃xff0c;DIN模型也适用于其他有丰富行为数据的场景&＃xff0c;比如&＃xff0c;电商中的个性化推荐&＃xff0c;以及当前比较火热的feed流推荐等。

【1】计算广告CTR预估系列(五)--阿里Deep Interest Network理论

【2】Deep Interest Network for Click-Through Rate Prediction

【3】DIN githup开源