求序列中第k小的数_推荐算法序列建模现状

本篇文章主要是自己记录的相关序列建模、用户行为embedding向量的调研现状。

目录

一、序言

二、序列编码

(a)RNN

(b)CNN

(c)Attention

三、相关文献

1、attention

2、GNN用于用户历史行为建模

2.1 无监督的方法

2.2 有监督的方法

四、总结

1、推荐算法中常用attention、RNN、sumpooling思考

2、GNN对用户历史行为建模得到user-embedding思考

一、序言

在推荐系统中&＃xff0c;能获取的信息有user属性特征、item属性特征、user的历史行为特征、推荐场景有关的环境信息&＃xff08;如金融场景下股市的实时行情信息&＃xff09;。其中user的历史行为特征&＃xff0c;具有user和item的交互信息&＃xff0c;近年来成为推荐算法研究的重点。

二、序列编码

深度学习做NLP的方法&＃xff0c;基本上都是先将句子分词&＃xff0c;然后每个词转化为对应的词向量序列。这样一来&＃xff0c;每个句子都对应的是一个矩阵X&＃61;(x1,x2,…,xt)&＃xff0c;其中xi都代表着第i个词的词向量&＃xff08;行向量&＃xff09;&＃xff0c;维度为d维&＃xff0c;故X∈ℝn×d。这样的话&＃xff0c;问题就变成了编码这些序列了。

(a)RNN

第一个基本的思路是RNN层&＃xff0c;RNN的方案很简单&＃xff0c;递归式进行&＃xff1a;

yt&＃61;f(yt−1,xt)

不管是已经被广泛使用的LSTM、GRU还是最近的SRU&＃xff0c;都并未脱离这个递归框架。RNN结构本身比较简单&＃xff0c;也很适合序列建模&＃xff0c;但RNN的明显缺点之一就是无法并行&＃xff0c;因此速度较慢&＃xff0c;这是递归的天然缺陷。RNN无法很好地学习到全局的结构信息&＃xff0c;当前词的编码只考虑到之前的词&＃xff0c;没有考虑到之后的词。

(b)CNN

第二个思路是CNN层&＃xff0c;其实CNN的方案也是很自然的&＃xff0c;窗口式遍历&＃xff0c;比如尺寸为3的卷积&＃xff0c;就是

yt&＃61;f(xt−1,xt,xt&＃43;1)

在FaceBook《Convolutional Sequence to Sequence Learning》论文中&＃xff0c;纯粹使用卷积也完成了Seq2Seq的学习&＃xff0c;是卷积的一个精致且极致的使用案例。CNN方便并行&＃xff0c;而且容易捕捉到一些全局的结构信息&＃xff0c;但精度一般。

&＃xff08;1&＃xff09;Position Embedding&＃xff0c;在输入信息中加入位置向量P&＃61;&＃xff08;p1,p2,....&＃xff09;&＃xff0c;把位置向量与词向量W&＃61;&＃xff08;w1&＃xff0c;w2,.....&＃xff09;求和构成向量E&＃61;(w1&＃43;p1,w2&＃43;p2)&＃xff0c;做为网络输入&＃xff0c;使由CNN构成的Encoder和Decoder也具备了RNN捕捉输入Sequence中词的位置信息的功能。

&＃xff08;2&＃xff09;捕获long-distance依赖关系。底层的CNN捕捉相聚较近的词之间的依赖关系&＃xff0c;高层CNN捕捉较远词之间的依赖关系。通过层次化的结构&＃xff0c;实现了类似RNN&＃xff08;LSTM&＃xff09;捕捉长度在20个词以上的Sequence的依赖关系的功能。

&＃xff08;3&＃xff09;效率高。假设一个sequence序列长度为n&＃xff0c;采用RNN&＃xff08;LSTM&＃xff09;对其进行建模 需要进行n次操作&＃xff0c;时间复杂度O&＃xff08;n&＃xff09;。相比&＃xff0c;采用层叠CNN只需要进行n/k次操作&＃xff0c;时间复杂度O&＃xff08;n/k&＃xff09;,k为卷积窗口大小。

(c)Attention

第三个思路&＃xff1a;纯Attention&＃xff0c;单靠注意力就可以。RNN要逐步递归才能获得全局信息&＃xff0c;因此一般要双向RNN才比较好&＃xff1b;CNN事实上只能获取局部信息。

attention函数共有三步完成得到attention value。

- Q与K进行相似度计算得到权值

- 对上部权值归一化

- 用归一化的权值与V加权求和

此时加权求和的结果就为注意力值。公式如下:$$Attention Value &＃61; similarity(QK^T)V$$

在自然语言任务中&＃xff0c;往往K和V是相同的。这时计算出的attention value是一个向量&＃xff0c;代表序列元素xj的编码向量。此向量中包含了元素xj的上下文关系&＃xff0c;即包含全局联系也拥有局部联系。全局联系是因为在求相似度的时候&＃xff0c;序列中元素与其他所有元素的相似度计算&＃xff0c;然后加权得到了编码向量。局部联系可以这么解释&＃xff0c;因为它所计算出的attention value是属于当前输入的x_j的。这也就是attention的强大优势之一&＃xff0c;它可以灵活的捕捉长期和local依赖&＃xff0c;而且是一步到位的。具有以下优点&＃xff1a;

&＃xff08;1&＃xff09;一步到位的全局联系捕捉

attention机制可以灵活的捕捉全局和局部的联系&＃xff0c;而且是一步到位的。另一方面从attention函数就可以看出来&＃xff0c;它先是进行序列的每一个元素与其他元素的对比&＃xff0c;在这个过程中每一个元素间的距离都是一&＃xff0c;因此它比时间序列RNNs的一步步递推得到长期依赖关系好的多&＃xff0c;越长的序列RNNs捕捉长期依赖关系就越弱。

&＃xff08;2&＃xff09;并行计算减少模型训练时间

Attention机制每一步计算不依赖于上一步的计算结果&＃xff0c;因此可以和CNN一样并行处理。但是CNN也只是每次捕捉局部信息&＃xff0c;通过层叠来获取全局的联系增强视野。

&＃xff08;3&＃xff09;模型复杂度小&＃xff0c;参数少

模型复杂度是与CNN和RNN同条件下相比较的。

三、相关文献

1、attention

(1) 2019_Behavior Sequence Transformer for E-commerce Recommendation in Alibaba

1、“序列商品特征”包含item_id 和category_id。文中指出&＃xff0c;尽管商品特征很多&＃xff0c;但发现使用这两个特征效果最好。 2. position emdedding“位置特征”用于捕获序列中的顺序信息&＃xff0c;因为Transformer架构不像RNN&＃xff0c;前者没有序列顺序的定义。商品vi 的位置值表示为pos(vi) &＃61; t(vt) - t(vi)&＃xff0c;其中 t(vt) 代表推荐时间&＃xff0c; t(vi) 是用户点击商品 vi时的时间戳。

(2) 2019_KDD_DSTN

提出将辅助广告信息&＃xff0c;有三种类型&＃xff1a;上下文广告、用户点击过的广告、用户未点击的广告,用于ctr模型。

针对这些广告信息&＃xff0c; (a)DSTN - Pooling Model 对不同域的广告特征直接做average pooling 再做concat (b)DSTN - Self-Attention Mode 对不同域的广告特征直接做Self-Attention的average pooling 再做concat

(c)DSTN - Interactive Attention Model 对不同域的广告特征和target广告做Attention的average pooling 再做concat

(3)2019_IJCAI_DSIN 主要贡献在于对用户的历史点击行为划分为不同session&＃xff0c;对每个session使用Transformer学习session embedding&＃xff0c;最后使用BiLSTM对session序列建模。

模型主要由四个部分组成&＃xff0c;Session Division Layer是对用户的历史行为划分到不同session&＃xff0c;Session Interest Extractor Layer是学习session的表 征&＃xff0c;Session Interest Interacting Layer是学习session之间的演变&＃xff0c;Session Interest Activating Layer是学习当前item和历史点击session的相关性。

(a)Session Division Layer 主要是将用户的历史点击行为序列划分为多个sessions。这里有一个假设是相同session用户的行为是接近的&＃xff0c;比如都是在点一些和裤子相关的商品&＃xff0c;而不同session间的用户行为是有差异的&＃xff0c;比如后面可能是点一些和洗发水相关的商品。文章将间隔超过30分钟作为session的划分&＃xff0c;比如将历史点击序列S转换为session Q &＃xff0c;第 k个session表示为&＃xff1a;

其中T是第 k个session的长度&＃xff0c; dmodel是输入item的embedding大小。

&＃xff08;b)Session Interest Extractor Layer 这部分主要是获取session表征。用户在相同session内的行为是高度相关的&＃xff0c;此外用户在session内的一些随意行为会偏离整个session表达。为了刻画相同session内行为间的相关性&＃xff0c;同时减小不相关行为的影响&＃xff0c;DSIN使用multi-head self-attention对每个session建模。为了刻画不同session间的顺序&＃xff0c;DSIN使用了Bias Encoding。为了刻画不同session的顺序关系&＃xff0c;使用bias encoding&＃xff0c;定义如下&＃xff1a;

第 k个session中&＃xff0c;第 t个物品的embedding向量的第 d 个位置的偏置项。也就是说&＃xff0c;对每个session中的每个物品对应的embedding的每个位置&＃xff0c;都加入了偏置项。加入bias encoding后&＃xff0c;用户的session表示为Q。

&＃xff08;4&＃xff09;2019_AAAI_DIEN

相对于DIN&＃xff0c;DIEN对用户行为序列User behavior sequence的处理做了调整。这里包含了3个部分&＃xff0c;最底层是Behavior Layer&＃xff0c;用于将用户浏览过的商品转换成对应的embedding&＃xff0c;并且按照浏览时间做排序&＃xff0c;中间层是兴趣提取层Interest Extractor Layer&＃xff0c;最上层是兴趣发展层Interest Evolving Layer。

通过引入RNN来发掘和利用行为序列&＃xff08;也就是浏览过的商品序列&＃xff09;中的依赖关系&＃xff0c;比直接对行为序列做pooling效果更好。但是这些算法存在的问题就是直接将RNN的隐层输出作为用户的兴趣表示。而商品embedding才是对商品的真实表达&＃xff0c;也是对用户兴趣的直接反应&＃xff0c;RNN的隐层输出向量未必能够真正表达用户的兴趣。因此兴趣提取层引入了一个有监督学习&＃xff0c;强行将RNN输出隐层与商品embedding发生交互&＃xff0c;如图中左侧的Auxiliary Loss所示。兴趣提取层采用一个基本的GRU单元。 用户的兴趣表示&＃xff0c;兴趣发展层的作用就是捕获与candidate相关的兴趣发展模式&＃xff0c;如图中红色区域所示&＃xff0c;这里使用了第2个GRU。将candidate的embedding向量与第1个GRU的输出隐向量发生交互&＃xff0c;生成attention分数&＃xff0c;将attention分数与update gate相乘&＃xff0c;替换原始update gate&＃xff0c;为AUGRU。

(5)2018_KDD_DIN

将candidate与点击序列中的每个商品发生交互来计算attention分数&＃xff0c;论文中还提出了两个小的改进点。一个是对L2正则化的改进&＃xff0c;在进行SGD优化的时候&＃xff0c;每个mini-batch都只会输入部分训练数据&＃xff0c;反向传播只针对部分非零特征参数进行训练&＃xff0c;添加上L2之后&＃xff0c;需要对整个网络的参数包括所有特征的embedding向量进行训练&＃xff0c;这个计算量非常大且不可接受。论文中提出&＃xff0c;在每个mini-batch中只对该batch的特征embedding参数进行L2正则化。第二个是提出了一个激活函数Dice。对于Relu或者PRelu来说&＃xff0c;rectified point(梯度发生变化的点)都在0值&＃xff0c;Dice对每个特征以mini-batch为单位计算均值和方差&＃xff0c;然后将rectified point调整到均值位置。

&＃xff08;6&＃xff09;2019_MA-DNN

利用RNN对用户历史行为序列进行建模可以有效提升CTR预估的效果&＃xff0c;但是RNN结构的网络通畅比较复杂&＃xff0c;而且不太方便进行并行化&＃xff0c;这都给该类模型的线上部署与应用带来很大的挑战。所以为了保证模型足够简单的同时&＃xff0c;又能更好的对用户历史行为进行建模从而提升预估效果。

从模型结构上来看MA-DNN网络并不复杂&＃xff0c;主要包括DNN部分和记忆网络部分&＃xff0c;记忆网络部分主要存储两个向量&＃xff0c;即mu1和mu0&＃xff0c;两者分别用于存储用户“喜欢的内容”和“不喜欢的内容”&＃xff08;后续会讲mu1和mu0的意义&＃xff09;。首先原始用户特征同样通过Embedding层得到稠密的Embedding向量&＃xff0c;将不同特征的Embedding向量全部拼接起来形成一个大的Embedding向量x&＃xff1b;然后针对每一个用户&＃xff0c;从记忆网络中获取用户u的两个向量mu1和mu0&＃xff0c;将x、mu1和mu0拼接到一起得到向量v&＃xff0c;即v&＃61;[x,mu1,mu0]&＃xff1b;之后将向量v经过几层全连接网络得到最终的预测结果。

2、GNN用于用户历史行为建模

GNN在推荐系统中的应用&＃xff0c;表征学习。我们都知道在数据结构中&＃xff0c;图是一种基础且常用的结构。现实世界中许多场景可以抽象为一种图结构&＃xff0c;如社交网络&＃xff0c;交通网络&＃xff0c;电商网站中用户与物品的关系等。

2.1 无监督的方法

(a)2014_KDD_Deepwalk DeepWalk最主要的贡献就是他将Network Embedding与自然语言处理中重要的Word Embedding方法Word2Vec联系了起来&＃xff0c;使得Network Embedding问题转化为了一个Word Embedding问题。

算法过程&＃xff1a;

&＃xff08;1&＃xff09; user的历史行为序列&＃xff08;访问的item序列&＃xff09;构建图网络 &＃xff08;2&＃xff09; 从网络中的每个节点开始分别进行Random Walk 采样&＃xff0c;得到局部相关联的训练数据 &＃xff08;3&＃xff09; 对采样数据进行SkipGram训练&＃xff0c;将离散的网络节点表示成向量化&＃xff0c;最大化节点共现&＃xff0c;使用Hierarchical Softmax来做超大规模分类的分类器

(b)LINE LINE不再采用随机游走的方法。相反&＃xff0c;他在图上定义了两种相似度&＃xff1a;一阶相似度与二阶相似度。

一阶相似度&＃xff1a;一阶相似度就是要保证低维的嵌入中要保留两个结点之间的直接联系的紧密程度&＃xff0c;换句话说就是保留结点之间的边权&＃xff0c;若两个结点之间不存在边&＃xff0c;那么他们之间的一阶相似度为0。例如上图中的6、7两个结点就拥有很高的一阶相似度。

二阶相似度&＃xff1a;二阶相似度用一句俗话来概括就是“我朋友的朋友也可能是我的朋友”。他所比较的是两个结点邻居的相似程度。若两个结点拥有相同的邻居&＃xff0c;他们也更加的相似。如果将邻居看作context&＃xff0c;那么两个二阶相似度高的结点之间拥有相似的context。这一点与DeepWalk的目标一致。例如上图中的5、6两点拥有很高的二阶相似度。

LINE的目标就是保留这两种相似度。 LINE的一阶相似度&＃xff0c;两个结点实际的一阶相似度表达如下&＃xff1a;

其中W是所有边权重之和。而两个结点embedding之间的相似度为&＃xff1a;

其中u是结点的embedding。即两个结点表示的内积套上一个 对率函数的结果。这样一来目标函数设为实际相似度与表示相似度之间的KL散度就可以了&＃xff0c;这样一来&＃xff0c;只要最小化KL散度(下式中约去了一些常数)&＃xff0c;就能保证表示相似度尽量接近实际相似度。

LINE的二阶相似度&＃xff0c;两个结点实际的二阶相似度表达式如下&＃xff1a;

其中wij是边ij的权重&＃xff0c;di是结点i的出度。两个结点embedding的相似度为&＃xff1a;

其中V为结点i的所有邻居&＃xff0c;这里与一阶相似度不同的地方是&＃xff0c;对于邻居结点&＃xff0c;使用了另一组的embedding&＃xff0c;称作context。目标函数依旧是KL散度&＃xff0c;也就是最终&＃xff0c;拥有相似邻居的结点&＃xff0c;将会拥有相近的embedding。

最终要获得同时包含有一阶相似度和二阶相似度的embedding&＃xff0c;只需要将通过一阶相似度获得的embedding与通过二阶相似度获得的embedding拼接即可。

&＃xff08;c)Node2Vec Node2Vec是一份基于DeepWalk的延伸工作&＃xff0c;它改进了DeepWalk随机游走的策略。 Node2Vec认为&＃xff0c;现有的方法无法很好的保留网络的结构信息&＃xff0c;例如下图所示&＃xff0c;有一些点之间的连接非常紧密(比如u, s1, s2, s3, s4)&＃xff0c;他们之间就组成了一个社区(community)。网络中可能存在着各种各样的社区&＃xff0c;而有的结点在社区中可能又扮演着相似的角色(比如u与s6)。

Node2Vec的优化目标为以下两个&＃xff1a;

让同一个社区内的结点表示能够相互接近 在不同社区内扮演相似角色的结点表示也要相互接近。 为此&＃xff0c;Node2Vec就要在DeepWalk现有的基础上&＃xff0c;对随机游走的策略进行优化。Node2Vec提出了两种游走策略&＃xff1a; 广度优先策略 深度优先策略达到这样的两种随机游走策略呢&＃xff0c;这里需要用到两个超参数p和q用来控制深度优先策略和广度优先策略的比重&＃xff0c;如下图所示。

假设现在游走序列从t走到v&＃xff0c;这时候需要算出三个系数&＃xff0c;分别作为控制下一步走向方向的偏置α。

其中d(t, x)代表t结点到下一步结点x的最短路&＃xff0c;最多为2。

当d(t, x)&＃61;0时&＃xff0c;表示下一步游走是回到上一步的结点&＃xff1b; 当d(t, x)&＃61;1时&＃xff0c;表示下一步游走跳向t的另外一个邻居结点&＃xff1b; 当d(t, x)&＃61;2时&＃xff0c;表示下一步游走向更远的结点移动。 而Node2Vec同时还考虑了边权w的影响&＃xff0c;所以最终的偏置系数以及游走策略为

这样一来&＃xff0c;就可以看出&＃xff0c;超参数p控制的是重新访问原来结点的概率&＃xff0c;也就是保守探索系数&＃xff0c;而超参数q控制的是游走向更远方向的概率&＃xff0c;也就是激进探索系数。如果q较大&＃xff0c;那么游走策略则更偏向于广度优先策略&＃xff0c;若q较小&＃xff0c;则偏向于深度优先策略。

(d)SDNE: Structural Deep Network Embedding SDNE使用一个自动编码器结构来同时优化1阶和2阶相似度(LINE是分别优化的)&＃xff0c;学习得到的向量表示能够保留局部和全局结构&＃xff0c;并且对稀疏网络具有鲁棒性。 SDNE提出了这样一个框架&＃xff0c;能够使用深度自编码器&＃xff0c;在训练的过程中&＃xff0c;同时获得节点的一阶相似度和二阶相似度。

2阶相似度优化目标

1阶相似度优化目标

一个自动编码器的结构&＃xff0c;输入输出分别是邻接矩阵和重构后的邻接矩阵。通过优化重构损失可以保留顶点的全局结构特性(Global structure preserved cost)。 自编码器中间的输出就是我们需要的embedding向量&＃xff0c;模型通过1阶损失函数使得邻接的顶点对应的embedding向量接近&＃xff0c;从而保留顶点的局部结构特性(中间应该是 Local structure preserved cost)

2.2 有监督的方法

(a) 2019_aaai_ Session-based Recommendation with Graph Neural Networks

推荐系统可帮助用户发掘感兴趣的商品。大多数学术研究都关注根据长期用户档案进行个性化推荐的方法。然而&＃xff0c;在许多现实世界的应用中&＃xff0c;这种配置文件不会长期保存&＃xff0c;而且用户的兴趣是动态变化的&＃xff0c;因此必须仅基于用户在正在进行的会话对系统做出推荐。假设用户已连续访问电子商务网站中的上述五个项目。前四个将用作训练数据&＃xff0c;我们的目标是准确预测最后一个项目。用户无需登录系统、也可能无法获得其他辅助信息。

提出的SR-GNN 模型包括以下四个步骤&＃xff1a;

(1)会话图建模

会话序列s由一个有向图构成&＃xff0c;然后对edge的权重进行归一化。

(2)节点表示学习

文章采用GGNN来学习会话图中所有节点的统一表示。

主要的计算传播公式

第一个等式利用连接矩阵(connection matrix)从邻接节点中整合信息。其他等式的更新与GRU模型类似。

连接矩阵(connection matrix)&＃xff1a;

决定了图中的节点之间如何连接&＃xff0c;由出度和入职矩阵组成

(3)会话表示生成

在获得项目嵌入之后&＃xff0c;我们生成会话嵌入。会话由该会话中涉及的节点嵌入直接表示。

首先&＃xff0c;我们代表用户当前的兴趣&＃xff0c;也称作local embedding&＃xff0c;以强调最后点击的项目的影响。

再者&＃xff0c;通过软注意力网络&＃xff08;soft-attention network&＃xff09;获得global embedding&＃xff0c;来表示全局偏好

然后&＃xff0c;我们通过简单的线性变换将两个向量组合起来以获得混合嵌入(hybrid embedding)

(4)生成推荐结果

最后&＃xff0c;我们通过将其embedding与其会话表示相乘来计算每个候选项的得分。然后&＃xff0c;我们应用softmax函数来获得模型的输出向量。

对于每个会话图&＃xff0c;损失函数被定义为预测值与实际值的交叉熵。

(b)2017_Inductive Representation Learning on Large Graphs

GraphSAGE同时利用节点特征信息和结构信息得到Graph Embedding的映射&＃xff0c;相比之前的方法&＃xff0c;之前都是保存了映射后的结果&＃xff0c;而GraphSAGE保存了生成embedding的映射&＃xff0c;可扩展性更强&＃xff0c;对于节点分类和链接预测问题的表现也比较突出。

现存的方法需要图中所有的顶点在训练embedding的时候都出现&＃xff1b;这些前人的方法本质上是transductive&＃xff0c;不能自然地泛化到未见过的顶点。

文中提出了GraphSAGE&＃xff0c;是一个inductive的框架&＃xff0c;可以利用顶点特征信息&＃xff08;比如文本属性&＃xff09;来高效地为没有见过的顶点生成embedding。

GraphSAGE是为了学习一种节点表示方法&＃xff0c;即如何通过从一个顶点的局部邻居采样并聚合顶点特征&＃xff0c;而不是为每个顶点训练单独的embedding。

而GraphSAGE方法学到的node embedding&＃xff0c;是根据node的邻居关系的变化而变化的&＃xff0c;也就是说&＃xff0c;即使是旧的node&＃xff0c;如果建立了一些新的link&＃xff0c;那么其对应的embedding也会变化&＃xff0c;而且也很方便地学到。

第一步是对图中每个顶点邻居顶点进行采样&＃xff0c;因为每个节点的度是不一致的&＃xff0c;为了计算高效&＃xff0c; 为每个节点采样固定数量的邻居

第二步是聚合邻居节点的信息&＃xff0c;获得目标节点的embedding&＃xff1b;

第三步是使用聚合得到的信息&＃xff0c;也就是目标节点的embedding,来预测图中想预测的信息;

在实践中&＃xff0c;每个节点的receptive field设置为固定大小&＃xff0c;且使用了均匀采样方法简化邻居选择过程。作者设计了四种不同的聚集策略&＃xff0c;分别是Mean、GCN、LSTM、MaxPooling。

Mean Aggregator: 对所有对邻居节点特征取均值。

GCN Aggregator: 图卷积聚集W(PX)&＃xff0c;W为参数矩阵&＃xff0c;P为邻接矩阵的对称归一化矩阵&＃xff0c;X为节点特征矩阵。

LSTM Aggregator: 把所有节点按随机排列输入LSTM&＃xff0c;取最终隐状态为聚集之后对表示。

Pooling Aggregator: 邻接特征经过线性变换化取各个位置上对最大值。

四、总结

1、推荐算法中常用attention、RNN、sumpooling

1&＃xff09;Concat&＃xff0f;Pooling&＃xff0c;即将用户历史行为序列中物品对应的embedding进行concat或者pooling&＃xff0c;实现比较简单&＃xff0c;但没有考虑到历史行为与目标物品的相关性

2&＃xff09;attention&＃xff0c;如阿里DIN&＃xff0c;历史行为物品与目标物品进行attention计算对应的权重&＃xff0c;然后进行加权求和&＃xff0c;考虑了历史行为与目标物品的相关性&＃xff0c;但是没有考虑历史行为的先后顺序以及时间因素

3&＃xff09;RNN结构&＃xff0c;考虑了历史行为的时间顺序&＃xff0c;但同样没有考虑到历史行为与目标物品的相关性

4&＃xff09;attention &＃43; GRU&＃xff0c;如阿里的DIEN&＃xff0c;考虑了用户历史行为中兴趣的演进过程&＃xff0c;以及和目标物品的相关性&＃xff0c;但是RNN结构线上耗时太高

5&＃xff09;Transformer&＃xff0c;如阿里的BST&＃xff0c;将RNN结构替换为Transformer&＃xff0c;可以对历史行为进行并行处理&＃xff0c;同时将时间因素加入到position encoding&＃xff0c;考虑了历史行为发生的时间

2、GNN对用户历史行为建模得到user-embedding

总体而言针对ctr模型中的GNN对用户历史行为建模。主要是获得item的embedding。

&＃xff08;a&＃xff09;GNN的embedding相比于推荐模型中的embedding层获取的embedding&＃xff0c;强调item在全部item集合中的空间位置&＃xff08;考虑图的结构信息&＃xff09;

&＃xff08;b&＃xff09;GNN的embedding构造方法可以分为2种。

b.1无监督方法&＃xff08;强调节点位置的临近和结构相似性&＃xff09;

&＃xff08;1&＃xff09;deepwalk:基于用户点击/购买的item序列,构建图&＃xff0c;并基于random walk提取上下文序列&＃xff0c;用于word2vec训练得到embedding,不能反映节点的结构信息。

&＃xff08;2&＃xff09;node2vec:改进deepwalk的random walk算法&＃xff0c;基于bfs和dfs两种游走方式&＃xff0c;挖掘结构信息。

&＃xff08;3&＃xff09;line&＃xff1a;不使用随机游走&＃xff0c;定义一阶相似度&＃xff08;是否临近&＃xff09;和二阶相似度&＃xff08;邻居集合是否相同&＃xff09;&＃xff0c;训练得到embedding

&＃xff08;4&＃xff09;SDNE&＃xff1a;在line的基础上引入自编码器结构&＃xff0c;融合一阶相似度和二阶相似度训练提取embedding

这些方法&＃xff0c;基于节点位置的临近和结构相似性&＃xff0c;强调图结构中item的位置和空间特性&＃xff0c;与具体的预测任务无关。

b.2有监督方法&＃xff08;训练时有具体目标&＃xff0c;训练时结合图结构&＃xff09;

&＃xff08;1&＃xff09;SR-GNN&＃xff1a;训练时将item在图中获得的出度和入度举证&＃xff0c;作为输入&＃xff0c;经过Gate-GNN得到embedding,之后将embedding用于计算任务目标。基于任务目标的loss end-to-end训练。

&＃xff08;2&＃xff09;GraphSAGE&＃xff1a;对图中每个顶点邻居顶点进行采样&＃xff0c;聚合邻居节点的信息&＃xff0c;根据聚合得到的信息预测图中想预测的信息&＃xff08;任务目标&＃xff09;;可以预测没出现过的item的embedding&＃xff0c;通过从一个顶点的局部邻居采样并聚合顶点特征&＃xff0c;而不是为每个顶点训练固定的embedding。

(c) GNN的embedding是否可以获取历史行为中的时序信息

个人理解上&＃xff0c;GNN的embedding更强调图结构中item的位置和空间特性信息&＃xff0c;不同于之前推荐模型中的embedding层获取的embedding&＃xff0c;可以作为新的信息加入&＃xff0c;时序信息上体现较少。