向目标用户展示目标对象序列的方法和装置转让专利

申请号 : CN202011314171.3

文献号 : CN112115188B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 钱浩吴沁桐肖帅周俊

申请人 : 支付宝(杭州)信息技术有限公司

摘要 :

本说明书实施例提供一种向目标用户展示目标对象序列的方法和装置,方法包括:将各交互特征向量按照初始排序输入重排序模型,重排序模型包括编码器和解码器,编码器确定目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;确定目标对象序列中以第一目标对象为中心的部分目标对象与第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对第一隐特征向量和第二隐特征向量加权求和,得到综合隐特征向量;解码器根据各综合隐特征向量,确定各目标对象的重排序;按照重排序的各目标对象的位置,向目标用户展示目标对象序列。能够达到用户反馈的最大化。

权利要求 :

1.一种向目标用户展示目标对象序列的方法,所述方法包括:

获取所述目标用户对应的用户特征向量,以及所述目标对象序列中各目标对象分别对应的对象特征向量;

根据所述用户特征向量和所述目标对象序列中任意的第一目标对象的对象特征向量,确定所述目标用户与该第一目标对象之间的第一交互特征向量,以得到所述各目标对象分别对应的各交互特征向量;

将各交互特征向量按照预先确定的所述各目标对象的初始排序输入重排序模型,所述初始排序按照所述各目标对象与所述目标用户的相关度由高到低进行排序,所述重排序模型包括编码器和解码器,所述编码器根据各交互特征向量,确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;确定所述目标对象序列中以所述第一目标对象为中心的预设数目个部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量;所述解码器根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序;

按照所述重排序的各目标对象的位置,向所述目标用户展示所述目标对象序列。

2.如权利要求1所述的方法,其中,所述用户特征向量通过如下方式确定:根据所述目标用户的属性特征,确定第一维度的原始特征向量;

将所述目标用户的原始特征向量进行降维嵌入处理,转换为第二维度的特征向量作为所述用户特征向量,所述第二维度小于所述第一维度。

3.如权利要求2所述的方法,其中,所述目标用户的属性特征包括:用户的基本描述信息和/或用户的历史行为特征信息。

4.如权利要求1所述的方法,其中,所述对象特征向量通过如下方式确定:根据所述目标对象序列中任一目标对象的属性特征和该目标对象在所述初始排序中的位置,得到该目标对象的对象特征向量。

5.如权利要求4所述的方法,其中,所述目标对象为商品;所述目标对象的属性特征包括如下至少一种:商品描述信息、价格、类目。

6.如权利要求1所述的方法,其中,所述根据各交互特征向量,确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量,包括:确定所述第一交互特征向量映射的第一查询向量,以及各交互特征向量分别映射的各键向量和各值向量;

根据所述第一查询向量和各键向量,得到各交互特征向量与所述第一交互特征向量关联的各第一权重;

基于所述各第一权重和各值向量,得到所述第一目标对象的第一隐特征向量。

7.如权利要求1所述的方法,其中,所述确定所述目标对象序列中以所述第一目标对象为中心的预设数目个部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量,包括:确定所述第一交互特征向量映射的第一查询向量,以及预设数目个所述部分目标对象对应的各交互特征向量分别映射的各键向量和各值向量;

根据所述第一查询向量和各键向量,得到各交互特征向量与所述第一交互特征向量关联的各第二权重;

基于所述各第二权重和各值向量,得到所述第一目标对象的第二隐特征向量。

8.如权利要求1所述的方法,其中,所述对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量,包括:根据所述第一交互特征向量,确定所述第一目标对象对应的门控权重;

利用1减去所述门控权重乘以所述第一隐特征向量得到第一求和项,利用所述门控权重乘以所述第二隐特征向量得到第二求和项,对所述第一求和项与所述第二求和项相加,得到第一目标对象的综合隐特征向量。

9.如权利要求1所述的方法,其中,所述根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序,包括:根据各目标对象分别对应的综合隐特征向量和上一步的解码输出,从当前的未选择的目标对象中,选取概率最大的目标对象作为当前步的解码输出;将各步的解码输出的顺序作为各目标对象的重排序。

10.如权利要求1所述的方法,其中,所述根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序,包括:根据各目标对象分别对应的综合隐特征向量,得到各个目标对象的打分;

按照各个目标对象的打分由高到低的顺序,确定所述目标对象序列中各目标对象的重排序。

11.一种向目标用户展示目标对象序列的装置,所述装置包括:

获取单元,用于获取所述目标用户对应的用户特征向量,以及所述目标对象序列中各目标对象分别对应的对象特征向量;

交互单元,用于根据所述获取单元获取的所述用户特征向量和所述目标对象序列中任意的第一目标对象的对象特征向量,确定所述目标用户与该第一目标对象之间的第一交互特征向量,以得到所述各目标对象分别对应的各交互特征向量;

重排单元,用于将所述交互单元得到的各交互特征向量按照预先确定的所述各目标对象的初始排序输入重排序模型,所述初始排序按照所述各目标对象与所述目标用户的相关度由高到低进行排序,所述重排序模型包括编码器和解码器,所述编码器根据各交互特征向量,确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;确定所述目标对象序列中以所述第一目标对象为中心的预设数目个部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量;所述解码器根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序;

展示单元,用于按照所述重排单元确定的重排序的各目标对象的位置,向所述目标用户展示所述目标对象序列。

12.如权利要求11所述的装置,其中,所述用户特征向量通过如下方式确定:根据所述目标用户的属性特征,确定第一维度的原始特征向量;

将所述目标用户的原始特征向量进行降维嵌入处理,转换为第二维度的特征向量作为所述用户特征向量,所述第二维度小于所述第一维度。

13.如权利要求12所述的装置,其中,所述目标用户的属性特征包括:用户的基本描述信息和/或用户的历史行为特征信息。

14.如权利要求11所述的装置,其中,所述对象特征向量通过如下方式确定:根据所述目标对象序列中任一目标对象的属性特征和该目标对象在所述初始排序中的位置,得到该目标对象的对象特征向量。

15.如权利要求14所述的装置,其中,所述目标对象为商品;所述目标对象的属性特征包括如下至少一种:商品描述信息、价格、类目。

16.如权利要求11所述的装置,其中,所述重排单元包括:

第一向量确定子单元,用于确定所述第一交互特征向量映射的第一查询向量,以及各交互特征向量分别映射的各键向量和各值向量;

第一权重确定子单元,用于根据所述第一向量确定子单元确定的第一查询向量和各键向量,得到各交互特征向量与所述第一交互特征向量关联的各第一权重;

第一加权子单元,用于基于所述第一权重确定子单元确定的各第一权重和所述第一向量确定子单元确定的各值向量,得到所述第一目标对象的第一隐特征向量。

17.如权利要求11所述的装置,其中,所述重排单元包括:

第二向量确定子单元,用于确定所述第一交互特征向量映射的第一查询向量,以及预设数目个所述部分目标对象对应的各交互特征向量分别映射的各键向量和各值向量;

第二权重确定子单元,用于根据所述第二向量确定子单元确定的第一查询向量和各键向量,得到各交互特征向量与所述第一交互特征向量关联的各第二权重;

第二加权子单元,用于基于所述第二权重确定子单元确定的各第二权重和所述第二向量确定子单元确定的各值向量,得到所述第一目标对象的第二隐特征向量。

18.如权利要求11所述的装置,其中,所述重排单元包括:

第三权重确定子单元,用于根据所述第一交互特征向量,确定所述第一目标对象对应的门控权重;

第三加权子单元,用于利用1减去所述第三权重确定子单元确定的门控权重乘以所述第一隐特征向量得到第一求和项,利用所述门控权重乘以所述第二隐特征向量得到第二求和项,对所述第一求和项与所述第二求和项相加,得到第一目标对象的综合隐特征向量。

19.如权利要求11所述的装置,其中,所述重排单元,具体用于根据各目标对象分别对应的综合隐特征向量和上一步的解码输出,从当前的未选择的目标对象中,选取概率最大的目标对象作为当前步的解码输出;将各步的解码输出的顺序作为各目标对象的重排序。

20.如权利要求11所述的装置,其中,所述重排单元,包括:

打分子单元,用于根据各目标对象分别对应的综合隐特征向量,得到各个目标对象的打分;

重排子单元,用于按照所述打分子单元得到的各个目标对象的打分由高到低的顺序,确定所述目标对象序列中各目标对象的重排序。

21.一种计算机可读存储介质,其上存储有计算机程序,当所述计算机程序在计算机中执行时,令计算机执行权利要求1-10中任一项的所述的方法。

22.一种计算设备,包括存储器和处理器,所述存储器中存储有可执行代码,所述处理器执行所述可执行代码时,实现权利要求1-10中任一项的所述的方法。

说明书 :

向目标用户展示目标对象序列的方法和装置

技术领域

[0001] 本说明书一个或多个实施例涉及计算机领域,尤其涉及向目标用户展示目标对象序列的方法和装置。

背景技术

[0002] 当前,常常会向目标用户展示目标对象序列,以向该目标用户推荐该目标对象序列中的多个目标对象,为了实现特定的业务目标,需要从大量的目标对象中筛选出用户可能会感兴趣的多个目标对象,由这多个目标对象构成目标对象序列,以及确定展示目标对象序列时各目标对象的位置,这些均要基于对目标对象的排序而进行。
[0003] 现有技术中,在对目标对象进行排序时,通常按照各目标对象与目标用户的相关度由高到低进行排序,上述相关度体现了目标用户对目标对象的偏好,根据上述排序向目标用户展示目标对象序列时,常常无法达到用户反馈的最大化,例如,目标用户对各目标对象的点击率最大化、或者转化率最大化等。
[0004] 因此,希望能有改进的方案,能够通过对目标对象的合理排序,从而基于该排序向目标用户展示目标对象序列时,达到用户反馈的最大化。

发明内容

[0005] 本说明书一个或多个实施例描述了一种向目标用户展示目标对象序列的方法和装置,能够通过对目标对象的合理排序,从而基于该排序向目标用户展示目标对象序列时,达到用户反馈的最大化。
[0006] 第一方面,提供了一种向目标用户展示目标对象序列的方法,方法包括:
[0007] 获取所述目标用户对应的用户特征向量,以及所述目标对象序列中各目标对象分别对应的对象特征向量;
[0008] 根据所述用户特征向量和所述目标对象序列中任意的第一目标对象的对象特征向量,确定所述目标用户与该第一目标对象之间的第一交互特征向量;
[0009] 将各交互特征向量按照初始排序输入重排序模型,所述重排序模型包括编码器和解码器,所述编码器根据各交互特征向量,确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;确定所述目标对象序列中以所述第一目标对象为中心的部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量;所述解码器根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序;
[0010] 按照所述重排序的各目标对象的位置,向所述目标用户展示所述目标对象序列。
[0011] 在一种可能的实施方式中,所述用户特征向量通过如下方式确定:
[0012] 根据所述目标用户的属性特征,确定第一维度的原始特征向量;
[0013] 将所述目标用户的原始特征向量进行降维嵌入处理,转换为第二维度的特征向量作为所述用户特征向量,所述第二维度小于所述第一维度。
[0014] 进一步地,所述目标用户的属性特征包括:
[0015] 用户的基本描述信息和/或用户的历史行为特征信息。
[0016] 在一种可能的实施方式中,所述对象特征向量通过如下方式确定:
[0017] 确定待展示的目标对象序列中各目标对象的初始排序,所述初始排序按照各目标对象与所述目标用户的相关度由高到低进行排序;
[0018] 根据任一目标对象的属性特征和该目标对象在所述初始排序中的位置,得到该目标对象的对象特征向量。
[0019] 进一步地,所述目标对象为商品;所述目标对象的属性特征包括如下至少一种:
[0020] 商品描述信息、价格、类目。
[0021] 在一种可能的实施方式中,所述根据各交互特征向量,确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量,包括:
[0022] 确定所述第一交互特征向量映射的第一查询向量,以及各交互特征向量分别映射的各键向量和各值向量;
[0023] 根据所述第一查询向量和各键向量,得到各交互特征向量与所述第一交互特征向量关联的各第一权重;
[0024] 基于所述各第一权重和各值向量,得到所述第一目标对象的第一隐特征向量。
[0025] 在一种可能的实施方式中,所述确定所述目标对象序列中以所述第一目标对象为中心的部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量,包括:
[0026] 确定所述第一交互特征向量映射的第一查询向量,以及所述部分目标对象对应的各交互特征向量分别映射的各键向量和各值向量;
[0027] 根据所述第一查询向量和各键向量,得到各交互特征向量与所述第一交互特征向量关联的各第二权重;
[0028] 基于所述各第二权重和各值向量,得到所述第一目标对象的第二隐特征向量。
[0029] 在一种可能的实施方式中,所述对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量,包括:
[0030] 根据所述第一交互特征向量,确定所述第一目标对象对应的门控权重;
[0031] 利用1减去所述门控权重乘以所述第一隐特征向量得到第一求和项,利用所述门控权重乘以所述第二隐特征向量得到第二求和项,对所述第一求和项与所述第二求和项相加,得到第一目标对象的综合隐特征向量。
[0032] 在一种可能的实施方式中,所述根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序,包括:
[0033] 根据各目标对象分别对应的综合隐特征向量和上一步的解码输出,从当前的未选择的目标对象中,选取概率最大的目标对象作为当前步的解码输出;将各步的解码输出的顺序作为各目标对象的重排序。
[0034] 在一种可能的实施方式中,所述根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序,包括:
[0035] 根据各目标对象分别对应的综合隐特征向量,得到各个目标对象的打分;
[0036] 按照各个目标对象的打分由高到低的顺序,确定所述目标对象序列中各目标对象的重排序。
[0037] 第二方面,提供了一种向目标用户展示目标对象序列的装置,装置包括:
[0038] 获取单元,用于获取所述目标用户对应的用户特征向量,以及所述目标对象序列中各目标对象分别对应的对象特征向量;
[0039] 交互单元,用于根据所述获取单元获取的所述用户特征向量和所述目标对象序列中任意的第一目标对象的对象特征向量,确定所述目标用户与该第一目标对象之间的第一交互特征向量;
[0040] 重排单元,用于将所述交互单元得到的各交互特征向量按照初始排序输入重排序模型,所述重排序模型包括编码器和解码器,所述编码器根据各交互特征向量,确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;确定所述目标对象序列中以所述第一目标对象为中心的部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量;所述解码器根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序;
[0041] 展示单元,用于按照所述重排单元确定的重排序的各目标对象的位置,向所述目标用户展示所述目标对象序列。
[0042] 第三方面,提供了一种计算机可读存储介质,其上存储有计算机程序,当所述计算机程序在计算机中执行时,令计算机执行第一方面的方法。
[0043] 第四方面,提供了一种计算设备,包括存储器和处理器,所述存储器中存储有可执行代码,所述处理器执行所述可执行代码时,实现第一方面的方法。
[0044] 通过本说明书实施例提供的方法和装置,首先获取所述目标用户对应的用户特征向量,以及所述目标对象序列中各目标对象分别对应的对象特征向量;然后根据所述用户特征向量和所述目标对象序列中任意的第一目标对象的对象特征向量,确定所述目标用户与该第一目标对象之间的第一交互特征向量;接着将各交互特征向量按照初始排序输入重排序模型,所述重排序模型包括编码器和解码器,所述编码器根据各交互特征向量,不仅确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;还确定所述目标对象序列中以所述第一目标对象为中心的部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量;所述解码器根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序;最后按照所述重排序的各目标对象的位置,向所述目标用户展示所述目标对象序列。由上可见,本说明书实施例中,在初始排序的基础上,通过重排序模型对各目标对象进行重排序,由于重排序模型在编码时利用了注意力机制,从而能够对各目标对象之间的相互关系进行长距离和短距离的建模,尤其是在通常地关注全部目标对象的全局注意力的基础上,添加了关注部分目标对象的局部注意力,并通过加权求和的方式得到综合隐特征向量,这样可以使得后续基于该综合隐特征向量的重排序,更好的提升局域内的各目标对象的对比性,提升用户的体验,同时兼顾了整个目标对象集合的序列相关性,提升模型预测的准确性,因此对各目标对象的排序更为合理,能够通过对目标对象的合理排序,从而基于该排序向目标用户展示目标对象序列时,达到用户反馈的最大化。

附图说明

[0045] 为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
[0046] 图1为本说明书披露的一个实施例的实施场景示意图;
[0047] 图2示出根据一个实施例的向目标用户展示目标对象序列的方法流程图;
[0048] 图3示出根据一个实施例的重排序模型的结构示意图;
[0049] 图4示出根据一个实施例的向目标用户展示目标对象序列的装置的示意性框图。

具体实施方式

[0050] 下面结合附图,对本说明书提供的方案进行描述。
[0051] 图1为本说明书披露的一个实施例的实施场景示意图。该实施场景涉及向目标用户展示目标对象序列。可以理解的是,目标对象序列包括多个目标对象,这多个目标对象同时展示给目标用户,多个目标对象之间具有相对位置关系,可以根据目标对象的排序确定展示目标对象的位置。本说明书实施例中,先确定待展示的目标对象序列中各目标对象的初始排序,所述初始排序可以按照各目标对象与所述目标用户的相关度由高到低进行排序,然后在该初始排序的基础上,对各目标对象进行重排序,在重排序的过程中,采用了注意力机制,通过矩阵计算使得神经网络具备专注于输入的特征的某个子集的能力。本说明书实施例,重排序不仅考虑了全部目标对象之间的全局注意力,还考虑了部分目标对象之间的局部注意力,因此对各目标对象的排序更为合理,能够通过对目标对象的合理排序,从而基于该排序向目标用户展示目标对象序列时,达到用户反馈的最大化。
[0052] 一个典型的实施场景为商品推荐场景,目标对象为推荐的商品。现代推荐系统的商品物料库越来越庞大,为了实现工程和推荐效果的平衡,推荐流程一般会分为多个阶段,例如,包括召回、粗排、精排等阶段,整个过程如同漏斗式过滤,逐步精细化排序结果。召回阶段一般通过用户画像和商品标签进行匹配,找到一批用户可能感兴趣的商品集合;基于这一集合,粗排使用一个小规模的模型将商品集合进行排序,找到用户相对更感兴趣的商品,从而交给下一步精排模型。精排模型通过考虑商品丰富的多维度特征,用户的多维度静态特征以及用户各种行为序列,精细化地刻画用户对商品的喜好。精排模型的结果已经相对不错了,早期很多推荐系统的精排结果直接展示给用户。但精排模型一般只考虑了单个商品与用户的相关度,没有考虑多个商品一起展示对用户带来的影响。本说明书实施例,在得到各商品的初始排序后,可以通过推荐系统的重排阶段,得到各商品的重排序,在综合考虑用户对商品的价格、颜色、品类等属性的显性偏好以及用户对商品排序的隐性偏好的条件下,获得用户反馈的最大化,比如提升用户的点击、转化或者是推荐系统的平台收入等。
[0053] 参照图1,目标对象序列包括9个目标对象,这9个目标对象按照与目标用户的相关度由高到低进行排序,得到的初始排序依次为x1、x2、x3、x4、x5、x6、x7、x8、x9,在该初始排序的基础上,对各目标对象进行重排序,重排序考虑了全部目标对象之间的全局注意力,以及部分目标对象之间的局部注意力,得到的重排序依次为x5、x7、x2、x9、x1、x6、x3、x8、x4,经过实践检验,相对于按初始排序展示目标对象序列,按重排序展示目标对象序列通常能够获得更佳的用户反馈。
[0054] 图2示出根据一个实施例的向目标用户展示目标对象序列的方法流程图,该方法可以基于图1所示的实施场景。如图2所示,该实施例中向目标用户展示目标对象序列的方法包括以下步骤:步骤21,获取所述目标用户对应的用户特征向量,以及所述目标对象序列中各目标对象分别对应的对象特征向量;步骤22,根据所述用户特征向量和所述目标对象序列中任意的第一目标对象的对象特征向量,确定所述目标用户与该第一目标对象之间的第一交互特征向量;步骤23,将各交互特征向量按照初始排序输入重排序模型,所述重排序模型包括编码器和解码器,所述编码器根据各交互特征向量,确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;确定所述目标对象序列中以所述第一目标对象为中心的部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量;所述解码器根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序;步骤24,按照所述重排序的各目标对象的位置,向所述目标用户展示所述目标对象序列。下面描述以上各个步骤的具体执行方式。
[0055] 首先在步骤21,获取所述目标用户对应的用户特征向量,以及所述目标对象序列中各目标对象分别对应的对象特征向量。可以理解的是,可以预先生成上述用户特征向量和对象特征向量。
[0056] 在一个示例中,所述用户特征向量通过如下方式确定:
[0057] 根据所述目标用户的属性特征,确定第一维度的原始特征向量;
[0058] 将所述目标用户的原始特征向量进行降维嵌入处理,转换为第二维度的特征向量作为所述用户特征向量,所述第二维度小于所述第一维度。
[0059] 可以理解的是,上述原始特征向量通常为稀疏的特征向量,通过降维嵌入处理,可以转换为对应的稠密的特征向量。
[0060] 进一步地,所述目标用户的属性特征包括:
[0061] 用户的基本描述信息和/或用户的历史行为特征信息。
[0062] 在一个示例中,所述对象特征向量通过如下方式确定:
[0063] 确定待展示的目标对象序列中各目标对象的初始排序,所述初始排序按照各目标对象与所述目标用户的相关度由高到低进行排序;
[0064] 根据任一目标对象的属性特征和该目标对象在所述初始排序中的位置,得到该目标对象的对象特征向量。
[0065] 可以理解的是,与对目标用户的原始特征向量进行降维嵌入处理相类似,对象特征向量的确定过程中也可以采用降维嵌入处理,例如,可以根据目标对象的属性特征,确定第三维度的原始特征向量,将所述目标对象的原始特征向量进行降维嵌入处理,转换为第四维度的特征向量作为目标对象的属性特征向量,所述第四维度小于所述第三维度。后续可以基于该属性特征向量与相应位置对应的位置嵌入向量进行叠加,得到该目标对象的对象特征向量。
[0066] 进一步地,所述目标对象为商品;所述目标对象的属性特征包括如下至少一种:
[0067] 商品描述信息、价格、类目。
[0068] 然后在步骤22,根据所述用户特征向量和所述目标对象序列中任意的第一目标对象的对象特征向量,确定所述目标用户与该第一目标对象之间的第一交互特征向量。可以理解的是,第一交互特征向量体现了目标用户对于第一目标对象的喜好。
[0069] 在一个示例中,将用户特征向量和目标对象序列中各目标对象的对象特征向量输入多层感知器(multi-layer perceptron,MLP)网络,通过MLP网络挖掘目标用户对于各目标对象的喜好,通过各交互特征向量来表示。
[0070] 其中,MLP网络具体可以为2层。
[0071] 接着在步骤23,将各交互特征向量按照初始排序输入重排序模型,所述重排序模型包括编码器和解码器,所述编码器根据各交互特征向量,确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;确定所述目标对象序列中以所述第一目标对象为中心的部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量;所述解码器根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序。
可以理解的是,上述全局注意力与通常的注意力机制类似,在对第一目标对象进行编码时,考虑了目标对象序列中全部目标对象对该第一目标对象的影响;本说明书实施例,在此基础上还添加了局部注意力,在对第一目标对象进行编码时,还考虑了目标对象序列中部分目标对象对该第一目标对象的影响。
[0072] 在一个示例中,所述根据各交互特征向量,确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量,包括:
[0073] 确定所述第一交互特征向量映射的第一查询向量,以及各交互特征向量分别映射的各键向量和各值向量;
[0074] 根据所述第一查询向量和各键向量,得到各交互特征向量与所述第一交互特征向量关联的各第一权重;
[0075] 基于所述各第一权重和各值向量,得到所述第一目标对象的第一隐特征向量。
[0076] 该示例可以通过如下公式表示:
[0077]
[0078]
[0079] 其中, 代表目标对象i作为第一目标对象时,各目标对象与第一目标对象的全局注意力,该全局注意力即上述第一权重; 代表上述第一查询向量;K代表键向量; 代表键向量的维数; 代表上述第一隐特征向量; 代表值向量。
[0080] 在一个示例中,所述确定所述目标对象序列中以所述第一目标对象为中心的部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量,包括:
[0081] 确定所述第一交互特征向量映射的第一查询向量,以及所述部分目标对象对应的各交互特征向量分别映射的各键向量和各值向量;
[0082] 根据所述第一查询向量和各键向量,得到各交互特征向量与所述第一交互特征向量关联的各第二权重;
[0083] 基于所述各第二权重和各值向量,得到所述第一目标对象的第二隐特征向量。
[0084] 该示例可以通过如下公式表示:
[0085]
[0086]
[0087] 其中, 代表目标对象i作为第一目标对象时,各目标对象与第一目标对象的局部注意力;j代表所述目标对象序列中以所述第一目标对象为中心的部分目标对象,m可以为预先设定的整数, 代表部分目标对象与所述第一目标对象的局部注意力,该局部注意力即上述第二权重; 代表上述第二隐特征向量; 代表值向量。
[0088] 在一个示例中,所述对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量,包括:
[0089] 根据所述第一交互特征向量,确定所述第一目标对象对应的门控权重;
[0090] 利用1减去所述门控权重乘以所述第一隐特征向量得到第一求和项,利用所述门控权重乘以所述第二隐特征向量得到第二求和项,对所述第一求和项与所述第二求和项相加,得到第一目标对象的综合隐特征向量。
[0091] 该示例可以通过如下公式表示:
[0092]
[0093] 其中, 代表目标对象i作为第一目标对象时,第一目标对象的综合隐特征向量; 代表上述门控权重; 代表上述第一隐特征向量; 代表上述第二隐特征向量。
[0094] 在一个示例中,所述根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序,包括:
[0095] 根据各目标对象分别对应的综合隐特征向量和上一步的解码输出,从当前的未选择的目标对象中,选取概率最大的目标对象作为当前步的解码输出;将各步的解码输出的顺序作为各目标对象的重排序。
[0096] 在另一个示例中,所述根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序,包括:
[0097] 根据各目标对象分别对应的综合隐特征向量,得到各个目标对象的打分;
[0098] 按照各个目标对象的打分由高到低的顺序,确定所述目标对象序列中各目标对象的重排序。
[0099] 最后在步骤24,按照所述重排序的各目标对象的位置,向所述目标用户展示所述目标对象序列。可以理解的是,上述位置具体为排序位置,当展示目标对象序列时,相应的展示位置可以具有预设的与排序位置的映射关系。
[0100] 例如,参照图1所示的实施场景,可以将各展示位置从上到下、从左到右依次顺序编号,例如,编号为1至9,对于重排序后的各目标对象,可以根据重排序的顺序,将各目标对象依次对应到各编号的展示位置。
[0101] 通过本说明书实施例提供的方法,首先获取所述目标用户对应的用户特征向量,以及所述目标对象序列中各目标对象分别对应的对象特征向量;然后根据所述用户特征向量和所述目标对象序列中任意的第一目标对象的对象特征向量,确定所述目标用户与该第一目标对象之间的第一交互特征向量;接着将各交互特征向量按照初始排序输入重排序模型,所述重排序模型包括编码器和解码器,所述编码器根据各交互特征向量,不仅确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;还确定所述目标对象序列中以所述第一目标对象为中心的部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量;所述解码器根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序;最后按照所述重排序的各目标对象的位置,向所述目标用户展示所述目标对象序列。由上可见,本说明书实施例中,在初始排序的基础上,通过重排序模型对各目标对象进行重排序,由于重排序模型在编码时利用了注意力机制,从而能够对各目标对象之间的相互关系进行长距离和短距离的建模,尤其是在通常地关注全部目标对象的全局注意力的基础上,添加了关注部分目标对象的局部注意力,并通过加权求和的方式得到综合隐特征向量,这样可以使得后续基于该综合隐特征向量的重排序,更好的提升局域内的各目标对象的对比性,提升用户的体验,同时兼顾了整个目标对象集合的序列相关性,提升模型预测的准确性,因此对各目标对象的排序更为合理,能够通过对目标对象的合理排序,从而基于该排序向目标用户展示目标对象序列时,达到用户反馈的最大化。
[0102] 图3示出根据一个实施例的重排序模型的结构示意图,该实施例以待展示的目标对象为商品为例,具体的介绍重排序模型的处理过程。如图3所示,该重排序模型包括输入层、个性化交互层、门控注意力层和输出层。其中,输入层的输入包括用户特征和商品集合中各商品的特征,用户特征包括用户的年龄、职业、收入等,商品的特征包括商品的标识、商品的价格、品牌等,用户特征对应的较高维度的稀疏的原始特征向量预先经过嵌入处理映射为较低维度的稠密的特征向量,例如用户特征用两维向量Xu表示,商品的特征对应的较高维度的稀疏的原始特征向量预先经过嵌入处理映射为较低维度的稠密的特征向量,例如商品的特征用三维向量x表示,x由两部分叠加而成,一部分为商品的属性特征对应的特征向量,对应于图中的e1、e2…en,另一部分为商品在初始排序中的位置对应的特征向量,对应于图中的P1、P2…Pn。个性化交互层的输入为前述用户特征对应的向量Xu和商品特征对应的向量x,通过2层的MLP网络来挖掘用户对于不同商品的喜好得到的向量用H表示,提升模型的个性化。门控注意力层的输入为H,用以挖掘商品之间的相互影响,具体的是先经过全局注意力网络和局部注意力网络分别计算商品之间的全局和局域的相关性,门控网络利用交互特征向量H学习得到一个门控权重gi来动态调节两个注意力网络对于模型整体效果的贡献,然后加入残差网络提升模型鲁棒性,可以理解的是,图3中的 对应于前述第一权重,Gi对应于前述第一隐特征向量,图3中的 对应于前述第二权重,Li对应于前述第二隐特征向量,Ri对应于前述综合隐特征向量。输出层包括归一化网络、前馈神经网络和一个浅层神经网络,可以得到每个商品的预测值,从而根据各预测值的大小顺序得到各商品的重排序。
[0103] 本说明书实施例中,在重排阶段考虑了用户的个性化特征,并且不仅关注全部商品之间的相互影响,而且分析了用户在客户端浏览电商推荐的商品的时候,一次往往只能看到几个商品,因此关注局域的建模,在注意力机制这种关注全局注意力的基础上添加了局部注意力,通过学习的门控权重来动态调整两个注意力的输入,这样可以更好的提升局域内的商品的对比性,提升用户的体验,同时兼顾了整个商品集合的序列相关性,提升模型预测的准确性。
[0104] 根据另一方面的实施例,还提供一种向目标用户展示目标对象序列的装置,该装置用于执行本说明书实施例提供的向目标用户展示目标对象序列的方法。图4示出根据一个实施例的向目标用户展示目标对象序列的装置的示意性框图。如图4所示,该装置400包括:
[0105] 获取单元41,用于获取所述目标用户对应的用户特征向量,以及所述目标对象序列中各目标对象分别对应的对象特征向量;
[0106] 交互单元42,用于根据所述获取单元41获取的所述用户特征向量和所述目标对象序列中任意的第一目标对象的对象特征向量,确定所述目标用户与该第一目标对象之间的第一交互特征向量;
[0107] 重排单元43,用于将所述交互单元42得到的各交互特征向量按照初始排序输入重排序模型,所述重排序模型包括编码器和解码器,所述编码器根据各交互特征向量,确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;确定所述目标对象序列中以所述第一目标对象为中心的部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量;所述解码器根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序;
[0108] 展示单元44,用于按照所述重排单元43确定的重排序的各目标对象的位置,向所述目标用户展示所述目标对象序列。
[0109] 可选地,作为一个实施例,所述用户特征向量通过如下方式确定:
[0110] 根据所述目标用户的属性特征,确定第一维度的原始特征向量;
[0111] 将所述目标用户的原始特征向量进行降维嵌入处理,转换为第二维度的特征向量作为所述用户特征向量,所述第二维度小于所述第一维度。
[0112] 进一步地,所述目标用户的属性特征包括:
[0113] 用户的基本描述信息和/或用户的历史行为特征信息。
[0114] 可选地,作为一个实施例,所述对象特征向量通过如下方式确定:
[0115] 确定待展示的目标对象序列中各目标对象的初始排序,所述初始排序按照各目标对象与所述目标用户的相关度由高到低进行排序;
[0116] 根据任一目标对象的属性特征和该目标对象在所述初始排序中的位置,得到该目标对象的对象特征向量。
[0117] 进一步地,所述目标对象为商品;所述目标对象的属性特征包括如下至少一种:
[0118] 商品描述信息、价格、类目。
[0119] 可选地,作为一个实施例,所述重排单元43包括:
[0120] 第一向量确定子单元,用于确定所述第一交互特征向量映射的第一查询向量,以及各交互特征向量分别映射的各键向量和各值向量;
[0121] 第一权重确定子单元,用于根据所述第一向量确定子单元确定的第一查询向量和各键向量,得到各交互特征向量与所述第一交互特征向量关联的各第一权重;
[0122] 第一加权子单元,用于基于所述第一权重确定子单元确定的各第一权重和所述第一向量确定子单元确定的各值向量,得到所述第一目标对象的第一隐特征向量。
[0123] 可选地,作为一个实施例,所述重排单元43包括:
[0124] 第二向量确定子单元,用于确定所述第一交互特征向量映射的第一查询向量,以及所述部分目标对象对应的各交互特征向量分别映射的各键向量和各值向量;
[0125] 第二权重确定子单元,用于根据所述第二向量确定子单元确定的第一查询向量和各键向量,得到各交互特征向量与所述第一交互特征向量关联的各第二权重;
[0126] 第二加权子单元,用于基于所述第二权重确定子单元确定的各第二权重和所述第二向量确定子单元确定的各值向量,得到所述第一目标对象的第二隐特征向量。
[0127] 可选地,作为一个实施例,所述重排单元43包括:
[0128] 第三权重确定子单元,用于根据所述第一交互特征向量,确定所述第一目标对象对应的门控权重;
[0129] 第三加权子单元,用于利用1减去所述第三权重确定子单元确定的门控权重乘以所述第一隐特征向量得到第一求和项,利用所述门控权重乘以所述第二隐特征向量得到第二求和项,对所述第一求和项与所述第二求和项相加,得到第一目标对象的综合隐特征向量。
[0130] 可选地,作为一个实施例,所述重排单元43,具体用于根据各目标对象分别对应的综合隐特征向量和上一步的解码输出,从当前的未选择的目标对象中,选取概率最大的目标对象作为当前步的解码输出;将各步的解码输出的顺序作为各目标对象的重排序。
[0131] 可选地,作为一个实施例,所述重排单元43包括:
[0132] 打分子单元,用于根据各目标对象分别对应的综合隐特征向量,得到各个目标对象的打分;
[0133] 重排子单元,用于按照所述打分子单元得到的各个目标对象的打分由高到低的顺序,确定所述目标对象序列中各目标对象的重排序。
[0134] 通过本说明书实施例提供的装置,首先获取单元41获取所述目标用户对应的用户特征向量,以及所述目标对象序列中各目标对象分别对应的对象特征向量;然后交互单元42根据所述用户特征向量和所述目标对象序列中任意的第一目标对象的对象特征向量,确定所述目标用户与该第一目标对象之间的第一交互特征向量;接着重排单元43将各交互特征向量按照初始排序输入重排序模型,所述重排序模型包括编码器和解码器,所述编码器根据各交互特征向量,不仅确定所述目标对象序列中各目标对象与所述第一目标对象的全局注意力,根据全局注意力将该第一目标对象编码为第一隐特征向量;还确定所述目标对象序列中以所述第一目标对象为中心的部分目标对象与所述第一目标对象的局部注意力,根据局部注意力将该第一目标对象编码为第二隐特征向量;对所述第一隐特征向量和所述第二隐特征向量加权求和,得到第一目标对象的综合隐特征向量;所述解码器根据各目标对象分别对应的综合隐特征向量,确定各目标对象的重排序;最后展示单元44按照所述重排序的各目标对象的位置,向所述目标用户展示所述目标对象序列。由上可见,本说明书实施例中,在初始排序的基础上,通过重排序模型对各目标对象进行重排序,由于重排序模型在编码时利用了注意力机制,从而能够对各目标对象之间的相互关系进行长距离和短距离的建模,尤其是在通常地关注全部目标对象的全局注意力的基础上,添加了关注部分目标对象的局部注意力,并通过加权求和的方式得到综合隐特征向量,这样可以使得后续基于该综合隐特征向量的重排序,更好的提升局域内的各目标对象的对比性,提升用户的体验,同时兼顾了整个目标对象集合的序列相关性,提升模型预测的准确性,因此对各目标对象的排序更为合理,能够通过对目标对象的合理排序,从而基于该排序向目标用户展示目标对象序列时,达到用户反馈的最大化。
[0135] 根据另一方面的实施例,还提供一种计算机可读存储介质,其上存储有计算机程序,当所述计算机程序在计算机中执行时,令计算机执行结合图2所描述的方法。
[0136] 根据再一方面的实施例,还提供一种计算设备,包括存储器和处理器,所述存储器中存储有可执行代码,所述处理器执行所述可执行代码时,实现结合图2所描述的方法。
[0137] 本领域技术人员应该可以意识到,在上述一个或多个示例中,本发明所描述的功能可以用硬件、软件、固件或它们的任意组合来实现。当使用软件实现时,可以将这些功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。
[0138] 以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的技术方案的基础之上,所做的任何修改、等同替换、改进等,均应包括在本发明的保护范围之内。