用户特征数据筛选方法、装置及电子设备转让专利

申请号 : CN202110158341.1

文献号 : CN112527851B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 张瑞军丁楠苏绥绥

申请人 : 北京淇瑀信息科技有限公司

摘要 :

本公开涉及一种用户特征数据筛选方法、装置、电子设备及计算机可读介质。该方法包括:获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值;将所述特征数据中的多个特征进行数值类型变换处理;基于变换后的多个特征和其对应的特征值采用并行计算的方式,分别计算每个特征的映射值;基于每个特征的映射值确定所述多个特征数据对应的多个信息量;基于所述信息量由所述多个特征数据中提取目标特征数据。本公开涉及的用户特征数据筛选方法、装置、电子设备及计算机可读介质,能够快速准确的由海量用户特征中挑选出关键特征,进而减少模型训练时间,在实际应用中减少模型计算时间,提高用户体验度、减轻服务器系统压力。

权利要求 :

1.一种用户特征数据筛选方法,其特征在于,包括:获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值;

以特征标识做基础将特征数据进行全局排序;

将所述特征数据的属性、特征值、标签、空白映射值作为列向量;

将所述特征数据的特征值由行向量转换为列向量以将所述特征数据中的多个表格型的特征转换为flatmap型数据;

将所述转 换后的多个特征和其对应的特征值发送到分布式计算系统;

分布式计算系统对特征的特征值进行分箱计算生成映射值,包括:确定分箱数量为k,k为大于1的正整数;在特征为数值型变量时,采用等频分箱方法将特征值映射到k个分箱中;

在特征为类别型变量时,基于类别数量将特征值映射到k个分箱中;

基于每个特征的映射值再次进行并行计算以确定所述多个特征数据对应的多个信息量;

基于所述信息量由所述多个特征数据中提取目标特征数据。

2.如权利要求1所述的方法,其特征在于,还包括:基于所述目标特征数据对机器学习模型进行训练,以生成用户风险模型,所述机器学习模型包括逻辑回归模型,决策树模型。

3.如权利要求1所述的方法,其特征在于,将所述特征数据中的多个特征进行数值类型变换处理,包括:

将所述特征数据中的多个表格型的特征转换为flatmap型数据。

4.如权利要求3所述的方法,其特征在于,将所述特征数据中的多个表格型的特征转换为flatmap型数据,包括:以特征标识做基础将特征数据进行全局排序;

将所述特征数据的属性、特征值、标签、空白映射值作为列向量;

将所述特征数据的特征值由行向量转换为列向量。

5.一种用户特征数据筛选装置,其特征在于,包括:特征数据模块,用于获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值;

类型变换模块,用于以特征标识做基础将特征数据进行全局排序;将所述特征数据的属性、特征值、标签、空白映射值作为列向量;将所述特征数据的特征值由行向量转换为列向量以将所述特征数据中的多个表格型的特征转换为flatmap型数据;

并行计算模块,用于将所述变换后的多个特征和其对应的特征值发送到分布式计算系统,并进行分箱计算生成映射值,包括:确定分箱数量为k,k为大于1的正整数;在特征为数值型变量时,采用等频分箱方法将特征值映射到k个分箱中;在特征为类别型变量时,基于类别数量将特征值映射到k个分箱中;

信息量模块,用于基于每个特征的映射值再次进行并行计算以确定所述多个特征数据对应的多个信息量;

提取目标模块,用于基于所述信息量由所述多个特征数据中提取目标特征数据。

6.一种电子设备,其特征在于,包括:一个或多个处理器;

存储装置,用于存储一个或多个程序;

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1‑4中任一项所述的方法。

7.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1‑4中任一项所述的方法。

说明书 :

用户特征数据筛选方法、装置及电子设备

技术领域

[0001] 本公开涉及计算机信息处理领域,具体而言,涉及一种用户特征数据筛选方法、装置、电子设备及计算机可读介质。

背景技术

[0002] 在现有技术中,特别是金融领域,为了对用户进行风险分析,会由各个渠道获取能反映用户各种特征的特征数据,一个用户的特征经常有1万多个,如此大量的特征如果全部
用来进行模型训练的话,会花费大量的时间。通常情况下,不会直接把1万个变量直接放到
模型中去进行拟合训练,而是会用一些方法,从这1万个自变量中挑选一些出来,放进模型,
形成入模变量列表。
[0003] 挑选合适的用户特征需要考虑的因素很多,比如:特征的预测能力,特征之间的相关性,特征的简单性,特征的强壮性,特征在业务上的可解释性等等。但是,其中最主要和最
直接的衡量标准是变量的预测能力。IV(Information Value)就是这样一种指标,他可以用
来衡量自变量的预测能力。类似的指标还有信息增益、基尼系数等等。可通过计算IV值的方
式由大量的特征中挑选部分特征进行建模分析。
[0004] 现有技术中,在计算用户特征的IV值的时候,需要逐一的进行计算挑选,耗费了大量的时间,如何能快速准确的挑选出用户关键特征,是目前亟待解决的问题。
[0005] 因此,需要一种新的用户特征数据筛选方法、装置、电子设备及计算机可读介质。
[0006] 在所述背景技术部分公开的上述信息仅用于加强对本公开的背景的理解,因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

[0007] 有鉴于此,本公开提供一种用户特征数据筛选方法、装置、电子设备及计算机可读介质,能够快速准确的由海量用户特征中挑选出用户关键特征,进而减少模型训练时间,在
实际应用中减少模型计算时间,提高用户体验度、减轻服务器系统压力。
[0008] 本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
[0009] 根据本公开的一方面,提出一种用户特征数据筛选方法,该方法包括:获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值;将所述特征数据中
的多个特征进行数值类型变换处理;基于变换后的多个特征和其对应的特征值采用并行计
算的方式,分别计算每个特征的映射值;基于每个特征的映射值确定所述多个特征数据对
应的多个信息量;基于所述信息量由所述多个特征数据中提取目标特征数据。
[0010] 可选地,还包括:基于所述目标特征数据对机器学习模型进行训练,以生成用户风险模型,所述机器学习模型包括逻辑回归模型,决策树模型。
[0011] 可选地,将所述特征数据中的多个特征进行数值类型变换处理,包括:将所述特征数据中的多个表格型的特征转换为flatmap型数据。
[0012] 可选地,将所述特征数据中的多个表格型的特征转换为flatmap型数据,包括:以特征标识做基础将特征数据进行全局排序;将所述特征数据的属性、特征值、标签、空白映
射值作为列向量;将所述特征数据的特征值由行向量转换为列向量。
[0013] 可选地,基于变换后的多个特征和其对应的特征值采用并行计算的方式,分别计算每个特征的映射值,包括:将所述变换后的多个特征和其对应的特征值发送到分布式计
算系统;分布式计算系统对特征的特征值进行分箱计算生成映射值。
[0014] 可选地,分布式计算系统对特征的特征值进行分箱计算生成映射值,包括:确定分箱数量为k,k为大于1的正整数;在特征为数值型变量时,采用等频分箱方法将特征值映射
到k个分箱中;在特征为类别型变量时,基于类别数量将特征值映射到k个分箱中。
[0015] 可选地,基于每个特征的映射值确定所述多个特征数据对应的多个信息量,包括:基于每个特征的映射值再次进行并行计算以确定所述多个特征数据对应的多个信息量。
[0016] 可选地,基于每个特征的映射值再次进行并行计算以确定所述多个特征数据对应的多个信息量,包括:将映射值按照多个分箱值分为多个分箱数据;基于每个分箱数据再次
进行并行计算以确定所述多个特征数据对应的多个信息量。
[0017] 可选地,基于所述信息量由所述多个特征数据中提取目标特征数据,包括:将所述信息量按照大小进行排序;基于所述排序由大至小的提取预设数量的特征作为所述特征数
据。
[0018] 可选地,还包括:基于风险分析模型对当前用户的用户特征数据进行分析,以生成所述当前用户的风险值;基于所述风险值为所述当前用户进行资源分配。
[0019] 根据本公开的一方面,提出一种用户特征数据筛选装置,该装置包括:特征数据模块,用于获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值;
类型变换模块,用于将所述特征数据中的多个特征进行数值类型变换处理;并行计算模块,
用于基于变换后的多个特征和其对应的特征值采用并行计算的方式,分别计算每个特征的
映射值;信息量模块,用于基于每个特征的映射值确定所述多个特征数据对应的多个信息
量;提取目标模块,用于基于所述信息量由所述多个特征数据中提取目标特征数据。
[0020] 可选地,还包括:模型训练模块,用于基于所述目标特征数据对机器学习模型进行训练,以生成用户风险模型,所述机器学习模型包括逻辑回归模型,决策树模型。
[0021] 可选地,所述类型变换模块,包括:转换单元,用于将所述特征数据中的多个表格型的特征转换为flatmap型数据。
[0022] 可选地,所述转换单元,还用于以特征标识做基础将特征数据进行全局排序;将所述特征数据的属性、特征值、标签、空白映射值作为列向量;将所述特征数据的特征值由行
向量转换为列向量。
[0023] 可选地,所述并行计算模块,包括:发送单元,用于将所述变换后的多个特征和其对应的特征值发送到分布式计算系统;分箱单元,用于分布式计算系统对特征的特征值进
行分箱计算生成映射值。
[0024] 可选地,所述分箱单元,还用于确定分箱数量为k,k为大于1的正整数;在特征为数值型变量时,采用等频分箱方法将特征值映射到k个分箱中;在特征为类别型变量时,基于
类别数量将特征值映射到k个分箱中。
[0025] 可选地,信息量模块,还用于基于每个特征的映射值再次进行并行计算以确定所述多个特征数据对应的多个信息量。
[0026] 可选地,所述信息量模块,包括:数据单元,用于将映射值按照多个分箱值分为多个分箱数据;并行单元,用于基于每个分箱数据再次进行并行计算以确定所述多个特征数
据对应的多个信息量。
[0027] 可选地,所述提取目标模块,包括:排序单元,用于将所述信息量按照大小进行排序;提取单元,用于基于所述排序由大至小的提取预设数量的特征作为所述特征数据。
[0028] 可选地,还包括:资源分配模块,用于基于风险分析模型对当前用户的用户特征数据进行分析,以生成所述当前用户的风险值;基于所述风险值为所述当前用户进行资源分
配。
[0029] 根据本公开的一方面,提出一种电子设备,该电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一
个或多个处理器实现如上文的方法。
[0030] 根据本公开的一方面,提出一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如上文中的方法。
[0031] 根据本公开的用户特征数据筛选方法、装置、电子设备及计算机可读介质,获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值;将所述特征数
据中的多个特征进行数值类型变换处理;基于变换后的多个特征和其对应的特征值采用并
行计算的方式,分别计算每个特征的映射值;基于每个特征的映射值确定所述多个特征数
据对应的多个信息量;基于所述信息量由所述多个特征数据中提取目标特征数据的方式,
能够快速准确的由海量用户特征中挑选出用户关键特征,进而减少模型训练时间,在实际
应用中减少模型计算时间,提高用户体验度、减轻服务器系统压力。
[0032] 应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本公开。

附图说明

[0033] 通过参照附图详细描述其示例实施例,本公开的上述和其它目标、特征及优点将变得更加显而易见。下面描述的附图仅仅是本公开的一些实施例,对于本领域的普通技术
人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0034] 图1是根据一示例性实施例示出的一种用户特征数据筛选方法及装置的系统框图。
[0035] 图2是根据一示例性实施例示出的一种用户特征数据筛选方法的流程图。
[0036] 图3是根据另一示例性实施例示出的一种用户特征数据筛选方法的流程图。
[0037] 图4是根据另一示例性实施例示出的一种用户特征数据筛选方法的流程图。
[0038] 图5是根据一示例性实施例示出的一种用户特征数据筛选装置的框图。
[0039] 图6是根据另一示例性实施例示出的一种用户特征数据筛选装置的框图。
[0040] 图7是根据一示例性实施例示出的一种电子设备的框图。
[0041] 图8是根据一示例性实施例示出的一种计算机可读介质的框图。

具体实施方式

[0042] 现在将参考附图更全面地描述示例实施例。然而,示例实施例能够以多种形式实施,且不应被理解为限于在此阐述的实施例;相反,提供这些实施例使得本公开将全面和完
整,并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示
相同或类似的部分,因而将省略对它们的重复描述。
[0043] 此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本公开的实施例的充分理解。然而,
本领域技术人员将意识到,可以实践本公开的技术方案而没有特定细节中的一个或更多,
或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方
法、装置、实现或者操作以避免模糊本公开的各方面。
[0044] 附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现
这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
[0045] 附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合
并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
[0046] 应理解,虽然本文中可能使用术语第一、第二、第三等来描述各种组件,但这些组件不应受这些术语限制。这些术语乃用以区分一组件与另一组件。因此,下文论述的第一组
件可称为第二组件而不偏离本公开概念的教示。如本文中所使用,术语“及/或”包括相关联
的列出项目中的任一个及一或多者的所有组合。
[0047] 本领域技术人员可以理解,附图只是示例实施例的示意图,附图中的模块或流程并不一定是实施本公开所必须的,因此不能用于限制本公开的保护范围。
[0048] 本发明中,资源是指任何可被利用的物质、信息、时间,信息资源包括计算资源和各种类型的数据资源。数据资源包括各个领域中的各种专用数据。本发明的创新之处在于
如何使用服务器和客户端之间的信息交互技术来使资源分配的过程更加自动化、高效和减
小人力成本。由此,从本质上来说,本发明可以应用于各类资源的分配,包括实体的货物、
水、电,以及有意义的资料等。但是,为了方便起见,本发明中以金融数据资源为例进行说明
资源分配的实施,但本领域技术人员应当理解,本发明亦可以用于其他资源的分配。
[0049] 为解决上文所述的技术困境,本公开中提出了一种用户特征数据筛选方法,通过分布式并行计算的方式来处理海量用户特征,能够快速准确的得到每个用户特征的IV值,
进而缩短模型训练时间。而且,在实际应用中,由于采用了本公开中的方式对用户的特征进
行筛选,也缩短了线上对用户进行风险计算的时间,加快了用户分配资源配额的效率,提升
了用户满意度。在现有技术中,10w*1w维的用户特征数据,大概需要2周的时间逐一进行计
算并筛选出关键特征,而通过本发明中的方法,同样的数据量,大概40分钟即可计算完成。
[0050] 下面借助于具体的实施例,对本公开中的内容进行详细描述。
[0051] 图1是根据一示例性实施例示出的一种用户特征数据筛选方法及装置的系统框图。
[0052] 如图1所示,系统架构10可以包括计算设备101、102、103,网络104和服务器105。网络104用以在计算设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包
括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
[0053] 用计算设备101、102、103可通过网络104与服务器105交互,以接收或发送用户特征数据等。计算设备101、102、103上可以安装有各种计算类应用,网页浏览器应用、即时通
信工具、邮箱客户端、社交平台软件等。
[0054] 计算设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
[0055] 服务器105可以是提供各种服务的服务器,服务器105可以对接收到的用户特征数据进行分析等处理,并将分析结果(例如目标特征数据或风险值)反馈给金融服务网站的管
理员和/或用户。
[0056] 服务器105可例如获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值;服务器105可例如将所述特征数据中的多个特征进行数值类型变换处
理;服务器105可例如基于变换后的多个特征和其对应的特征值通过计算设备101、102、103
进行并行计算,分别计算每个特征的映射值;服务器105可例如基于每个特征的映射值确定
所述多个特征数据对应的多个信息量;服务器105可例如基于所述信息量由所述多个特征
数据中提取目标特征数据。
[0057] 服务器105还可例如基于所述目标特征数据对机器学习模型进行训练,以生成用户风险模型,所述机器学习模型包括逻辑回归模型,决策树模型。
[0058] 服务器105可以是一个实体的服务器,还可例如为多个服务器组成,需要说明的是,本公开实施例所提供的用户特征数据筛选方法可以由服务器105和计算设备101、102、
103共同执行,相应地,用户特征数据筛选装置可以设置于服务器105和计算设备101、102、
103中。
[0059] 图2是根据一示例性实施例示出的一种用户特征数据筛选方法的流程图。用户特征数据筛选方法20至少包括步骤S202至S210。
[0060] 如图2所示,在S202中,获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值。其中,特征数据中可包括用户的性别、年龄,所在地、职业、收入、学
历、信贷记录等等,特征数据的值可包括离散值和连续值。
[0061] 在S204中,将所述特征数据中的多个特征进行数值类型变换处理。包括:将所述特征数据中的多个表格型的特征转换为flatmap型数据。
[0062] 其中,表格型数据,由行和列组成,每列都是一个变量,列表头是变量名称(也可以指定列表头为任意有效的变量名),且每个列变量可以是不同的数据类型但必须有相同的
行数,每行也可以指定行名。
[0063] 其中,flatmap型数据是指经过flatmap变换之后的数据,flatmap变换对于stream中包含的元素使用特定的转换函数进行转换操作,新生成的Stream只包含转换生成的元
素。转换得到是Stream对象,会把子Stream中的元素压缩到父集合中。
[0064] 更具体的,可例如,以特征标识做基础将特征数据进行全局排序;将所述特征数据的属性、特征值、标签、空白的映射值作为列向量;将所述特征数据的特征值由行向量转换
为列向量。
[0065] 转换后的数据如下表所示:其中,特征值部分包括了该特征多个用户的数值,可例如,特征1中包含了10万个用户的工作年限,特征2中包含了10万个用户的收入情况,特征3
中包含了10万个用户的实际年龄等等。
[0066]   属性 特征值 标签 映射值特征1 整数型 2,4,5,10,…… 1 Null
特征2 离散型 4,5.6,8.1,…… 0 Null
特征3 连续型 5.645,1.4,4.33…… 1 Null
…… …… …… 0 Null
特征n …… …… …… Null
[0067] 在S206中,基于变换后的多个特征和其对应的特征值采用并行计算的方式,分别计算每个特征的映射值。可将变换后的多个特征和其对应的特征值发送到分布式计算系
统;分布式计算系统对特征的特征值进行分箱计算生成映射值。
[0068] 为了便于后续的特征数据处理,也方便各个特征之间进行综合比较,可将各个特征的特征值进行归一化处理,在本公开中,归一化可把多个特征值均映射为(0,1)之间的小
数。可在数据处理时更加便捷快速。而且,把有量纲表达式变成无量纲表达式,便于不同单
位或量级的指标能够进行比较和加权。归一化是一种简化计算的方式,即将有量纲的表达
式,经过变换,化为无量纲的表达式,成为纯量。
[0069] 更具体的,可采用分箱的方式,进行数据映射,具体内容将在图3对应的实施例中,进行描述。
[0070] 分布式计算系统可包括多个计算设备,可将多个特征中的每一个分别发送到不同的计算设备中,还可通过分布式计算系统中的控制服务器进行任务分配,以进行计算。
[0071] 在S208中,基于每个特征的映射值确定所述多个特征数据对应的多个信息量。分别计算每个特征对应的信息量数值,信息量是预测模型中选择重要变量的方式之一,它能
根据预测变量的重要性对预测变量进行排序。
[0072] 在S210中,基于所述信息量由所述多个特征数据中提取目标特征数据。将所述信息量按照大小进行排序;基于所述排序由大至小的提取预设数量的特征作为所述特征数
据。
[0073] 在一个实施例中,还包括:基于所述目标特征数据对机器学习模型进行训练,以生成用户风险模型,所述机器学习模型包括逻辑回归模型,决策树模型。
[0074] 在一个实施例中,还包括:基于风险分析模型对当前用户的用户特征数据进行分析,以生成所述当前用户的风险值;基于所述风险值为所述当前用户进行资源分配。
[0075] 根据本公开的用户特征数据筛选方法,获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值;将所述特征数据中的多个特征进行数值类型变换
处理;基于变换后的多个特征和其对应的特征值采用并行计算的方式,分别计算每个特征
的映射值;基于每个特征的映射值确定所述多个特征数据对应的多个信息量;基于所述信
息量由所述多个特征数据中提取目标特征数据的方式,能够快速准确的由海量用户特征中
挑选出用户关键特征,进而减少模型训练时间,在实际应用中减少模型计算时间,提高用户
体验度、减轻服务器系统压力。
[0076] 应清楚地理解,本公开描述了如何形成和使用特定示例,但本公开的原理不限于这些示例的任何细节。相反,基于本公开公开的内容的教导,这些原理能够应用于许多其它
实施例。
[0077] 图3是根据另一示例性实施例示出的一种用户特征数据筛选方法的流程图。图3所示的流程30是对图2所示的流程中S206“ 基于变换后的多个特征和其对应的特征值采用并
行计算的方式,分别计算每个特征的映射值”的详细描述。
[0078] 如图3所示,在S302中,将所述变换后的多个特征和其对应的特征值发送到分布式计算系统。
[0079] 在S304中,分布式计算系统确定分箱数量为k,k为大于1的正整数。分箱算法,把数据按照不同的规则分到不同的箱子里。其实分箱是特征工程的一种,可以理解为一种连续
数据变为离散数据的建模方式。
[0080] 比如有一组连续数据,比如为25,14,68,43,63。假设数据的分箱逻辑是大于50为0,小于50为1,那么最终数据会变成1,1,0,1,0,数据就离散化了。当然分箱有很多方式,大
致作用就是把连续数据按照一定的规则离散化。
[0081] 在本公开中引入分箱算法可以减少过拟合的风险,因为分箱相当于对于数据去粗粒度描述;增加稀疏数据的概率,减少计算量;减少噪声数据的影响,比如一组数据按照0
~
100均匀分布,当数据中突然出现一个10000的数据,如果不做分箱的化会对Logistic 
Regression这种模型的训练造成很大影响;方便特征衍生,因为数据离散化后就可以把特
征直接相互做内积提升特征维度;提升模型的鲁棒性。
[0082] 在S306中,在特征为数值型变量时,采用等频分箱方法将特征值映射到k个分箱中。更具体的,可采用等频分箱的方式,对特征值进行处理,可首先指定分箱数量k。等频分
箱是把观测值按照从小到大的顺序排列,根据观测的个数等分为k部分,每部分当作一个分
箱,例如,数值最小的1/k比例的观测形成第一个分箱等。在特征为数值时,不论是整数还是
其他的数值,都可采用等频分箱的方式进行分箱。
[0083] 在S308中,在特征为类别型变量时,基于类别数量将特征值映射到k个分箱中。可例如,用户的特征为地理位置特征时,具体地理位置可为北京、上海、深圳、西安、成都等等
各大城市,可按照一线二线的标准进行分享,也可按照大的地区,比如华南、华北这种方式
进行分箱。还可按照城市人口进行分箱等等。
[0084] 图4是根据另一示例性实施例示出的一种用户特征数据筛选方法的流程图。图4所示的流程40是对图2所示的流程中S208“基于每个特征的映射值确定所述多个特征数据对
应的多个信息量”的详细描述。
[0085] 如图4所示,在S402中,将映射值按照多个分箱值分为多个分箱数据。将映射值进行分箱处理之后,每个分箱又对应着大量的分箱数据。可例如,10万个用户年龄数据,分箱k
为5时,每个分箱中包含的数据大约为2万个。
[0086] 在S404中,基于每个分箱数据再次进行并行计算以确定所述多个特征数据对应的多个信息量。可将每个特征的每个分箱的分箱数据再次发送到分布式计算系统中,通过分
布式计算系统进行计算,以生成特征数据每个分箱对应的信息量(IV值)后再将每个分箱对
应的信息量整合,最终生成每个特征的信息量。
[0087] 在S406中,将所述信息量按照大小进行排序。将每个特征按照其对应的信息量排序。
[0088] 在S408中,基于所述排序由大至小的提取预设数量的特征作为所述特征数据。可提取10万个用户特征中的1000个用户特征作为待进行模型仿真的数据,还可根据模型计算
精度或者模型训练时间来确定用户特征的数量,本公开不以此为限。
[0089] 本领域技术人员可以理解实现上述实施例的全部或部分步骤被实现为由CPU 执行的计算机程序。在该计算机程序被CPU 执行时,执行本公开提供的上述方法所限定的上
述功能。所述的程序可以存储于一种计算机可读存储介质中,该存储介质可以是只读存储
器,磁盘或光盘等。
[0090] 此外,需要注意的是,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处
理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
[0091] 下述为本公开装置实施例,可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节,请参照本公开方法实施例。
[0092] 图5是根据一示例性实施例示出的一种用户特征数据筛选装置的框图。如图5所示,用户特征数据筛选装置50包括:特征数据模块502,类型变换模块504,并行计算模块
506,信息量模块508,提取目标模块510。
[0093] 特征数据模块502用于获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值;
[0094] 类型变换模块504用于将所述特征数据中的多个特征进行数值类型变换处理;所述类型变换模块504包括:转换单元,用于将所述特征数据中的多个表格型的特征转换为
flatmap型数据。所述转换单元,还用于以特征标识做基础将特征数据进行全局排序;将所
述特征数据的属性、特征值、标签、空白映射值作为列向量;将所述特征数据的特征值由行
向量转换为列向量。
[0095] 并行计算模块506用于基于变换后的多个特征和其对应的特征值采用并行计算的方式,分别计算每个特征的映射值;所述并行计算模块506包括:发送单元,用于将所述变换
后的多个特征和其对应的特征值发送到分布式计算系统;分箱单元,用于分布式计算系统
对特征的特征值进行分箱计算生成映射值。所述分箱单元,还用于确定分箱数量为k,k为大
于1的正整数;在特征为数值型变量时,采用等频分箱方法将特征值映射到k个分箱中;在特
征为类别型变量时,基于类别数量将特征值映射到k个分箱中。
[0096] 信息量模块508用于基于每个特征的映射值确定所述多个特征数据对应的多个信息量;所述信息量模块508还用于基于每个特征的映射值再次进行并行计算以确定所述多
个特征数据对应的多个信息量。所述信息量模块508包括:数据单元,用于将映射值按照多
个分箱值分为多个分箱数据;并行单元,用于基于每个分箱数据再次进行并行计算以确定
所述多个特征数据对应的多个信息量。
[0097] 提取目标模块510用于基于所述信息量由所述多个特征数据中提取目标特征数据。所述提取目标模块510包括:排序单元,用于将所述信息量按照大小进行排序;提取单
元,用于基于所述排序由大至小的提取预设数量的特征作为所述特征数据。
[0098] 图6是根据另一示例性实施例示出的一种用户特征数据筛选装置的框图。如图6所示,用户特征数据筛选装置60包括:模型训练模块602,资源分配模块604。
[0099] 模型训练模块602用于基于所述目标特征数据对机器学习模型进行训练,以生成用户风险模型,所述机器学习模型包括逻辑回归模型,决策树模型。
[0100] 资源分配模块604用于基于风险分析模型对当前用户的用户特征数据进行分析,以生成所述当前用户的风险值;基于所述风险值为所述当前用户进行资源分配。
[0101] 根据本公开的用户特征数据筛选装置,获取多个用户的多个特征数据,所述特征数据中包括多个特征和其对应的特征值;将所述特征数据中的多个特征进行数值类型变换
处理;基于变换后的多个特征和其对应的特征值采用并行计算的方式,分别计算每个特征
的映射值;基于每个特征的映射值确定所述多个特征数据对应的多个信息量;基于所述信
息量由所述多个特征数据中提取目标特征数据的方式,能够快速准确的由海量用户特征中
挑选出用户关键特征,进而减少模型训练时间,在实际应用中减少模型计算时间,提高用户
体验度、减轻服务器系统压力。
[0102] 图7是根据一示例性实施例示出的一种电子设备的框图。
[0103] 下面参照图7来描述根据本公开的这种实施方式的电子设备700。图7显示的电子设备700仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
[0104] 如图7所示,电子设备700以通用计算设备的形式表现。电子设备700的组件可以包括但不限于:至少一个处理单元710、至少一个存储单元720、连接不同系统组件(包括存储
单元720和处理单元710)的总线730、显示单元740等。
[0105] 其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元710执行,使得所述处理单元710执行本说明书中的根据本公开各种示例性实施方式的步骤。例
如,所述处理单元710可以执行如图2,图3,图4中所示的步骤。
[0106] 所述存储单元720可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)7201和/或高速缓存存储单元7202,还可以进一步包括只读存储单元(ROM)7203。
[0107] 所述存储单元720还可以包括具有一组(至少一个)程序模块7205的程序/实用工具7204,这样的程序模块7205包括但不限于:操作系统、一个或者多个应用程序、其它程序
模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
[0108] 总线730可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构
的局域总线。
[0109] 电子设备700也可以与一个或多个外部设备700’(例如键盘、指向设备、蓝牙设备等)通信,使得用户能与该电子设备700交互的设备通信,和/或该电子设备700能与一个或
多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可
以通过输入/输出(I/O)接口750进行。并且,电子设备700还可以通过网络适配器760与一个
或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适
配器760可以通过总线730与电子设备700的其它模块通信。应当明白,尽管图中未示出,可
以结合电子设备700使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗
余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
[0110] 通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,如图8所示,
根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在
一个非易失性存储介质(可以是CD‑ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使
得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本公开实施方式
的上述方法。
[0111] 所述软件产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或
半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举
的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读
存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器
(CD‑ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
[0112] 所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁
信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何
可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或
者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包
括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
[0113] 可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的
过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户
计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算
设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远
程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网
(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商
来通过因特网连接)。
[0114] 上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该计算机可读介质实现如下功能:获取多个用户的多个特征数据,所述
特征数据中包括多个特征和其对应的特征值;将所述特征数据中的多个特征进行数值类型
变换处理;基于变换后的多个特征和其对应的特征值采用并行计算的方式,分别计算每个
特征的映射值;基于每个特征的映射值确定所述多个特征数据对应的多个信息量;基于所
述信息量由所述多个特征数据中提取目标特征数据。
[0115] 本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中,也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为
一个模块,也可以进一步拆分成多个子模块。
[0116] 通过以上的实施例的描述,本领域的技术人员易于理解,这里描述的示例实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施
例的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储
介质(可以是CD‑ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可
以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施例的方法。
[0117] 以上具体地示出和描述了本公开的示例性实施例。应可理解的是,本公开不限于这里描述的详细结构、设置方式或实现方法;相反,本公开意图涵盖包含在所附权利要求的
精神和范围内的各种修改和等效设置。