移动游戏大数据贴源层实现方法及装置转让专利

申请号 : CN201811506538.4

文献号 : CN109815198B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 由阳

申请人 : 北京龙拳风暴科技有限公司

摘要 :

本发明实施例公开一种移动游戏大数据贴源层实现方法及装置,方法包括:每隔预设第一时间段获取游戏服务端上报的日志并按预设的游戏服务端日志多维度分层存储结构存储在指定目录下;每隔预设第一时间段获取客户端上报的日志并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下;每隔预设第一时间段,对指定目录下在之前预设第二时间段内存储的游戏服务端和客户端上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据。本发明游戏服务端和客户端产生的日志均每隔预设第一时间段上报,能保证文件不会过大而导致上传拥塞,收集完成后又对小文件的日志进行了合并整合,可保证数据业务效率,部署实现简单、高效、成本低。

权利要求 :

1.一种移动游戏大数据贴源层实现方法,应用于ftp服务器,其特征在于,包括:

每隔预设第一时间段,采用推送或者拉取的方式获取游戏服务端上报的日志,并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下;其中,所述指定目录是根据多维度建立的,所述多维度包括:游戏运行模式、游戏、游戏平台和时间;且,其中,所述预设的游戏服务端日志多维度分层存储结构,包括:游戏区服编号、日志类型、时间;

每隔预设第一时间段,采用推送或者拉取的方式获取客户端上报的日志,并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下,其中,所述预设的客户端日志多维度分层存储结构,包括:上报方式、游戏运行模式、游戏snk、平台Athena、时间;其中,上报方式包括:upload文件上传和log请求提交;所述游戏运行模式包括:dev开发模式、test测试模式、prod生成模式;

每隔预设第一时间段,对所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据,所述预设第二时间段大于所述预设第一时间段;其中,所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志,为已经上传完成的日志。

2.一种移动游戏大数据贴源层实现装置,应用于ftp服务器,其特征在于,包括:

第一获取模块,用于每隔预设第一时间段,采用推送或者拉取的方式获取游戏服务端上报的日志,并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下;其中,所述指定目录是根据多维度建立的,所述多维度包括:游戏运行模式、游戏、游戏平台和时间;且,其中,所述预设的游戏服务端日志多维度分层存储结构,包括:游戏区服编号、日志类型、时间;

第二获取模块,用于每隔预设第一时间段,采用推送或者拉取的方式获取客户端上报的日志,并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下,其中,所述预设的客户端日志多维度分层存储结构,包括:上报方式、游戏运行模式、游戏snk、平台Athena、时间;其中,上报方式包括:upload文件上传和log请求提交;所述游戏运行模式包括:dev开发模式、test测试模式、prod生成模式;

整合模块,用于每隔预设第一时间段,对所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据,所述预设第二时间段大于所述预设第一时间段;其中,所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志,为已经上传完成的日志。

3.一种电子设备,其特征在于,包括:处理器、存储器、总线及存储在存储器上并可在第处理器上运行的计算机程序;

其中,所述处理器,存储器通过所述总线完成相互间的通信;

所述处理器执行所述计算机程序时实现如权利要求1所述的方法。

4.一种非暂态计算机可读存储介质,其特征在于,所述非暂态计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现如权利要求1所述的方法。

说明书 :

移动游戏大数据贴源层实现方法及装置

技术领域

[0001] 本发明实施例涉及计算机技术领域,具体涉及一种移动游戏大数据贴源层实现方法及装置。

背景技术

[0002] 随着网络游戏的发展,移动游戏大数据越来越成为主流。
[0003] 数据贴源层是大数据服务获取日志的源头,所以必须保证贴源层数据的清晰和准确,但是,目前在收集和持久化移动游戏大数据中会面对以下问题:
[0004] 大数据业务系统通常为公司所有游戏业务服务,要避免随着业务的扩展带来的数据服务相关的改变,所以要提前规划好维度;数据来自不同的端,游戏服务端和客户端都会生成日志,日志的类型又分很多种,需要多种日志采集的方式;网络异常等问题通常是不可预知的,可能导致日志丢失,重复上报,网络拥塞等问题,错误不能被发现,影响最终的统计结果;大数据业务对处理小文件效率低,需要将收集好的日志进行整合。

发明内容

[0005] 由于现有方法存在上述问题,本发明实施例提出一种移动游戏大数据贴源层实现方法及装置。
[0006] 第一方面,本发明实施例提出一种移动游戏大数据贴源层实现方法,包括:
[0007] 每隔预设第一时间段,获取游戏服务端上报的日志,并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下;
[0008] 每隔预设第一时间段,获取客户端上报的日志,并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下;
[0009] 每隔预设第一时间段,对所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据。
[0010] 第二方面,本发明实施例还提出一种移动游戏大数据贴源层实现装置,包括:
[0011] 第一获取模块,用于每隔预设第一时间段,获取游戏服务端上报的日志,并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下;
[0012] 第二获取模块,用于每隔预设第一时间段,获取客户端上报的日志,并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下;
[0013] 整合模块,用于每隔预设第一时间段,对所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据。
[0014] 第三方面,本发明实施例提供一种电子设备,包括:处理器、存储器、总线及存储在存储器上并可在第处理器上运行的计算机程序;
[0015] 其中,所述处理器,存储器通过所述总线完成相互间的通信;
[0016] 所述处理器执行所述计算机程序时实现上述方法。
[0017] 第四方面,本发明实施例提供一种非暂态计算机可读存储介质,所述存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述方法。
[0018] 由上述技术方案可知,本发明实施例提供的一种移动游戏大数据贴源层实现方法及装置,通过每隔预设第一时间段获取游戏服务端上报的日志并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下,每隔预设第一时间段获取客户端上报的日志并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下,每隔预设第一时间段对指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据,由此,游戏服务端和客户端产生的日志均每隔预设第一时间段进行上报,能够保证文件不会过大而导致上传拥塞,收集完成后又对小文件(日志)进行了合并整合,可以保证数据业务的效率,且部署实现简单、高效、成本低。

附图说明

[0019] 为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些图获得其他的附图。
[0020] 图1为本发明一实施例提供的一种移动游戏大数据贴源层实现方法的流程示意图;
[0021] 图2为本发明一实施例提供的一种移动游戏大数据贴源层实现装置的结构示意图;
[0022] 图3为本发明一实施例提供的电子设备的实体结构示意图。

具体实施方式

[0023] 下面结合附图,对本发明的具体实施方式作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
[0024] 图1示出了本发明一实施例提供的一种移动游戏大数据贴源层实现方法的流程示意图,本实施例所述方法应用于ftp(文件传输协议)服务器,如图1所示,本实施例的移动游戏大数据贴源层实现方法,包括:
[0025] S1、每隔预设第一时间段,获取游戏服务端上报的日志,并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下。
[0026] 可以理解的是,当游戏服务端上报的日志上传成功后,在游戏服务器上日志文件同级目录下可以记录.success文件,代表文件已经上传成功。
[0027] 在具体应用中,可以采用推送或者拉取的方式获取游戏服务端上报的日志。
[0028] S2、每隔预设第一时间段,获取客户端上报的日志,并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下。
[0029] 在具体应用中,可以采用推送或者拉取的方式获取客户端上报的日志。
[0030] 可以理解的是,客户端上报日志需要提供收集的接口,例如,本实施例可以使用PHP+nginx提供web(全球广域网或万维网)服务,对客户端上报的日志进行收集和分组。
[0031] S3、每隔预设第一时间段,对所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据。
[0032] 可以理解的是,处理之前预设第二时间段内所存储的游戏服务端和客户端所上报的日志,是为了保证日志已经上传完成。
[0033] 在具体应用中,所述预设第二时间段大于所述预设第一时间段,可以根据实际情况对所述预设第二时间段和所述预设第一时间段进行具体设置,本实施例并不对其进行限制。
[0034] 举例来说,所述预设第一时间段可以设置为五分钟,所述预设第二时间段可以设置为二十分钟。可以理解的是,在某段时间内可能没有日志产生,所以预设第一时间段可以并非严格每五分钟连续。
[0035] 本实施例提供的一种移动游戏大数据贴源层实现方法,应用于ftp服务器,通过每隔预设第一时间段获取游戏服务端上报的日志并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下,每隔预设第一时间段获取客户端上报的日志并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下,每隔预设第一时间段对指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据,由此,游戏服务端和客户端产生的日志均每隔预设第一时间段进行上报,能够保证文件不会过大而导致上传拥塞,收集完成后又对小文件(日志)进行了合并整合,可以保证数据业务的效率,且部署实现简单、高效、成本低。
[0036] 在具体应用中,所述预设的游戏服务端日志多维度分层存储结构,可以包括:游戏区服编号,日志类型,时间。
[0037] 在具体应用中,所述预设的客户端日志多维度分层存储结构,可以包括:上报方式(upload:文件上传,log:请求提交)、游戏运行模式(dev:开发模式、test:测试模式、prod:生成模式)、游戏(snk)、平台(Athena)、时间。
[0038] 进一步地,在上述实施例的基础上,所述指定目录是根据多维度建立的,所述多维度可以包括:游戏运行模式、游戏、游戏平台和时间等。
[0039] 可以理解的是,本实施例从业务层面做了预设,充分定义了多个维度,可保证对多游戏、多平台、多渠道等的支持。
[0040] 本实施例提供的一种移动游戏大数据贴源层实现方法,应用于ftp服务器,采用日志文件多维度分层的设计理念,可使用推和拉多种方式完成原始日志的采集,游戏服务端和客户端产生的日志均每隔预设第一时间段进行上报,能够保证文件不会过大而导致上传拥塞,收集完成后又对小文件(日志)进行了合并整合,可以保证数据业务的效率,且部署实现简单、高效、成本低。
[0041] 图2示出了本发明一实施例提供的一种移动游戏大数据贴源层实现装置的结构示意图,本实施例所述装置应用于ftp服务器,如图2所示,本实施例的移动游戏大数据贴源层实现装置,包括:第一获取模块21、第二获取模块22和整合模块23;其中:
[0042] 所述第一获取模块21,用于每隔预设第一时间段,获取游戏服务端上报的日志,并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下;
[0043] 所述第二获取模块22,用于每隔预设第一时间段,获取客户端上报的日志,并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下;
[0044] 所述整合模块23,用于每隔预设第一时间段,对所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据。
[0045] 具体地,所述第一获取模块21每隔预设第一时间段,获取游戏服务端上报的日志,并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下;所述第二获取模块22每隔预设第一时间段,获取客户端上报的日志,并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下;所述整合模块23每隔预设第一时间段,对所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据。
[0046] 在具体应用中,所述第一获取模块21可以每隔预设第一时间段,采用推送或者拉取的方式获取游戏服务端上报的日志。
[0047] 可以理解的是,当游戏服务端上报的日志上传成功后,在游戏服务器上日志文件同级目录下可以记录.success文件,代表文件已经上传成功。
[0048] 在具体应用中,所述第二获取模块22可以采用推送或者拉取的方式获取客户端上报的日志。
[0049] 可以理解的是,客户端上报日志需要提供收集的接口,例如,本实施例可以使用PHP+nginx提供web服务,对客户端上报的日志进行收集和分组。
[0050] 可以理解的是,处理之前预设第二时间段内所存储的游戏服务端和客户端所上报的日志,是为了保证日志已经上传完成。
[0051] 在具体应用中,所述预设第二时间段大于所述预设第一时间段,可以根据实际情况对所述预设第二时间段和所述预设第一时间段进行具体设置,本实施例并不对其进行限制。
[0052] 举例来说,所述预设第一时间段可以设置为五分钟,所述预设第二时间段可以设置为二十分钟。可以理解的是,在某段时间内可能没有日志产生,所以预设第一时间段可以并非严格每五分钟连续。
[0053] 本实施例提供的一种移动游戏大数据贴源层实现装置,应用于ftp服务器,通过第一获取模块每隔预设第一时间段获取游戏服务端上报的日志并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下,第二获取模块每隔预设第一时间段获取客户端上报的日志并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下,整合模块每隔预设第一时间段对所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据,能够保证文件不会过大而导致上传拥塞,收集完成后又对小文件(日志)进行了合并整合,可以保证数据业务的效率,且部署实现简单、高效、成本低。
[0054] 在具体应用中,所述预设的游戏服务端日志多维度分层存储结构,可以包括:游戏区服编号,日志类型,时间。
[0055] 在具体应用中,所述预设的客户端日志多维度分层存储结构,可以包括:上报方式(upload:文件上传,log:请求提交)、游戏运行模式(dev:开发模式、test:测试模式、prod:生成模式)、游戏(snk)、平台(Athena)、时间。
[0056] 进一步地,在上述实施例的基础上,所述指定目录是根据多维度建立的,所述多维度可以包括:游戏运行模式、游戏、游戏平台和时间等。
[0057] 可以理解的是,本实施例从业务层面做了预设,充分定义了多个维度,可保证对多游戏、多平台、多渠道等的支持。
[0058] 本实施例提供的一种移动游戏大数据贴源层实现装置,应用于ftp服务器,采用日志文件多维度分层的设计理念,可使用推和拉多种方式完成原始日志的采集,游戏服务端和客户端产生的日志均每隔预设第一时间段进行上报,能够保证文件不会过大而导致上传拥塞,收集完成后又对小文件(日志)进行了合并整合,可以保证数据业务的效率,且部署实现简单、高效、成本低。
[0059] 本实施例的移动游戏大数据贴源层实现装置,可以用于执行前述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
[0060] 图3示出了本发明一实施例提供的一种电子设备的实体结构示意图,如图3所示,该电子设备可以包括:处理器301、存储器302、总线303及存储在存储器302上并可在处理器301上运行的计算机程序;
[0061] 其中,所述处理器301和存储器302通过所述总线303完成相互间的通信;
[0062] 所述处理器301执行所述计算机程序时实现上述方法实施例所提供的方法,例如包括:每隔预设第一时间段,获取游戏服务端上报的日志,并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下;每隔预设第一时间段,获取客户端上报的日志,并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下;每隔预设第一时间段,对所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据。
[0063] 本发明实施例提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述方法实施例所提供的方法,例如包括:每隔预设第一时间段,获取游戏服务端上报的日志,并按照预设的游戏服务端日志多维度分层存储结构存储在指定目录下;每隔预设第一时间段,获取客户端上报的日志,并按照预设的客户端日志多维度分层存储结构存储在所述指定目录下;每隔预设第一时间段,对所述指定目录下在之前预设第二时间段内所存储的游戏服务端和客户端所上报的所有日志进行整合,将整合后的日志作为移动游戏大数据的贴源层数据。
[0064] 本领域内的技术人员应明白,本申请的实施例可提供为方法、装置、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
[0065] 本申请是参照根据本申请实施例的方法、装置、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置/系统。
[0066] 这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0067] 这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0068] 需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。术语“上”、“下”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
[0069] 本发明的说明书中,说明了大量具体细节。然而能够理解的是,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。类似地,应当理解,为了精简本发明公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释呈反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。本发明并不局限于任何单一的方面,也不局限于任何单一的实施例,也不局限于这些方面和/或实施例的任意组合和/或置换。而且,可以单独使用本发明的每个方面和/或实施例或者与一个或更多其他方面和/或其实施例结合使用。
[0070] 最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围,其均应涵盖在本发明的权利要求和说明书的范围当中。