一种单据数据分布式计算的方法和装置转让专利

申请号 : CN201810896522.2

文献号 : CN110858199A

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 孟令闻

申请人 : 北京京东尚科信息技术有限公司北京京东世纪贸易有限公司

摘要 :

本发明公开了一种单据数据分布式计算的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:确定待处理单据数据集合,以及将所述待处理单据数据集合装载至缓存层;根据预设的分配规则从分布式计算机系统中确定出执行计算机;基于所述缓存层和所述缓存层装载的待处理单据数据集合,所述执行计算机执行对应的业务逻辑,以得到处理结果;将所述处理结果写回数据库。该方法通过分布式计算机系统中的执行计算机与缓存层的交互,只将最后的处理结果写回数据库,避免了计算过程中与结构化数据库的交互,进而大大提升了计算速度。

权利要求 :

1.一种单据数据分布式计算的方法,其特征在于,包括:确定待处理单据数据集合,以及将所述待处理单据数据集合装载至缓存层;

根据预设的分配规则从分布式计算机系统中确定出执行计算机;基于所述缓存层和所述缓存层装载的待处理单据数据集合,所述执行计算机执行对应的业务逻辑,以得到处理结果;

将所述处理结果写回数据库。

2.根据权利要求1所述的方法,其特征在于,确定待处理单据数据集合,以及将所述待处理单据数据集合装载至缓存层的步骤包括:根据输入的目标数据以及数据之间的关联关系,在数据库中查询关联数据,以获取待处理单据数据集合;

将所述待处理单据数据集合添加数据标识;

根据所述数据标识和所述数据之间的关联关系,将所述待处理单据数据集合装载至缓存层。

3.根据权利要求2所述的方法,其特征在于,根据预设的分配规则从分布式计算机系统中确定出执行计算机的步骤包括:获取所述待处理单据数据集合的数据标识;

根据所述数据标识与分布式计算机系统中计算机的对应关系,确定执行计算机。

4.根据权利要求1所述的方法,其特征在于,基于所述缓存层和所述缓存层装载的待处理单据数据集合,所述执行计算机执行对应的业务逻辑,以得到处理结果的步骤包括:所述执行计算机根据所述待处理单据数据集合确定对应的业务逻辑;

所述执行计算机与所述缓存层交互,读取缓存层装载的待处理单据数据集合,执行所述对应的业务逻辑,并将计算的临时结果或者中间状态写入所述缓存层;

所述执行计算机确定所述对应的业务逻辑执行完毕,并将执行完毕的处理结果写入所述缓存层。

5.根据权利要求1-4任一项所述的方法,其特征在于,所述缓存层为Redis数据库。

6.一种单据数据分布式计算的装置,其特征在于,包括:加载模块,用于确定待处理单据数据集合,以及将所述待处理单据数据集合装载至缓存层;

计算模块,用于根据预设的分配规则从分布式计算机系统中确定出执行计算机;基于所述缓存层和所述缓存层装载的待处理单据数据集合,所述执行计算机执行对应的业务逻辑,以得到处理结果;

回写模块,用于将所述处理结果写回数据库。

7.根据权利要求6所述的装置,其特征在于,所述加载模块还用于,根据输入的目标数据以及数据之间的关联关系,在数据库中查询关联数据,以获取待处理单据数据集合;将所述待处理单据数据集合添加数据标识;根据所述数据标识和所述数据之间的关联关系,将所述待处理单据数据集合装载至缓存层。

8.根据权利要求7所述的装置,其特征在于,所述计算模块还用于,获取所述待处理单据数据集合的数据标识;根据所述数据标识与分布式计算机系统中计算机的对应关系,确定执行计算机。

9.根据权利要求6所述的装置,其特征在于,所述计算模块的执行计算机根据所述待处理单据数据集合确定对应的业务逻辑;所述执行计算机与所述缓存层交互,读取缓存层装载的待处理单据数据集合,执行所述对应的业务逻辑,并将计算的临时结果或者中间状态写入所述缓存层;所述执行计算机确定所述对应的业务逻辑执行完毕,并将执行完毕的处理结果写入所述缓存层。

10.根据权利要求6-9任一项所述的装置,其特征在于,所述缓存层为Redis数据库。

11.一种电子设备,其特征在于,包括:

一个或多个处理器;

存储装置,用于存储一个或多个程序,

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。

12.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-5中任一所述的方法。

说明书 :

一种单据数据分布式计算的方法和装置

技术领域

[0001] 本发明涉及计算机技术领域,尤其涉及一种单据数据分布式计算的方法和装置。

背景技术

[0002] 单据数据例如采销运单据数据,具有结构复杂、关联性强的特点。其中,采销运单据数据是生产制造企业常见的采购单(purchase order,以下简称PO)、销售单(sales order,以下简称SO)和运输单(delivery order,以下简称DO),以及由它们附属衍生出的子单据如制造单(manufacture order,以下简称MO)、发运追踪状态(shipment status,以下简称SPT)等数据。
[0003] 现有技术中对该单据数据的计算,是将这些单据数据统一存放在一台单机数据库的关系型数据库中,并以主外键的方式建立两个单据数据之间的关联关系。以及基于上述数据结构,单据数据在前台展现给用户或者后台展现给管理者时,要进行一些逻辑加工和计算。具体的,对于待处理单据数据集合,例如新增数据,用关系型数据库的存储过程脚本遍历新增数据集,对每一条数据执行业务逻辑子脚本,脚本执行期间会不断地查询关系型数据库的历史数据,以及期间会不断的进行更新历史数据、插入新数据的操作,无法批量执行相应操作,且当历史数据量庞大时,效率低下。

发明内容

[0004] 有鉴于此,本发明实施例提供一种单据数据分布式计算的方法和装置,能够通过分布式计算机系统中的执行计算机与缓存层的交互,只将最后的处理结果写回数据库,避免了计算过程中与结构化数据库的交互,进而大大提升了计算速度。
[0005] 为实现上述目的,根据本发明实施例的一个方面,提供了一种单据数据分布式计算的方法。
[0006] 本发明实施例的单据数据分布式计算的方法包括:确定待处理单据数据集合,以及将所述待处理单据数据集合装载至缓存层;根据预设的分配规则从分布式计算机系统中确定出执行计算机;基于所述缓存层和所述缓存层装载的待处理单据数据集合,所述执行计算机执行对应的业务逻辑,以得到处理结果;将所述处理结果写回数据库。
[0007] 可选地,确定待处理单据数据集合,以及将所述待处理单据数据集合装载至缓存层的步骤包括:根据输入的目标数据以及数据之间的关联关系,在数据库中查询关联数据,以获取待处理单据数据集合;将所述待处理单据数据集合添加数据标识;根据所述数据标识和所述数据之间的关联关系,将所述待处理单据数据集合装载至缓存层。
[0008] 可选地,根据预设的分配规则从分布式计算机系统中确定出执行计算机的步骤包括:获取所述待处理单据数据集合的数据标识;根据所述数据标识与分布式计算机系统中计算机的对应关系,确定执行计算机。
[0009] 可选地,基于所述缓存层和所述缓存层装载的待处理单据数据集合,所述执行计算机执行对应的业务逻辑,以得到处理结果的步骤包括:所述执行计算机根据所述待处理单据数据集合确定对应的业务逻辑;所述执行计算机与所述缓存层交互,读取缓存层装载的待处理单据数据集合,执行所述对应的业务逻辑,并将计算的临时结果或者中间状态写入所述缓存层;所述执行计算机确定所述对应的业务逻辑执行完毕,并将执行完毕的处理结果写入所述缓存层。
[0010] 可选地,所述缓存层为Redis数据库。
[0011] 为实现上述目的,根据本发明实施例的另一个方面,提供了一种单据数据分布式计算的装置。
[0012] 本发明实施例的单据数据分布式计算的装置包括:
[0013] 加载模块,用于确定待处理单据数据集合,以及将所述待处理单据数据集合装载至缓存层;
[0014] 计算模块,用于根据预设的分配规则从分布式计算机系统中确定出执行计算机;基于所述缓存层和所述缓存层装载的待处理单据数据集合,所述执行计算机执行对应的业务逻辑,以得到处理结果;
[0015] 回写模块,用于将所述处理结果写回数据库。
[0016] 可选地,所述加载模块还用于,根据输入的目标数据以及数据之间的关联关系,在数据库中查询关联数据,以获取待处理单据数据集合;将所述待处理单据数据集合添加数据标识;根据所述数据标识和所述数据之间的关联关系,将所述待处理单据数据集合装载至缓存层。
[0017] 可选地,所述计算模块还用于,获取所述待处理单据数据集合的数据标识;根据所述数据标识与分布式计算机系统中计算机的对应关系,确定执行计算机。
[0018] 可选地,所述计算模块的执行计算机根据所述待处理单据数据集合确定对应的业务逻辑;所述执行计算机与所述缓存层交互,读取缓存层装载的待处理单据数据集合,执行所述对应的业务逻辑,并将计算的临时结果或者中间状态写入所述缓存层;所述执行计算机确定所述对应的业务逻辑执行完毕,并将执行完毕的处理结果写入所述缓存层。
[0019] 可选地,所述缓存层为Redis数据库。
[0020] 为实现上述目的,根据本发明实施例的再一个方面,提供了一种电子设备。
[0021] 本发明实施例的电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一项的单据数据分布式计算的方法。
[0022] 为实现上述目的,根据本发明实施例的再一个方面,提供了一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现上述任一项的单据数据分布式计算的方法。
[0023] 上述发明中的一个实施例具有如下优点或有益效果:从数据库中将相关的数据查询出并进行缓存,通过分布式计算机系统中的执行计算机与缓存层的交互,将处理的临时结果或者状态存储到缓存层,则避免了计算过程与结构化数据库进行交互,只将最后的处理结果写回该数据库。由于分布式计算机系统与缓存层的交互,大大提升了计算速度,则能够从容应对和处理大单量的业务场景,若结合云计算可很好的实现系统的弹性伸缩和自由水平扩展,为企业带来了良好的IT收益和客户体验。
[0024] 上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。

附图说明

[0025] 附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
[0026] 图1是根据本发明实施例的单据数据分布式计算的方法的主要流程的示意图;
[0027] 图2是根据本发明实施例的采销运单据的数据结构的示意图;
[0028] 图3是根据现有技术的采销运单据数据处理的示意图;
[0029] 图4是根据现有技术的采销运单据数据处理的示意图;
[0030] 图5是根据本发明实施例的采销运单据数据分布式计算的方法的示意图;
[0031] 图6是根据本发明实施例的采销运单据数据分布式计算的方法的示意图;
[0032] 图7是根据本发明实施例的单据数据分布式计算的装置的主要模块的示意图;
[0033] 图8是本发明实施例可以应用于其中的示例性系统架构图;
[0034] 图9是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。

具体实施方式

[0035] 以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
[0036] 图1是根据本发明实施例的单据数据分布式计算的方法的主要流程的示意图,如图1所示,本发明实施例的单据数据分布式计算的方法主要包括:
[0037] 步骤S101:确定待处理单据数据集合,以及将待处理单据数据集合装载至缓存层。其中,该缓存层为Redis数据库。Redis数据库负责快速读写(存取)缓存数据,后续通过Java在内存中计算,进而基于Redis和Java完成单据数据的存储和计算。Java+Redis的结合运用,发挥各自优势,实现业务需求。
[0038] 具体的,根据输入的目标数据以及数据之间的关联关系,在数据库中查询关联数据,以获取待处理单据数据集合。并且,将待处理单据数据集合添加数据标识。根据数据标识和数据之间的关联关系,将待处理单据数据集合装载至缓存层。现有的单据数据一般存储于关系型数据库(例如SQL Server),现有技术是基于执行脚本与该关系型数据集进行数据查询和操作,在每个关联数据操作时,都要遍历查询该关系型数据库的所有历史数据。鉴于该所有的历史数据中有很多数据与本次处理无关,在不替换现有的关系型数据库的基础上,本发明实施例根据输入的目标数据和数据之间的关联关系,从该关系型数据库中查询到相关联的数据,组成一个计算单元,即处理单据数据。进而,在单据数据处理的过程中,只需要对本次操作相关的数据进行处理,不用在海量历史数据中一次次查询数据。
[0039] 为便于将数据缓存到Redis数据库中后续的查询,且由于Redis数据库不具有现有技术中关系型数据库的数据存储的键值结构,将获取到待处理单据数据集合添加数据标识,则在原有的单据数据之间直接关联关系的基础上,增加了间接关联关系,即找到本业务场景下的来源单据(root单据),并让所有单据都与该root单据间接关联。以采销运单据为例,如图2所示,root单据就是SO,那么让所有的单据都额外存储一个数据标识SO号(so_number)。基于该so_number和数据之间的关联关系,将待处理单据数据集合装载至缓存层。该销售单相关的采购单、运输单、制造单和发运追踪状态单据中,除了其对应的状态信息(例如制造单的状态信息有制造单号、采购单号、材料号和生产日期)以外,都存储有一个相同的数据标识SO号。
[0040] 步骤S102:根据预设的分配规则从分布式计算机系统中确定出执行计算机;基于缓存层和缓存层装载的待处理单据数据集合,执行计算机执行对应的业务逻辑,以得到处理结果。该分配规则可以为根据数据的数据标识分配对应的执行计算机。具体的,获取待处理单据数据集合的数据标识;根据数据标识与分布式计算机系统中计算机的对应关系,确定执行计算机。
[0041] 在执行计算机计算的过程中,执行计算机根据待处理单据数据集合确定对应的业务逻辑。执行计算机与缓存层交互,读取缓存层装载的待处理单据数据集合,执行对应的业务逻辑,并将计算的临时结果或者中间状态写入缓存层。以及,执行计算机确定对应的业务逻辑执行完毕,并将执行完毕的处理结果写入缓存层。
[0042] 步骤S103:将处理结果写回数据库。与现有技术中,在计算过程中将处理过程写入关系型数据库不同,本发明实施例的计算过程的临时结果或者中间装填写入缓存层,最后处理全部完成后,将最后的处理结果一次性写回关系型数据库。
[0043] 现有技术在处理每个单据时,都要通过脚本不断地遍历结构化数据库中的所有的数据,执行单条更新。由于单据数据具有关联性,要重复性的查询一些数据,对数据库造成一定的压力,在历史数据及新增数据量都很大的情况下,会出现严重的执行阻塞和等待。并且,脚本计算的每一步处理不能做到逻辑完全隔离,因此无法将整体运算拆分成多机并行计算。本发明实施例从数据库中将相关的数据查询出并进行缓存,通过分布式计算机系统中的执行计算机与缓存层的交互,将处理的临时结果或者状态存储到缓存层,则避免了计算过程与结构化数据库进行交互,只将最后的处理结果写回该数据库。由于分布式计算机系统与缓存层的交互,大大提升了计算速度,则能够从容应对和处理大单量的业务场景,若结合云计算可很好的实现系统的弹性伸缩和自由水平扩展,为企业带来了良好的IT收益和客户体验。
[0044] 采销运单据指的是生产制造企业常见的采购单(purchase order,以下简称PO)、销售单(sales order,以下简称SO)和运输单(delivery order,以下简称DO),以及由它们附属衍生出的子单据如制造单(manufacture order,以下简称MO)、发运追踪状态(shipment status,以下简称SPT)等。本发明以计算和展现SO的部分发货(partially shipped)状态为例,图3和图4是根据现有技术的采销运单据数据处理的示意图,图5和图6是根据本发明实施例的采销运单据数据分布式计算的方法的示意图。
[0045] 当一个DO对象更新(产生交付时间)时,有可能同时造成SO对象的更新(SO状态随之改变)。结合线上业务,SO实际有N个状态或KPI(关键绩效指标,Key Performance Indicator)需要类似上面的关联计算,同样,DO、PO也有N个状态或KPI需要参考其他对象进行计算。如图3和图4所示,现有技术是将上述逻辑用单机数据库存储过程(procedure)来实现,当在某一时刻系统拿到了最新的一批数据集(处理的数据不仅图中示出单据,还有一些单据未示出)时,先把它们按类型进行分类,然后依次对不同类别的单据套用该类别的存储过程脚本进行加工计算,顺序执行,计算完所有SO,即销售单1(SO1)、销售单2(SO2),再计算所有采购单PO(PO1、PO2、PO3);计算完PO1、PO2、PO3后,再计算所有运输单DO(DO1、DO2),以此类推,而且其处理过程通过对应的进行实现,直到这批数据集计算完成。该过程是依次进行的,所以不能通过分布式计算系统同步处理。如图4所示,用关系型数据库的存储过程脚本遍历新增数据集,对每一条数据执行子脚本(①-⑦业务逻辑),其间会不断地在关系型数据库中查询历史数据、更新历史数据、插入新数据,例如,在执行①业务逻辑时,遍历该关系型数据库查询数据并进行处理,并将处理后的数据结果写入该关系型数据库。然后,在执行②业务逻辑时,再次遍历该关系型数据库查询数据并进行处理,并将处理后的数据结果写入该关系型数据库,依稀进行直至执行完⑦业务逻辑。由此可知现有技术无法批量执行,当历史数据量庞大时,效率低下。
[0046] 由上可知,现有技术存在以下问题:由于单据之间计算逻辑的复杂性,往往if-else分支判断较多,用数据库存储过程实现并不能良好地利用数据库SQL语言批量查找、批量更新速度快的优势,需要procedure脚本不断地打开关闭游标、遍历每条数据、执行单条更新。这大大增加了数据库锁的使用频率,对数据库造成一定的压力,在历史数据及新增数据量都很大的情况下,会出现严重的执行阻塞和等待。并且,由于程序整体处理是过程式的,每一步的处理不能做到逻辑完全隔离,因此无法将整体运算拆分成多机并行计算。
[0047] 如图5和图6所示,在原有的对象间直接关联关系的基础上,增加了间接关联关系,即找到本业务场景下的来源单据(root单据),并让所有单据都与root单据间接关联,例如root单据是SO,将所有的单据都添加一个SO号(so_number)。数据库中大部分的历史数据是不参与相应的计算,所以通过该SO号可直接查找到相关的单据数据组成待处理单据数据集合,则在处理过程中可以只查询或者修改该待处理单据数据集合中包括的数据,而不需要在执行过程中重复对数据库中所有的历史数据进行遍历查询。该数据标识便于数据进一步关联,尤其对于一个深层子对象,可以快速找到其root单据。由于Redis、Java程序语言是没有明确的主键、外键关系的,所以在将数据库表映射成为Redis以及Java对象进行计算操作时,该数据标识也会随着同步映射成为Redis字段及Java属性。
[0048] 分布式计算即多机并行计算,例如,全年级(5个班,200人)同学的考试成绩出来了,且试卷已经按班级顺序排列好,如果统计每个班的总成绩和平均成绩,有两种方案,其一是找一台机器遍历全部200人的试卷,算完1班算2班,算完2班算3班……直到5个班全部算完。其二是事先准备5台机器,不同班级的试卷由这5台机器分别处理,1班的给机器1,2班的给机器2……,5台机器同时进行运算,直到本机器“认领的班级”算完。对于上述两种方案,显然后者的效率更高,用时更短。
[0049] 由上述可知,一个root单据及其所有子对象在计算时不会影响另一个root单据及其子对象,因此可以把一个SO(作为root单据)以及由这个SO所产生的所有其他PO、DO、MO、SPT对象作为一个分布式计算单元(calculation unit),即组合成待处理单据数据集合。如图5所示,其中一个待处理单据数据集合为(SO4;PO4,DO4;MO4,SPT4),该待处理单据数据集合的数据标识设置为SO4,其数据结构如图6所示:
[0050] SO4
[0051] SO4:PO4
[0052] SO4:FO4
[0053] SO4:PO4:MO4
[0054] SO4:FO4:SPT4
[0055] 如果用5台计算机并行计算,分别编号为机器0,机器1,机器2,机器3,机器4,按照分配规则:SO号末位数字对5取模=机器号(类似机器1处理1班),即Mod(Last(so_number)%5),将每个计算单元分落到相应的计算机上去进行处理,进而实现了分布式计算。如图5和图6所示,将数据标识为SO4的计算单元分配个机器4进行处理。被分配待处理单据数据集合的计算机,可进行并行计算,并且,将计算过程中的临时结果缓存至Redis。每个计算机可同事处理一个计算单元,也可同事处理几个计算单元,该分配规则可根据业务需求进行设置。
[0056] 对于单据关联计算较为复杂的场景,不适合用现有技术中的结构化数据库本身的脚本去处理,相比之下,一些成熟的内存数据库例如Redis非常适合对数据进行大批量且不定字段的更新操作。Java也是非常成熟的后端语言,可以用来构建和实现各种复杂的计算逻辑,并且开发工具及技术支持的成熟也非常适合运维期间的查错(debug)和性能优化。进而,加载数据、计算数据和回写数据的操作可基于Java实现。将数据库中待处理的单据数据一次性全部装载进Redis数据库后,可再由Java程序与Redis数据库交互,读取key-value化(根据数据标识装载至Redis数据)的单据并对其进行加工计算,期间随时可将计算的临时结果或者中间状态回写Redis(相当于现有技术的不断对数据库进行更新操作),处理完成后,将Redis中已更新好的数据一次性批量回写SQL数据库,同时发送清空数据指令给Redis数据库,让Redis数据库为下批次处理做准备。其中,为了确保Java和Redis各自的性能,它们各自运行在一台单独的机器上。如果各自压力不大,Java计算和Redis数据库可共用一台机器。由于上面的分布式改造,整个系统可以快速平稳地进行水平扩展,例如增加1台机器,复制一台已有的Java+Redis计算引擎,并把分片规则公式相应调整为:Mod(Last(so_number)%6)。此时便可有更多的计算节点帮助分摊全局计算压力。
[0057] 本发明实施例对制造业采销运单据的加工和计算进行了系统架构上的优化和改进,能从容应对和处理大单量的业务场景,若结合云计算可很好的实现系统的弹性伸缩和自由水平扩展。为企业带来了良好的IT收益和客户体验。
[0058] 图7是根据本发明实施例单据数据分布式计算的装置的主要模块的示意图,如图7所示,本发明实施例的单据数据分布式计算装置700包括加载模块701、计算模块702和回写模块703。
[0059] 加载模块701用于,确定待处理单据数据集合,以及将待处理单据数据集合装载至缓存层。缓存层为Redis数据库。加载模块还用于,根据输入的目标数据以及数据之间的关联关系,在数据库中查询关联数据,以获取待处理单据数据集合;将待处理单据数据集合添加数据标识;根据数据标识和数据之间的关联关系,将待处理单据数据集合装载至缓存层。
[0060] 计算模块702用于,根据预设的分配规则从分布式计算机系统中确定出执行计算机;基于缓存层和缓存层装载的待处理单据数据集合,执行计算机执行对应的业务逻辑,以得到处理结果。计算模块还用于,获取待处理单据数据集合的数据标识;根据数据标识与分布式计算机系统中计算机的对应关系,确定执行计算机。
[0061] 计算模块的执行计算机根据待处理单据数据集合确定对应的业务逻辑;执行计算机与缓存层交互,读取缓存层装载的待处理单据数据集合,执行对应的业务逻辑,并将计算的临时结果或者中间状态写入缓存层;执行计算机确定对应的业务逻辑执行完毕,并将执行完毕的处理结果写入缓存层。
[0062] 回写模块703用于,将处理结果写回数据库。加载模块将数据库中待处理数据集合一次性全部装载进Redis里,再由Java程序与Redis数据库交互,读取key-value化的单据并对其进行加工计算,期间随时可将计算的临时结果/中间状态回写Redis(相当于现有技术的不断对数据库进行更新操作),更新后的数据集最终状态由Redis负责一次性全部回写到结构化数据库中。整个装置可以快速平稳地进行水平扩展,例如在原有5台的基础上增加1台计算机,复制一台已有的Java+Redis计算引擎,并把分配规则公式相应调整为:Mod(Last(so_number)%6)。此时便可有更多的计算节点帮助分摊全局计算压力。
[0063] 本发明实施例从数据库中将相关的数据查询出并进行缓存,通过分布式计算机系统中的执行计算机与缓存层的交互,将处理的临时结果或者状态存储到缓存层,则避免了计算过程与结构化数据库进行交互,只将最后的处理结果写回该数据库。由于分布式计算机系统与缓存层的交互,大大提升了计算速度,则能够从容应对和处理大单量的业务场景,若结合云计算可很好的实现系统的弹性伸缩和自由水平扩展,为企业带来了良好的IT收益和客户体验。
[0064] 图8示出了可以应用本发明实施例的单据数据分布式计算的方法或单据数据分布式计算的装置的示例性系统架构800。
[0065] 如图8所示,系统架构800可以包括终端设备801、802、803,网络804和服务器805。网络804用以在终端设备801、802、803和服务器805之间提供通信链路的介质。网络804可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
[0066] 用户可以使用终端设备801、802、803通过网络804与服务器805交互,以接收或发送消息等。终端设备801、802、803上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
[0067] 终端设备801、802、803可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
[0068] 服务器805可以是提供各种服务的服务器,例如对用户利用终端设备801、802、803所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果反馈给终端设备。
[0069] 需要说明的是,本发明实施例所提供的单据数据分布式计算的方法一般由服务器805执行,相应地,单据数据分布式计算的装置一般设置于服务器805中。
[0070] 应该理解,图8中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
[0071] 下面参考图9,其示出了适于用来实现本发明实施例的终端设备的计算机系统900的结构示意图。图9示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
[0072] 如图9所示,计算机系统900包括中央处理单元(CPU)901,其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中,还存储有系统900操作所需的各种程序和数据。CPU 901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
[0073] 以下部件连接至I/O接口905:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
[0074] 特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被中央处理单元(CPU)901执行时,执行本发明的系统中限定的上述功能。
[0075] 需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
[0076] 附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
[0077] 描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括获取加载模块、计算模块和回写模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,加载模块还可以被描述为“确定待处理单据数据集合,以及将待处理单据数据集合装载至缓存层的模块”。
[0078] 作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:确定待处理单据数据集合,以及将待处理单据数据集合装载至缓存层;根据预设的分配规则从分布式计算机系统中确定出执行计算机;基于缓存层和缓存层装载的待处理单据数据集合,执行计算机执行对应的业务逻辑,以得到处理结果;将处理结果写回数据库。
[0079] 本发明实施例从数据库中将相关的数据查询出并进行缓存,通过分布式计算机系统中的执行计算机与缓存层的交互,将处理的临时结果或者状态存储到缓存层,则避免了计算过程与结构化数据库进行交互,只将最后的处理结果写回该数据库。加载数据、计算数据和回写数据的操作可基于Java实现。将数据库中待处理的单据数据一次性全部装载进Redis数据库后,可再由Java程序与Redis数据库交互,读取key-value化的单据并对其进行加工计算,期间随时可将计算的临时结果或者中间状态回写Redis(相当于现有技术的不断对数据库进行更新操作),处理完成后,将Redis中已更新好的数据一次性批量回写SQL数据库。由于分布式计算机系统与缓存层的交互,大大提升了计算速度,则能够从容应对和处理大单量的业务场景,若结合云计算可很好的实现系统的弹性伸缩和自由水平扩展,为企业带来了良好的IT收益和客户体验。
[0080] 上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。