CEPH放置组的分配方法、装置、服务器及存储介质

摘要

本发明实施例公开了一种CEPH放置组的分配方法、装置、服务器及存储介质，其中，所述方法包括：读取每个OSD与待分配放置组对应的存储池的亲和度值，所述亲和度值用于表征所述OSD对应的存储能力；根据所述亲和度值确定映射OSD，将所述映射OSD对应分配至所述放置组。可以根据OSD实际的存储能力对放置组PG进行合理的分配。可以使现有的硬件资源按预期的方式被利用，能够满足不同用户在各自使用场景不同需求。

权利要求

1.一种CEPH放置组的分配方法，其特征在于，包括：读取每个OSD与待分配放置组对应的存储池的亲和度值，所述亲和度值用于表征所述OSD对应的存储能力；

根据所述亲和度值确定映射OSD，将所述映射OSD对应分配至所述放置组；

所述根据所述亲和度值确定映射OSD，包括：将待分配放置组的编号和所述存储池的PGP进行按位与运算，并将运算的结果和存储池的编号作为哈希算法的输入值，计算得到PGP的编号；

计算集群的每个OSD，将所述PGP编号分别与计算集群的每个OSD编号一起进行哈希计算得到一个32位的伪随机数，并将所述伪随机数与待分配放置组对应的存储池的亲和度值相乘，相乘结果值最大的对应的OSD作为所述待分配放置组的映射目标。

2.根据权利要求1所述的方法，其特征在于，在根据所述亲和度值确定映射OSD之后，所述方法还包括：调整所述映射OSD的亲和度。

3.根据权利要求2所述的方法，其特征在于，所述调整所述OSD的亲和度，包括：计算整个池分配给单位容量的平均PG数avg_sum；

计算OSD的单位容量的平均PG数avg_self；

对avg_self大于avg_sum的OSD，对其对应的亲和度进行向下调整。

4.根据权利要求3所述的方法，其特征在于，对avg_self大于avg_sum的OSD，对其对应的亲和度进行向下调整，包括：所述affinity为亲和度。

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：在初始状态时，将每个OSD对应于指定存储池的affinity值初始化为相同值。

6.根据权利要求5所述的方法，其特征在于，所述将每个OSD对应于指定存储池的affinity值初始化为相同值，包括：将同一类型的每个OSD对应于指定存储池的affinity值初始化为相同值；

根据读写性能调整不同类型的每个OSD对应于指定存储池的affinity值。

7.根据权利要求5所述的方法，其特征在于，所述读取每个OSD与待分配放置组对应的存储池的亲和度值，包括：读取每个OSD的元数据中维护记录各存储池id到affinity值映射表。

8.一种CEPH放置组的分配装置，其特征在于，包括：读取模块，用于读取每个OSD与待分配放置组对应的存储池的亲和度值，所述亲和度值用于表征所述OSD对应的存储能力；

分配模块，用于根据所述亲和度值确定映射OSD，将所述映射OSD对应分配至所述放置组；

所述分配模块，包括：

计算单元，用于将待分配放置组的编号和所述存储池的PGP进行按位与运算，并将运算的结果和存储池的编号作为哈希算法的输入值，计算得到PGP的编号；

映射目标作为单元，用于计算集群的每个OSD，将所述PGP编号分别与计算集群的每个OSD编号一起进行哈希计算得到一个32位的伪随机数，并将所述伪随机数与待分配放置组对应的存储池的亲和度值相乘，相乘结果值最大的对应的OSD作为所述待分配放置组的映射目标。

9.一种服务器，其特征在于，所述服务器包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的CEPH放置组的分配方法。

10.一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7任一所述的CEPH放置组的分配方法。

说明书

CEPH放置组的分配方法、装置、服务器及存储介质

技术领域

[0001] 本发明涉及分布式数据库技术领域，尤其涉及一种CEPH放置组的分配方法、装置、设备及存储介质。

背景技术

[0002] CEPH是一种为优秀的性能、可靠性和可扩展性而设计的统一的、分布式文件系统。CEPH摒弃了传统的集中式存储元数据寻址的方案，采用CRUSH算法，数据分布均衡，并行度高。并考虑了容灾域的隔离，能够实现各类负载的副本放置规则，例如跨机房、机架感知等。
能够支持上千个存储节点的规模，支持TB到PB级的数据。

[0003] 传统的分布式存储系统CEPH将数据切割为固定大小的对象，并引入PG（PlacementGroup）这一概念，PG是对象和OSD(Object Storage Device )之间的逻辑层，对象会根据其objectid映射到不同的PG，因此PG的分布方式也决定了数据的分布方式。

[0004] 传统的分布式存储系统CEPH将数据切割为固定大小的对象，并引入PG（PlacementGroup）这一概念，PG是对象和OSD(Object Storage Device )之间的逻辑层，对象会根据其objectid映射到不同的PG，因此PG的分布方式也决定了数据的分布方式。现有的PG到OSD之间映射关系往往通过CRUSH MAP方式来确定，并进而确定数据的分布方式。

[0005] 在实现本发明的过程中，发明人发现如下技术问题：CRUSH MAP通常只能按照OSD设备的数量根据一致性哈希分布原则进行分布，并未充分考虑到各个OSD的实际存储情况。无法满足不同用户在各自使用场景不同需求。

发明内容

[0006] 有鉴于此，本发明实施例提供一种CEPH放置组的分配方法、装置、服务器和存储介质，以解决现有技术中CEPH分布式存储系统中放置组分配未考虑到各个OSD的实际存储情况，进而影响性能的技术问题。

[0007] 第一方面，本发明实施例提供了一种CEPH放置组的分配方法，包括：

[0008] 读取每个OSD与待分配放置组对应的存储池的亲和度值，所述亲和度值用于表征所述OSD对应的存储能力；

[0009] 根据所述亲和度值确定映射OSD，将所述映射OSD对应分配至所述放置组。

[0010] 第二方面，本发明实施例还提供了一种CEPH放置组的分配装置，包括：

[0011] 读取模块，用于读取每个OSD与待分配放置组对应的存储池的亲和度值，所述亲和度值用于表征所述OSD对应的存储能力；

[0012] 分配模块，用于根据所述亲和度值确定映射OSD，将所述映射OSD对应分配至所述放置组。

[0013] 第三方面，本发明实施例还提供了一种服务器，包括：

[0014] 一个或多个处理器；

[0015] 存储装置，用于存储一个或多个程序，

[0016] 当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如上述实施例提供的CEPH放置组的分配方法方法。

[0017] 第四方面，本发明实施例还提供了包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如上述实施例提供的CEPH放置组的分配方法。

[0018] 本发明实施例提供的CEPH放置组的分配方法、装置、服务器和存储介质，通过读取每个OSD与待分配放置组对应的存储池的用于表示存储能力的亲和度值，根据亲和度值计算确定映射OSD，并将映射OSD分配至对应的放置组。可以根据OSD实际的存储能力对放置组PG进行合理的分配。可以使现有的硬件资源按预期的方式被利用，能够满足不同用户在各自使用场景不同需求。

附图说明

[0019] 通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显：

[0020] 图1是本发明实施例一提供的CEPH放置组的分配方法的流程示意图；

[0021] 图2是本发明实施例二提供的CEPH放置组的分配方法的流程示意图；

[0022] 图3是本发明实施例三提供的CEPH放置组的分配方法的流程示意图；

[0023] 图4是本发明实施例四提供的CEPH放置组的分配装置的结构示意图；

[0024] 图5是本发明实施例五提供的服务器的结构图。

具体实施方式

[0025] 下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

[0026] 实施例一

[0027] 图1是本发明实施例一提供的CEPH放置组的分配方法的流程示意图，本实施例可适用于在CEPH分布式系统中对放置组PG进行分配情况，该方法可以由CEPH放置组的分配装置来执行，并可集成于CEPH分布式数据库服务器中，具体包括如下步骤：

[0028] S110，读取每个OSD与待分配放置组对应的存储池的亲和度值，所述亲和度值用于表征所述OSD对应存储池的存储能力。

[0029] 为了方便管理数据分布，系统首先会创建存储池，然后存储池都会划分成多个PG。

[0030] PG全称Placement Groups，中文译为放置组，是用于放置object的一个载体，PG的创建是在创建CEPH存储池的时候指定的，同时跟指定的副本数也有关系，比如是3副本的则会有3个相同的PG存在于3个不同的OSD上，PG其实在OSD的存在形式就是一个目录，在架构层次上，PG位于RADOS层的中间。引入PG这一层其实是为了更好的分配数据和定位数据。

[0031] OSD的英文全称是Object Storage Device，它的主要功能是存储数据、复制数据、平衡数据、恢复数据等，与其它OSD间进行心跳检查等，并将一些变化情况上报给CEPH Monitor。一般情况下一块硬盘对应一个OSD，由OSD来对硬盘存储进行管理，当然一个分区也可以成为一个OSD。

[0032] 在本实施例中，预先设定每个OSD与每一个存储池的亲和度值，所述亲和度值用于表征所述OSD对应该存储池的存储能力。每个OSD的元数据中维护记录各存储池id到affinity值映射表。

[0033] 可选的，所述亲和度可以用affinity表示。affinity值是0.0到1.0之间的浮点数，默认为1.0，当OSD状态异常时，其对应到所有存储池的affinity值将被设置为0.0，以避免PG被分配到非健康状态的OSD上。

[0034] 在存储池进行PG分配时，先从上述表中读取该存储池对应到各OSD的affinity值，值越大的OSD越容易被分配到更多的PG。

[0035] 示例性的，所述存储能力可以包括：针对该存储池的存储空间大小以及读写数据的速度。

[0036] S120，根据所述亲和度值确定映射OSD，将所述映射OSD对应分配至所述放置组。

[0037] 在本实施例中，在读取到相应的亲和度值后，可以根据所述亲和度值、待分配PG的编号，以及所述待分配PG对应的存储池的PGP来确定对应分配的OSD。

[0038] 在本实施例中，所述根据所述亲和度值确定映射OSD，可以包括：

[0039] 将待分配放置组的编号和所述存储池的PGP进行按位与运算，并将运算的结果和存储池的编号作为哈希算法的输入值，计算得到PGP的编号；计算集群的每个OSD，将所述PGP编号分别与计算集群的每个OSD编号一起进行哈希计算得到一个32位的伪随机数，并将所述伪随机数与待分配放置组对应的存储池的亲和度值相乘，相乘结果值最大的对应的OSD作为所述待分配放置组的映射目标。

[0040] PGp相当于是PG存放OSD的一种排列组合。通过PG与PGP进行按位与运算，并将运算结果和存储池的编号作为哈希算法的输入值，通过哈希变换得到PGP的编号。所述哈希变换可以为RJENKINS1哈希算法。

[0041] 在得到PGP的编号后，可以所述PGP编号分别与计算集群的每个OSD编号一起进行哈希计算得到一个32位的伪随机数。以保证PG分布能够满足一致性的分布要求。OSD[0042] 与CRUSH算法相比，在确定得到32位的伪随机数后，并不按照伪随机数的大小来确定对应的OSD，而是将伪随机数与待分配放置组对应的存储池的亲和度值相乘，选取相乘结果值最大值对应的OSD作为待分配放置组的映射目标。充分考虑到一致性分布和OSD性能的两方面因素，在保证一致性哈希分布的前提下，充分考虑到不同OSD的存储性能，能够根据适用场景的不同需求灵活进行配置。增强了CEPH分布式存储系统PG分配的灵活性。

[0043] 本实施例通过读取每个OSD与待分配放置组对应的存储池的用于表示存储能力的亲和度值，根据亲和度值计算确定映射OSD，并将映射OSD分配至对应的放置组。可以根据OSD实际的存储能力对放置组PG进行合理的分配。可以使现有的硬件资源按预期的方式被利用，能够满足不同用户在各自使用场景不同需求。

[0044] 实施例二

[0045] 图2是本发明实施例二提供的CEPH放置组的分配方法的流程示意图，在本实施例中，所述方法还可增加如下步骤：调整所述OSD的亲和度。

[0046] 相应的，本发明实施例提供的CEPH放置组的分配方法，包括：

[0047] S210，读取每个OSD与待分配放置组对应的存储池的亲和度值，所述亲和度值用于表征所述OSD对应存储池的存储能力。

[0048] S220，根据所述亲和度值确定映射OSD，将所述映射OSD对应分配至所述放置组。

[0049] S230，调整OSD的亲和度。

[0050] 在完成PG对应的OSD分配存储后，映射OSD的存储能力相应的发生变化。明显的，在PG映射到OSD后，所述OSD的部分存储空间用于存储所述PG对应的数据，其实际可用存储空间已经减少。因此，需要对所述映射的OSD的亲和度进行调整。以使得所述映射的OSD的在完成PG运算后，其亲和度与实际的存储能力相对应，方便在下次PG分配时，根据每次PG映射OSD后的调整后的亲和度再次对PG进行分配。

[0051] 可选的，可以预先设定亲和度调整值，并且在每次PG分配结束后，对对应的映射OSD的亲和度按照亲和度调整值进行调整。示例性的，调整后的亲和度可以为原有亲和度与所述亲和度调整值的差值。

[0052] 本实施例通过增加如下步骤：调整映射OSD的亲和度。可以使得OSD对应存储池的的亲和度根据实际对应的存储情况进行随时调整，可以使得每个OSD的亲和度反映当前的存储情况，便于后续再次进行PG分配。

[0053] 实施例三

[0054] 图3是本发明实施例三提供的CEPH放置组的分配方法的流程示意图，本实施例以上述实施例为基础进行优化，将根据分配后的PG调整所述OSD的亲和度，具体优化为：计算整个池分配给单位容量的平均PG数avg_sum；计算OSD的单位容量的平均PG数avg_self；对avg_self大于avg_sum的OSD，对其对应的亲和度进行向下调整。

[0055] S310，读取每个OSD与待分配放置组对应的存储池的亲和度值，所述亲和度值用于表征所述OSD对应存储池的存储能力。

[0056] S320，根据所述亲和度值确定映射OSD，将所述映射OSD对应分配至所述放置组。

[0057] S330，计算整个存储池分配给单位容量的平均PG数avg_sum。

[0058] 虽然通过可以上述实施例提供的各种方法对映射OSD的亲和度进行调整。但利用上述方法并不能够准确确定需要调整亲和度的OSD。但在本实施例中，所述亲和度不仅是自身存储能力的表征，更重要的是相应存储池对应存储的其它OSD之间的比较结果。因此，上述调整方式并未完全考虑与该存储池其它OSD，对存储池中PG的存储对应能力的比较结果。尤其是在后期进行迁移等过程中，会使得在后续PG分配过程中，存在着分配不合理的可能性。因此，在本实施例中，利用单位容量对应的PG数量来确定需要调整亲和度的OSD。

[0059] 示例性的，所述avg_sum可以通过如下方式计算：将所有OSD对应的存储设备的总容量相加，得到容量总和，用对应存储池的PG数除以容量总和，计算得到整个池分配给单位容量的平均PG数avg_sum。

[0060] S340，计算OSD的单位容量的平均PG数avg_self。

[0061] 可选的，可以通过如下方式计算OSD的单位容量的平均PG数，计算方式为对应存储池在该OSD上实际分配的PG数除以该OSD的容量。

[0062] S350，对avg_self大于avg_sum的OSD，对其对应的亲和度进行向下调整。

[0063] 对于，avg_self大于avg_sum的OSD，其表明对该OSD而言，其单位容量对应的PG数大于该存储池中所有OSD单位存储容量对应的PG数，其对应该存储池的存储能力已经低于平均水平。因此，需要该OSD的亲和度向下调整，以降低作为PG映射OSD的可能性。

[0064] 在本实施例中，可以按照如下方式对avg_self大于avg_sum的OSD的亲和度进行调整。

[0065]

[0066] 即相当于新的affinity值等于avg_sum除以avg_self的商再乘以旧的affinity值。

[0067] 通过上述方式可以avg_self高于avg_sum的OSD，被映射到的PG数量将会减少，从而使PG的分配更加平衡。

[0068] 本实施例通过将根据分配后的PG调整所述OSD的亲和度，具体优化为：计算整个存储池分配给单位容量的平均PG数avg_sum；算OSD的单位容量的平均PG数avg_self；对avg_self大于avg_sum的OSD，对其对应的亲和度进行向下调整。可以根据上述方式选取PG分布后需要调整亲和度的OSD，并对所述OSD的权重值进行灵活调整。以实现针对OSD相对于指定的存储池根据存储能力的变化灵活进行分布的调整，以使得指定的存储池对应OSD的存储能力实现PG的灵活分布，使得指定存储池根据存储能力均衡分布PG。

[0069] 实施例四

[0070] 图4是本发明实施例四提供的CEPH放置组的分配装置的结构示意图，如图4所示，所述装置包括：

[0071] 读取模块410，用于读取每个OSD与待分配放置组对应的存储池的亲和度值，所述亲和度值用于表征所述OSD对应的存储能力；

[0072] 分配模块420，用于根据所述亲和度值确定映射OSD，将所述映射OSD对应分配至所述放置组。

[0073] 本实施例提供的CEPH放置组的分配装置，通过读取每个OSD与待分配放置组对应的存储池的用于表示存储能力的亲和度值，根据亲和度值计算确定映射OSD，并将映射OSD分配至对应的放置组。可以根据OSD实际的存储能力对放置组PG进行合理的分配。可以使现有的硬件资源按预期的方式被利用，能够满足不同用户在各自使用场景不同需求。

[0074] 在上述各实施例的基础上，所述装置还包括：

[0075] 调整模块，用于调整所述映射OSD的亲和度。

[0076] 在上述各实施例的基础上，所述分配模块，包括：

[0077] 计算单元，用于将待分配放置组的编号和所述存储池的PGP进行按位与运算，并将运算的结果和存储池的编号作为哈希算法的输入值，计算得到PGP的编号；

[0078] 映射目标作为单元，用于计算集群的每个OSD，将所述PGP编号分别与计算集群的每个OSD编号一起进行哈希计算得到一个32位的伪随机数，并将所述伪随机数与待分配放置组对应的存储池的亲和度值相乘，相乘结果值最大的对应的OSD作为所述待分配放置组的映射目标

[0079] 在上述各实施例的基础上，所述调整模块，包括：

[0080] 第一计算单元，用于计算整个池分配给单位容量的平均PG数avg_sum；

[0081] 第二计算单元，用于计算OSD的单位容量的平均PG数avg_self；

[0082] 调整单元，用于对avg_self大于avg_sum的OSD，对其对应的亲和度进行向下调整。

[0083] 在上述各实施例的基础上，所述调整单元，用于：

[0084] 利用如下方式调整亲和度：

[0085] 。

[0086] 在上述各实施例的基础上，所述装置还包括：

[0087] 初始化模块，用于在初始状态时，将每个OSD对应于指定存储池的affinity值初始化为相同值。

[0088] 在上述各实施例的基础上，所述初始化模块，包括：

[0089] 数值初始化单元，用于将同一类型的每个OSD对应于指定存储池的affinity值初始化为相同值；

[0090] 调整单元，用于根据读写性能调整不同类型的每个OSD对应于指定存储池的affinity值。

[0091] 在上述各实施例的基础上，所述读取模块，包括：

[0092] 读取单元，用于读取每个OSD的元数据中维护记录各存储池id到affinity值映射表。

[0093] 本发明实施例所提供的CEPH放置组的分配装置可执行本发明任意实施例所提供的CEPH放置组的分配方法，具备执行方法相应的功能模块和有益效果。

[0094] 实施例五

[0095] 图5为本发明实施例五提供的一种服务器的结构示意图。图5示出了适于用来实现本发明实施方式的示例性服务器12的框图。图5显示的服务器12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

[0096] 如图5所示，服务器12以通用计算设备的形式表现。服务器12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件（包括系统存储器28和处理单元16）的总线18。

[0097] 总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构（ISA）总线，微通道体系结构（MAC）总线，增强型ISA总线、视频电子标准协会（VESA）局域总线以及外围组件互连（PCI）总线。

[0098] 服务器12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被服务器12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

[0099] 系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器（RAM）30和/或高速缓存存储器32。服务器12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质（图5未显示，通常称为“硬盘驱动器”）。尽管图5中未示出，可以提供用于对可移动非易失性磁盘（例如“软盘”）读写的磁盘驱动器，以及对可移动非易失性光盘（例如CD-ROM，DVD-ROM或者其它光介质）读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品，该程序产品具有一组（例如至少一个）程序模块，这些程序模块被配置以执行本发明各实施例的功能。

[0100] 具有一组（至少一个）程序模块42的程序/实用工具40，可以存储在例如存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。

[0101] 服务器12也可以与一个或多个外部设备14（例如键盘、指向设备、显示器24等）通信，还可与一个或者多个使得用户能与该服务器12交互的设备通信，和/或与使得该服务器12能与一个或多个其它计算设备进行通信的任何设备（例如网卡，调制解调器等等）通信。
这种通信可以通过输入/输出（I/O）接口22进行。并且，服务器12还可以通过网络适配器20与一个或者多个网络（例如局域网（LAN），广域网（WAN）和/或公共网络，例如因特网）通信。
如图所示，网络适配器20通过总线18与服务器12的其它模块通信。应当明白，尽管图中未示出，可以结合服务器12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

[0102] 处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的CEPH放置组的分配方法。

[0103] 实施例六

[0104] 本发明实施例六还提供了一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如上述实施例提供的CEPH放置组的分配方法。

[0105] 本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器（RAM）、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

[0106] 计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

[0107] 计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。

[0108] 可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机（例如利用因特网服务提供商来通过因特网连接）。

[0109] 注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。