本发明提出了一种基于GPU排序的MapReduce优化方法，其中MapReduce包含Map阶段、Shuffle阶段、以及Reduce阶段，Map阶段包含Spill过程和Merge过程，Reduce阶段包含Merge过程，其中，在Map阶段的Spill过程中采用基于GPU的快速排序流程，在Map阶段的Merge过程中和Reduce阶段的Merge过程中采用基于GPU的归并排序流程。通过以基于GPU的快速排序和归并排序算法替代传统的基于CPU的快速排序、归并排序和堆排序算法，提高中间数据处理速度，进而提升MapReduce的性能。
1.一种基于GPU排序的MapReduce优化方法，其中：MapReduce包含：Map阶段、Shuffle阶段、以及Reduce阶段，所述Map阶段包含Spill过程和Merge过程，所述Reduce阶段包含Merge过程，其特征在于，在所述Map阶段的Spill过程中采用基于GPU的快速排序流程，在所述Map阶段的Merge过程中和Reduce阶段的Merge过程中采用基于GPU的归并排序流程，其中：所述基于GPU的快速排序流程包含步骤：
(1.1)将数据存入GPU的全局存储空间，并划分成m个互不重叠的数据块，每个数据块由一个线程块处理，共有m个线程块；
(1.2)所述m个线程块并行地遍历对应的数据块，每个线程块内部n个线程并行地遍历相应数据块的一部分，并记录大于和小于分界值的元素的个数；
(1.3)依次统计每个线程块内部的每个线程的相对计数值；
(1.4)依次统计每个线程块的计数值和相对计数值；
(1.5)所有线程进行数据交换，序列分成大于分界值和小于分界值的两个子序列：子序列1、子序列2；
(1.6)对步骤(1.5)中产生的所述子序列1、所述子序列2分别再采用步骤(1.1)-(1.5)进行排序，直到最终排序完成，即可实现对原始序列的排序，所述基于GPU的归并排序流程包含步骤：
(2.1)将待归并的序列两两分组，分成h组，每组序列包含Ai和Bi两个序列，每次对一组序列Ai和Bi进行归并，其中1≤i≤h,Ai和Bi表示第i个分组包含的两个序列；
(2.2)分别将Ai和Bi划分成m个子序列，每个线程块对Ai的一个子序列和Bi的一个子序列进行归并，共需进行log2 m+1轮子序列的归并即可将序列Ai和Bi归并为一个有序序列Ci；
(2.3)重复步骤(2.2)，直到所有分组的序列Ai和Bi归并完成，分别产生每个分组的归并结果C1、C2、……、Ch；其中1≤i≤h,Ai和Bi表示第i个分组包含的两个序列,Ci为Ai和Bi归并完成后产生的有序序列；
(2.4)对h个分组的归并结果C1、C2、……、Ch，重复步骤(2.1)-(2.3)进行归并，直到产生最终归并结果，在步骤(1.3)中，线程块Bk中的每个线程的计数值分别为Lk,1,...,Lk,n和Rk,1,...,Rk,n，则第i个线程的相对计数值分别为：和 其中Lk,1和Rk,1分别表示线程块Bk中第1个线
程遍历的数据中比分界值小的数据个数和比分界值大的数据个数，Lk,n和Rk,n分别表示线程块Bk中第n个线程遍历的数据中比分界值小的数据个数和比分界值大的数据个数，Lk,j和Rk,j分别表示线程块Bk中第j个线程遍历的数据中比分界值小的数据个数和比分界值大的数据个数，BLk,i和BRk,i分别表示线程块Bk中第i个线程的相对计数值，即该线程块中前i-1个线程遍历的数据中比分界值小的数据总量和比分界值大的数据总量，在步骤(1.4)中，线程块Bk的计数值分别为 和 线程块Bk的
和 其中Lk、Lj和Rk、Rj分别表示线程块Bk和Bj遍历的数据块
内小于分界值的数据总量和大于分界值的数据总量，SLk和SRk分别表示线程块Bk之前的k-1个线程块遍历的数据块中小于分界值的数据总量和大于分界值的数据总量，在以上公式中，1≤k≤m、1≤i≤n。
2.如权利要求1所述的基于GPU排序的MapReduce优化方法，其特征在于，基于GPU的快速排序流程的步骤(1.5)中，每个线程块中每个线程将其遍历的小于分界值的数据依次交换到分界值左侧，大于分界值的数据依次交换到分界值右侧，然后每个线程块将对应位置的数据块写入辅助单元，加入分界值并根据分界值将序列分成比分界值小和比分界值大的两个子序列：子序列1和子序列2。
3.如权利要求1所述的基于GPU排序的MapReduce优化方法，其特征在于，步骤(2.2)中，包含以下子步骤：(2.21)对于Ai和Bi的第k轮归并，其中0≤k≤log2 m，产生m/2k个归并结果R1，R2，……，Rkr，并将每个归并结果Rp划分为2k个子序列Rp,1，Rp,2，……，Rp,km，1≤p≤kr；其中kr表示序列kAi和Bi的第k轮归并产生的归并结果数量，kr＝m/2 ，R1、R2和Rkr分别表示第1个、第2个以及第kr个归并结果，km表示序列Ai和Bi的第k轮归并产生的每个归并结果划分的子序列个数，km＝2k，Rp,1、Rp,2和Rp,km分别表示第p个归并结果划分后的第1个、第2个和第km个子序列，1≤p≤kr；
(2.22)对于Ai和Bi的第k+1轮归并，其中0≤k
(2.23)重复子步骤(2.21)-(2.22)，直到序列Ai和Bi归并完成，输出该分组的归并结果Ci。
基于GPU排序的MapReduce优化方法
技术领域
[0001] 本发明涉及MapReduce技术，尤其涉及一种MapReduce的优化处理方法。
背景技术
[0002] MapReduce是一种分布式编程框架，在云计算和大数据处理中应用非常广泛。MapReduce流程如图1所示，分为Map、Shuffle和Reduce三个阶段，Map和Reduce阶段分别执行用户编写的Map()和Reduce()程序，而Shuffle阶段介于Map阶段和Reduce阶段中间，用于对Map阶段产生的中间结果进行处理，为Reduce阶段准备数据。具体而言，Map阶段包括如下几个步骤：
[0003] 数据读入(Read)：从分布式文件系统中读入数据；
[0004] Map执行(Map)：执行用户编写的Map()函数；
[0005] 数据收集(Collect)：将Map产生的结果存入缓冲区；
[0006] 缓存溢写(Spill)：当缓存中数据量超过阈值时，将缓存中的数据写入本地硬盘；
[0007] 溢写合并(Merge)：多次缓存溢写会产生多个溢写文件，需要将所有的溢写文件合并成一个输出文件。
[0008] Shuffle阶段的详细操作如下：
[0009] 中间数据传输(Copy)：将Map端的中间结果通过网络传输到Reduce端的缓冲区；
[0010] 缓存溢写(Spill)：Reduce端的缓冲区数据量超过阈值时，将缓冲区数据写入本地硬盘，每次写入形成一个shuffle文件；
[0011] Reduce阶段的具体流程如下：
[0012] Shuffle文件合并(Merge)：在Reduce端将大量的shuffle文件合并形成少量的大文件，并将大文件合并形成一个有序的大文件；
[0013] Reduce执行(Reduce)：执行用户编写的Reduce()函数；
[0014] 数据输出(Output)：将Reduce产生的结果输出到分布式文件系统。
[0015] 从以上分析可以看出MapReduce框架对中间结果的处理非常复杂，需要花费大量的处理时间，尤其是其中包含的四次排序操作：①Map阶段的Spill过程中，每次溢写时需要将溢写文件进行排序，一般采用快速排序方法；②Map阶段的Merge过程中，溢写文件合并步骤采用归并排序的方法；③Reduce阶段的Merge过程中，采用归并排序方法将大量的shuffle文件合并成少量的大文件；④Reduce阶段的Merge过程中，采用堆排序方法将多个大文件合并成为一个有序的大文件。由于常用的基于CPU的排序算法的时间复杂度通常为O(N·logN)，其中N为待排序数据个数或记录条数，当数据量很大时排序操作消耗的时间很长，而MapReduce通常用于大数据处理。
[0016] GPU因其强大的计算能力以及相对较低的性能价格比，通常用GPU替代CPU用以提高任务处理性能。使用GPU对MapReduce进行优化的方法主要有两类，一是与用户程序相关的优化方法，即对MapReduce框架进行扩展，使MapReduce程序执行过程中可以使用GPU设备替代CPU，提高程序执行效率；二是与用户程序无关的优化方法，即修改MapReduce框架或者组件，使MapReduce框架更好的发挥GPU性能，从而提高效率。用户程序相关的优化方法需要用户参与进行任务分配，需要用户对程序的处理流程和GPU的编程规范非常熟悉，并且不同的用户程序之间优化方法不可重用。而现有的基于GPU排序的MapReduce优化方法只针对第一次排序过程的优化，即将基于CPU的快速排序算法替换成基于GPU的快速排序算法或者基于GPU的双调排序算法，而对于其他三次排序操作并不关注，对MapReduce性能的提升有限。
发明内容
[0017] 本发明的目的在于克服现有技术的不足，提出一种基于GPU排序的MapReduce优化方法，将MapReduce执行流程中的四次排序操作全部使用GPU执行，并分别使用基于GPU的快速排序和归并排序算法替代传统的基于CPU的快速排序、归并排序和堆排序算法，提高中间数据处理速度，进而提升MapReduce的性能。为实现本发明的目的，本发明的基于GPU排序的MapReduce优化方法中，MapReduce包含：Map阶段、Shuffle阶段、以及Reduce阶段，Map阶段包含Spill过程和Merge过程，Reduce阶段包含Merge过程，其中，在Map阶段的Spill过程中采用基于GPU的快速排序流程，在Map阶段的Merge过程中和Reduce阶段的Merge过程中采用基于GPU的归并排序流程，其中：
[0018] 基于GPU的快速排序流程包含步骤：
[0019] (1.1)将数据存入GPU的全局存储空间，并划分成m个互不重叠的数据块，每个数据块由一个线程块处理；
[0020] (1.2)m个线程块并行地遍历对应的数据块，每个线程块内部n个线程并行地遍历相应数据块的一部分，并记录大于和小于分界值的元素的个数；
[0021] (1.3)依次统计每个线程块内部的每个线程的相对计数值；
[0022] (1.4)依次统计每个线程块的计数值和相对计数值；
[0023] (1.5)所有线程进行数据交换，序列分成大于分界值和小于分界值的两个子序列：子序列1,、子序列2；
[0024] (1.6)对步骤(1.5)中产生的子序列1、子序列2分别再采用步骤(1.1)-(1.5)进行排序，直到最终排序完成，即可实现对原始序列的排序，
[0025] 基于GPU的归并排序流程包含步骤：
[0026] (2.1)将待归并的序列两两分组，分成h组，每组序列包含Ai和Bi两个序列，每次对一组序列Ai和Bi进行归并，其中1≤i≤h,Ai和Bi表示第i个分组包含的两个序列；
[0027] (2.2)分别将Ai和Bi划分成m个子序列，每个线程块对Ai的一个子序列和Bi的一个子序列进行归并，共需进行log2 m+1轮子序列的归并即可将序列Ai和Bi归并为一个有序序列Ci；
[0028] (2.3)重复步骤(2.2)，直到所有分组的序列Ai和Bi归并完成，分别产生每个分组的归并结果C1、C2、……、Ch；其中1≤i≤h,Ai和Bi表示第i个分组包含的两个序列,Ci为Ai和Bi归并完成后产生的有序序列；
[0029] (2.4)对h个分组的归并结果C1、C2、……、Ch，重复步骤(2.1)-(2.3)进行归并，直到产生最终归并结果。
[0030] 进一步地，在步骤(1.3)中，线程块Bk(1≤k≤m)中的每个线程的计数值分别为Lk,1,...,Lk,n和Rk,1,...,Rk,n，则第i(1≤i≤n)个线程的相对计数值分别为：
[0031] 和
[0032] 其中Lk,1和Rk,1分别表示线程块Bk中第1个线程遍历的数据中比分界值小的数据个数和比分界值大的数据个数，Lk,n和Rk,n分别表示线程块Bk中第n个线程遍历的数据中比分界值小的数据个数和比分界值大的数据个数，Lk,j和Rk,j分别表示线程块Bk中第j个线程遍历的数据中比分界值小的数据个数和比分界值大的数据个数，BLk,i和BRk,i分别表示线程块Bk中第i个线程的相对计数值，即该线程块中前i-1个线程遍历的数据中比分界值小的数据总量和比分界值大的数据总量。
[0033] 进一步地，在步骤(1.4)中，线程块Bk(1≤k≤m)的计数值分别为 和线程块Bk的相对计数值分别为：
[0034] 和
[0035] 其中Lk、Lj和Rk、Rj分别表示线程块Bk和Bj遍历的数据块内小于分界值的数据总量和大于分界值的数据总量，SLk和SRk分别表示线程块Bk之前的k-1个线程块遍历的数据块中小于分界值的数据总量和大于分界值的数据总量。
[0036] 进一步地，在步骤(1.5)中，每个线程块中每个线程将其遍历的小于分界值的数据依次交换到分界值左侧，大于分界值的数据依次交换到分界值右侧，然后每个线程块将对应位置的数据块写入辅助单元，加入分界值并根据分界值将序列分成比分界值小和比分界值大的两个子序列：子序列1和子序列2。
[0037] 进一步地，在步骤(2.2)中，包含以下子步骤：
[0038] (2.21)对于Ai和Bi的第k轮归并(0≤k≤log2 m)，产生m/2k个归并结果R1，R2，……，kRkr，并将每个归并结果Rp(1≤p≤kr)划分为2个子序列Rp,1，Rp,2，……，Rp,km；其中kr(kr＝m/
2k)表示序列Ai和Bi的第k轮归并产生的归并结果数量，R1、R2和Rkr分别表示第1个、第2个以及第kr个归并结果，km(其中km＝2k)表示序列Ai和Bi的第k轮归并产生的每个归并结果划分的子序列个数，Rp,1、Rp,2和Rp,km分别表示第p(1≤p≤kr)个归并结果划分后的第1个、第2个和第km个子序列；
[0039] (2.22)对于Ai和Bi的第k+1轮归并(0≤k
[0040] (2.23)重复子步骤(2.21)-(2.22)，直到序列Ai和Bi归并完成，输出该分组的归并结果Ci。
[0041] 在本发明中，通过在Map阶段的Spill过程中将基于CPU的快速排序替换为基于GPU的快速排序；在Map阶段的Merge过程中将基于CPU的归并排序替换为基于GPU的归并排序；在Reduce阶段的Merge过程中，将基于CPU的归并排序和堆排序均替换为基于GPU的归并排序。由GPU实现的归并排序的性能比堆排序的性能更优，且Merge过程中的堆排序本质上是将有序的大文件合并为一个大文件。因此本发明的基于GPU排序的MapReduce优化方法充分利用了GPU设备强大的计算能力替代CPU完成MapReduce对中间结果的排序，将MapReduce中四次基于CPU的排序操作(包括一次快速排序、两次归并排序和一次堆排序)替换为基于GPU的快速排序和归并排序操作，加快排序的速度，进而很大程度地提高了MapReduce的性能。
[0042] 相比传统的入侵检测系统中网络日志采集和存储方法，本发明具有如下优点：
[0043] ①用基于GPU的排序算法替代基于CPU的排序算法，充分利用GPU的强大计算能力，提高中间数据处理速度，进而提升MapReduce性能；
[0044] ②不需要对MapReduce框架进行修改，只替换对中间结果的排序算法，实现难度较小；
[0045] ③可以与其他基于用户程序的优化方法以及基于MapReduce框架的优化方法同时使用，适用范围广泛；
[0046] ④由于GPU设备的应用越来越多，很多服务器和个人计算机均已配置GPU设备，因此本发明可以充分发挥现有GPU设备的计算能力，即便新购买GPU设备的硬件成本也不高。
附图说明
[0047] 下面结合附图对本发明作进一步描写和阐述。
[0048] 图1是现有技术中MapReduce的流程图。
[0049] 图2是本发明首选实施方式的优化方法中基于GPU的快速排序流程。
[0050] 图3是本发明首选实施方式的优化方法中基于GPU的归并排序流程的一个流程示例。
具体实施方式
[0051] 如现有技术中所述，MapReduce包含：Map阶段、Shuffle阶段、以及Reduce阶段，Map阶段包含Spill过程和Merge过程，Reduce阶段包含Merge过程。
[0052] 本发明的基于GPU排序的MapReduce优化方法中，采用GPU快速排序替代Map阶段的Spill过程中基于CPU的快速排序；采用基于GPU的归并排序替代Map阶段的Merge过程中基于CPU的归并排序；采用基于GPU的归并排序替代Reduce阶段的Merge过程中基于CPU的归并排序。
[0053] 基于GPU的快速排序流程包含：
[0054] (1.1)将数据存入GPU的全局存储空间，并划分成m个互不重叠的数据块，每个数据块由一个线程块处理；如图2中a序列划分和b线程遍历所示；
[0055] (1.2)m个线程块并行地遍历对应的数据块，每个线程块内部n个线程并行地遍历相应数据块的一部分，并记录大于和小于分界值的元素的个数；如图2中c遍历计数所示；
[0056] (1.3)依次统计每个线程块内部的每个线程的相对计数值；在图2中d计数累加中进行；其中线程块Bk(1≤k≤m)中的每个线程的计数值分别为Lk,1,...,Lk,n和Rk,1,...,Rk,n，则第i(1≤i≤n)个线程的相对计数值分别为：
[0057] 和
[0058] 其中Lk,1和Rk,1分别表示线程块Bk中第1个线程遍历的数据中比分界值小的数据个数和比分界值大的数据个数，Lk,n和Rk,n分别表示线程块Bk中第n个线程遍历的数据中比分界值小的数据个数和比分界值大的数据个数，Lk,j和Rk,j分别表示线程块Bk中第j个线程遍历的数据中比分界值小的数据个数和比分界值大的数据个数，BLk,i和BRk,i分别表示线程块Bk中第i个线程的相对计数值，即该线程块中前i-1个线程遍历的数据中比分界值小的数据总量和比分界值大的数据总量。
[0059] (1.4)依次统计每个线程块的计数值和相对计数值；在图2中d计数累加中进行；线程块Bk(1≤k≤m)的计数值分别为 和 线程块Bk的相对计数值分别为：
[0060] 和
[0061] 其中Lk、Lj和Rk、Rj分别表示线程块Bk和Bj遍历的数据块内小于分界值的数据总量和大于分界值的数据总量，SLk和SRk分别表示线程块Bk之前的k-1个线程块遍历的数据块中小于分界值的数据总量和大于分界值的数据总量。
[0062] (1.5)所有线程进行数据交换，序列分成大于分界值和小于分界值的两个子序列：子序列1,、子序列2；如图2中所示e数据交换、f数据回写、g划分子序列，其中e数据交换后进行f数据回写，数据回写完毕形成两子序列，即g划分子序列；更具体一点，首先每个线程块中每个线程将其遍历的小于分界值的数据依次交换到分界值左侧，大于分界值的数据依次交换到分界值右侧，如第k个线程块的第i个线程中小于分界值的数据从序列的SLk+BLk,i位置依次存放至SLk+BLk,i+Lk,i位置，然后每个线程块将对应位置的数据块写入辅助单元，加入分界值并根据分界值将序列分成比分界值小和比分界值大的两个子序列：子序列1和子序列2。
[0063] (1.6)对步骤(1.5)中产生的子序列1、子序列2分别再采用步骤(1.1)-(1.5)进行排序，直到最终排序完成，即可实现对原始序列的排序。
[0064] 为了提高GPU的利用率，基于GPU的归并排序方法的具体操作步骤如下：
[0065] (2.1)将待归并的序列两两分组，分成h组，每组序列包含Ai和Bi两个序列，每次对一组序列Ai和Bi进行归并，其中1≤i≤h,Ai和Bi表示第i个分组包含的两个序列；
[0066] (2.2)分别将Ai和Bi划分成m个子序列，每个线程块对Ai的一个子序列和Bi的一个子序列进行归并，共需进行log2 m+1轮子序列的归并即可将序列Ai和Bi归并为一个有序序列Ci；更具体地，步骤(2.2)细化为下面子步骤：
[0067] (2.21)对于Ai和Bi的第k轮归并(0≤k≤log2 m)，产生m/2k个归并结果R1，R2，……，kRkr，并将每个归并结果Rp(1≤p≤kr)划分为2个子序列Rp,1，Rp,2，……，Rp,km；其中kr(kr＝m/
2k)表示序列Ai和Bi的第k轮归并产生的归并结果数量，R1、R2和Rkr分别表示第1个、第2个以及第kr个归并结果，km(其中km＝2k)表示序列Ai和Bi的第k轮归并产生的每个归并结果划分的子序列个数，Rp,1、Rp,2和Rp,km分别表示第p(1≤p≤kr)个归并结果划分后的第1个、第2个和第km个子序列；
[0068] (2.22)对于Ai和Bi的第k+1轮归并(0≤k
[0069] (2.23)重复子步骤(2.21)-(2.22)，直到序列Ai和Bi归并完成，输出该分组的归并结果Ci。
[0070] (2.3)重复步骤(2.2)，直到所有分组的序列Ai和Bi归并完成，分别产生每个分组的归并结果C1、C2、……、Ch；其中1≤i≤h,Ai和Bi表示第i个分组包含的两个序列,Ci为Ai和Bi归并完成后产生的有序序列；
[0071] (2.4)对h个分组的归并结果C1、C2、……、Ch，重复步骤(2.1)-(2.3)进行归并，直到产生最终归并结果。
[0072] 图3所示为子序列A1和B1划分为4个子序列，采用4个线程块进行归并排序的流程示例，其中G1、G2、G3、……、Gn表示用以进行子序列归并的第1、2、3...n个线程块，每个线程块在每一轮归并中处理的子序列不同，Ri,j(1≤i≤n，1≤j≤n)表示每轮归并过程中产生的第i个归并结果的第j个子序列。
[0073] 上述具体实施方式仅仅对本发明的优选实施方式进行描述，而并非对本发明的保护范围进行限定。在不脱离本发明设计构思和精神范畴的前提下，本领域的普通技术人员根据本发明所提供的文字描述、附图对本发明的技术方案所作出的各种变形、替代和改进，均应属于本发明的保护范畴。本发明的保护范围由权利要求确定。
