人工神经网络的量化方法及装置

摘要

人工神经网络的量化方法及装置，所述量化方法包括：根据图像集中的部分图像，来计算理想分布p；根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集；采用所述量化图集来对该人工神经网络进行量化。本发明提高了人工神经网络的量化精度，降低因网络压缩而造成的性能损失，实现筛选量化图片的自动化，在原始数据集较大时可极大地提升图像选择的效率，同时也大量节省人的时间与精力。

权利要求

1.一种人工神经网络的量化方法，其特征在于，包括：从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集；

采用所述量化图集来对该人工神经网络进行量化；

其中，所述从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集包括：根据图像集中的部分图像，来计算理想分布p；

根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集，包括：对图像集中未被抽取的部分或全部图像分别进行深度特征提取；

分别对各张图像中被提取的深度特征进行统计，分别得到关于各张图像的特征分布；

分别计算关于各张图像的特征分布与理想分布p之间的KL散度；

从图像集中筛选出图像所对应的KL散度符合预定要求的图像，作为用于对该人工神经网络进行量化的量化图集；

其中，所述根据图像集中的部分图像，来计算理想分布p包括：从图像集中抽取N张图像作为初始量化图像；

根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案；

根据N个所述量化方案，分别计算各个量化方案中该人工神经网络输出层的余弦相似度，得到N个余弦相似度；

根据各个量化方案中该人工神经网络输出层的余弦相似度，从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像；

对图像所对应的余弦相似度符合预定要求的各张图像分别进行深度特征提取；

对提取的深度特征进行统计，生成理想分布p。

2.如权利要求1所述的人工神经网络的量化方法，其特征在于，所述从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集还包括：对初始量化图像的数量N、相似度指标c以及散度指标d进行初始化；

其中，相似度指标c是图像所对应的余弦相似度的指定值，散度指标d是图像所对应的KL散度的指定值。

3.如权利要求1所述的人工神经网络的量化方法，其特征在于，所述从图像集中抽取N张图像作为初始量化图像包括：随机从图像集中不放回地抽取N张图像作为初始量化图像。

4.如权利要求1所述的人工神经网络的量化方法，其特征在于，在所述根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案的过程中，由各张图像量化产生的定点数据各不相同。

5.如权利要求1所述的人工神经网络的量化方法，其特征在于，所述根据N个所述量化方案，分别计算各个量化方案中该人工神经网络输出层的余弦相似度，得到N个余弦相似度包括：通过以下公式来计算各个量化方案中该人工神经网络输出层的余弦相似度：其中， 表示该人工神经网络输出层输出的定点数据， 表示该人工神经网络输出层输出的浮点数据，表示向量 与向量 的夹角。

6.如权利要求1所述的人工神经网络的量化方法，其特征在于，所述从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像包括：从N张图像中筛选出图像所对应的余弦相似度大于相似度指标c的图像。

7.如权利要求1所述的人工神经网络的量化方法，其特征在于，所述分别计算关于各张图像的特征分布与理想分布p之间的KL散度包括：通过以下公式来计算关于各张图像的特征分布与理想分布p之间的KL散度：其中，表示理想分布，表示图像的分布， 表示 相对于理想分布的散度。

8.如权利要求1所述的人工神经网络的量化方法，其特征在于，所述从图像集中筛选出图像所对应的KL散度符合预定要求的图像包括：从图像集中筛选出图像所对应的KL散度小于或等于散度指标d的图像。

9.一种人工神经网络的量化装置，其特征在于，包括：处理器，适于加载并执行软件程序的指令；

存储器，适于存储软件程序，所述软件程序包括用于执行以下步骤的指令：从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集；

采用所述量化图集来对该人工神经网络进行量化；

其中，所述从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集包括：根据图像集中的部分图像，来计算理想分布p；

根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集，包括：对图像集中未被抽取的部分或全部图像分别进行深度特征提取；

分别对各张图像中被提取的深度特征进行统计，分别得到关于各张图像的特征分布；

分别计算关于各张图像的特征分布与理想分布p之间的KL散度；

从图像集中筛选出图像所对应的KL散度符合预定要求的图像，作为用于对该人工神经网络进行量化的量化图集；

其中，所述根据图像集中的部分图像，来计算理想分布p包括：从图像集中抽取N张图像作为初始量化图像；

根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案；

根据N个所述量化方案，分别计算各个量化方案中该人工神经网络输出层的余弦相似度，得到N个余弦相似度；

根据各个量化方案中该人工神经网络输出层的余弦相似度，从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像；

对图像所对应的余弦相似度符合预定要求的各张图像分别进行深度特征提取；

对提取的深度特征进行统计，生成理想分布p。

说明书

人工神经网络的量化方法及装置

技术领域

[0001] 本发明涉及人工智能技术领域，特别是涉及一种人工神经网络的量化方法及装置。

背景技术

[0002] 为了让计算机系统能够自主地从数据中学习经验，人工神经网络（Artificial Neural Network，ANN）成为当下人工智能领域的一项重点研究内容。

[0003] 自2014年的ILSVRC（ImageNet Large Scale Visual Recognition Competition）大赛以来，越来越多的ANN框架相继被提出，它们在计算机视觉等领域中取得了众多优异的成绩。特别地，随着轻量型人工神经网络以及量化（Quantization）、剪枝（Pruning）与压缩（Compression）等技术的出现，人工神经网络得以在移动端上部署。

[0004] 然而，由于量化图像的选择、模型数据的压缩等因素存在，人工神经网络的量化移植往往会伴随着一定程度的精度损失。因此，如何提高ANN的量化精度既是学术界一个亟待解决的难题，也是工业界的一个紧迫需求。

发明内容

[0005] 本发明解决的技术问题是：如何提高人工神经网络的量化精度和量化效率。

[0006] 为了解决上述技术问题，本发明实施例提供一种人工神经网络的量化方法，包括：

[0007] 从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集；

[0008] 采用所述量化图集来对该人工神经网络进行量化；

[0009] 其中，所述从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集包括：

[0010] 根据图像集中的部分图像，来计算理想分布p；

[0011] 根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集。

[0012] 可选的，所述从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集还包括：对初始量化图像的数量N、相似度指标c以及散度指标d进行初始化。

[0013] 可选的，所述根据图像集中的部分图像，来计算理想分布p包括：

[0014] 从图像集中抽取N张图像作为初始量化图像；

[0015] 根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案；

[0016] 根据N个所述量化方案，分别计算各个量化方案中该人工神经网络输出层的余弦相似度，得到N个余弦相似度；

[0017] 根据各个量化方案中该人工神经网络输出层的余弦相似度，从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像；

[0018] 对图像所对应的余弦相似度符合预定要求的各张图像分别进行深度特征提取；

[0019] 对提取的深度特征进行统计，生成理想分布p。

[0020] 可选的，所述从图像集中抽取N张图像作为初始量化图像包括：随机从图像集中不放回地抽取N张图像作为初始量化图像。

[0021] 可选的，在所述根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案的过程中，由各张图像量化产生的定点数据各不相同。

[0022] 可选的，所述根据N个所述量化方案，分别计算各个量化方案中该人工神经网络输出层的余弦相似度，得到N个余弦相似度包括：通过以下公式来计算各个量化方案中该人工神经网络输出层的余弦相似度：

[0023]

[0024] 其中， 表示该人工神经网络输出层输出的定点数据， 表示该人工神经网络输出层输出的浮点数据，表示向量 与向量 的夹角。

[0025] 可选的，所述从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像包括：从N张图像中筛选出图像所对应的余弦相似度大于相似度指标c的图像。

[0026] 可选的，所述根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集包括：

[0027] 对图像集中未被抽取的部分或全部图像分别进行深度特征提取；

[0028] 分别对各张图像中被提取的深度特征进行统计，分别得到关于各张图像的特征分布；

[0029] 分别计算关于各张图像的特征分布与理想分布p之间的KL散度；

[0030] 从图像集中筛选出图像所对应的KL散度符合预定要求的图像，作为用于对该人工神经网络进行量化的量化图集。

[0031] 可选的，所述分别计算关于各张图像的特征分布与理想分布p之间的KL散度包括：通过以下公式来计算关于各张图像的特征分布与理想分布p之间的KL散度：

[0032]

[0033] 其中，表示理想分布，表示图像的分布， 表示 相对于理想分布的散度。

[0034] 可选的，所述从图像集中筛选出图像所对应的KL散度符合预定要求的图像包括：从图像集中筛选出图像所对应的KL散度小于或等于散度指标d的图像。

[0035] 为了解决上述技术问题，本发明实施例还提供一种人工神经网络的量化装置，包括：

[0036] 处理器，适于加载并执行软件程序的指令；

[0037] 存储器，适于存储软件程序，所述软件程序包括用于执行以下步骤的指令：

[0038] 从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集；

[0039] 采用所述量化图集来对该人工神经网络进行量化；

[0040] 其中，所述从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集包括：

[0041] 根据图像集中的部分图像，来计算理想分布p；

[0042] 根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集。

[0043] 可选的，所述根据图像集中的部分图像，来计算理想分布p包括：

[0044] 从图像集中抽取N张图像作为初始量化图像；

[0045] 根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案；

[0046] 根据N个所述量化方案，分别计算各个量化方案中该人工神经网络输出层的余弦相似度，得到N个余弦相似度；

[0047] 根据各个量化方案中该人工神经网络输出层的余弦相似度，从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像；

[0048] 对图像所对应的余弦相似度符合预定要求的各张图像分别进行深度特征提取；

[0049] 对提取的深度特征进行统计，生成理想分布p。

[0050] 可选的，所述根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集包括：

[0051] 对图像集中未被抽取的部分或全部图像分别进行深度特征提取；

[0052] 分别对各张图像中被提取的深度特征进行统计，分别得到关于各张图像的特征分布；

[0053] 分别计算关于各张图像的特征分布与理想分布p之间的KL散度；

[0054] 从图像集中筛选出图像所对应的KL散度符合预定要求的图像，作为用于对该人工神经网络进行量化的量化图集。

[0055] 与现有技术相比，本发明的技术方案具有以下有益效果：

[0056] 根据图像集中的部分图像，来计算理想分布p；根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集；采用所述量化图集来对该人工神经网络进行量化，从而提高了人工神经网络的量化精度，降低因网络压缩而造成的性能损失，实现筛选量化图片的自动化，在原始数据集较大时可极大地提升图像选择的效率，同时也大量节省人的时间与精力。

[0057] 进一步的，公开了根据图像集中的部分图像，来计算理想分布p、以及根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集的具体实施步骤。

附图说明

[0058] 图1为本发明实施例中人工神经网络的量化方法流程图；

[0059] 图2为本发明实施例中自动化图像选择模型流程图。

具体实施方式

[0060] 根据背景技术部分的分析可知，人工神经网络的量化移植往往会伴随着一定程度的精度损失。因此，如何提高ANN的量化精度既是学术界一个亟待解决的难题，也是工业界的一个紧迫需求。

[0061] 随着人工神经网络在移动端上的深入应用，自动化的量化移植工具成为提升开发效率的关键一环。在这其中，量化图像的选择往往会在设计自动量化工具的进程中被忽略。

[0062] 现有技术中，通常采用试错法选择适用于网络量化的图像。该方案在操作上主要分为以下三个步骤：

[0063] 首先，它需要人们根据经验，主观地从图像数据集中选择若干与被量化网络相关的图片，选择的依据大多采用图像的低级图形特征以及人们对它们产生的语义理解；

[0064] 其次，采用所选的图片，来进行多次量化实验以调整量化的定点位；

[0065] 最后，再通过一些评价指标（例如余弦相似度以及KL散度等等），来选择最佳的量化结果。

[0066] 由此可见，现有技术中上述手工选择图片来进行量化的方案，所产生的量化结果极度不稳定，非常考验被量化的人工神经网络对于量化图像的泛化性能。在实际的操作过程中，输入不同的图像会直接导致网络的量化精度产生巨大差异。并且这种差异往往无法显式地体现在原始的图形特征上，需要对图像进一步分析探究。

[0067] 也就是说，在量化图片的选择方面，现有技术中往往是结合自身经验，通过试错法不断寻找适合特定网络的图片。该方案的弊端在于：

[0068] 1）无法自动化筛选量化图片。当可供选择的量化图片过多时，手工选择图片的效率就会大打折扣，极大地消耗了人的时间和精力，且选择图片的数量也极为有限，无法发挥大型图像数据集的优势；

[0069] 2）人为挑选图片存在一定的偶然性，它们仅仅是根据图像浅层的图形特征来进行的，而图像的真实质量往往不尽如人意，最后导致达不到所需的量化精度。

[0070] 发明人认为，倘若在量化的过程中使用自动化的图像筛选方法，综合考虑每张图像的更深层次的特征，量化工具就能够在量化过程中有效的处理一些大规模图像数据集。这不仅可以提高工作效率，同时也可以保障ANN量化后的性能。

[0071] 发明人经研究后，提出了采用量化工具专门自动化解决图像选择问题的方案，旨在提升人工神经网络的量化精度，降低因网络压缩而造成的性能损失，同时完善自动量化工具的开发，为用户提供更加快捷、优质的量化方案。

[0072] 本发明根据图像集中的部分图像，来计算理想分布p；根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集；采用所述量化图集来对该人工神经网络进行量化，从而提高了人工神经网络的量化精度，降低因网络压缩而造成的性能损失，实现筛选量化图片的自动化，在原始数据集较大时可极大地提升图像选择的效率，同时也大量节省人的时间与精力。

[0073] 进一步的，公开了根据图像集中的部分图像，来计算理想分布p、以及根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集的具体实施步骤。

[0074] 为使本领域技术人员更好地理解和实现本发明，以下参照附图，通过具体实施例进行详细说明。

[0075] 实施例一

[0076] 如下所述，本发明实施例提供一种人工神经网络的量化方法。包括：

[0077] 从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集；

[0078] 采用所述量化图集来对该人工神经网络进行量化；

[0079] 其中，所述从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集包括：

[0080] 根据图像集中的部分图像，来计算理想分布p；

[0081] 根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集。

[0082] 参照图1所示的人工神经网络的量化方法流程图、以及图2所示的自动化图像选择模型流程图，以下通过具体步骤进行详细说明：

[0083] S101，从图像集中抽取N张图像作为初始量化图像。

[0084] 在一些实施例中，所述从图像集中抽取N张图像作为初始量化图像可以包括：随机从图像集中不放回地抽取N张图像作为初始量化图像

[0085] 在一些实施例中，还可以包括：对初始量化图像的数量N、相似度指标c以及散度指标d进行初始化。

[0086] S102，根据N张所述初始量化图像，分别对该人工神经网络进行量化。

[0087] 根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案。

[0088] 在一些实施例中，在所述根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案的过程中，由各张图像量化产生的定点数据各不相同。

[0089] S103，根据N个所述量化方案，分别计算各个量化方案中该人工神经网络输出层的余弦相似度。

[0090] 根据N个所述量化方案，分别计算各个量化方案中该人工神经网络输出层的余弦相似度，得到N个余弦相似度。

[0091] 计算网络输出层的定点数据与原始浮点数据的余弦相似度可以很好的度量量化精度，余弦相似度又称余弦距离，它是通过计算两个向量夹角的余弦值来度量它们之间的相似度。

[0092] 在一些实施例中，具体可以通过以下公式来计算各个量化方案中该人工神经网络输出层的余弦相似度：

[0093]

[0094] 其中， 表示该人工神经网络输出层输出的定点数据， 表示该人工神经网络输出层输出的浮点数据，表示向量 与向量 的夹角。

[0095] 计算所有的N个余弦相似度后，AIST（Automatic Image Selection Tool，自动化图像选择工具）会筛选出相似度大于等于相似度指标c的对应的量化图片（参考后续步骤S104）。

[0096] S104，从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像。

[0097] 根据各个量化方案中该人工神经网络输出层的余弦相似度，从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像。

[0098] 在一些实施例中，所述从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像可以包括：从N张图像中筛选出图像所对应的余弦相似度大于相似度指标c的图像。

[0099] S105，对图像所对应的余弦相似度符合预定要求的各张图像分别进行深度特征提取。

[0100] 高相似度对应的量化图像中蕴含着进行图像选择所需的信息，AIST的深度特征的提取任务是通过自动编码器（Autoencoder）完成的。自动编码器是由一个编码器（Encoder）和一个解码器（Decoder）组成的一种特殊的神经网络结构，它使用反向传播算法进行学习，最小化重构损失函数以拟合恒等映射，属于无监督学习的范畴。由于上述特性的存在，自动编码器经常被运用在特征提取、数据去噪以及数据降维等任务中。在实际操作过程中，AIST只让图像经过编码器，将图像原始数据映射成高级的特征表示（Representation），再对这些表示进行特征统计，生成理想分布p。

[0101] 倘若成功求取理想分布，那就意味着神经网络量化所需的图像应尽可能的逼近理想分布p。因此，AIST需要再次度量待选图像特征的分布q与理想分布p的散度，并以此来选择散度较低的图片作为新的量化图集。所以所有待选择的图片应再次被输入自动编码器进行编码，再获得编码特征的统计信息。

[0102] S106，对提取的深度特征进行统计，生成理想分布p。

[0103] S107，对图像集中未被抽取的部分或全部图像分别进行深度特征提取。

[0104] S108，分别对各张图像中被提取的深度特征进行统计。

[0105] 分别对各张图像中被提取的深度特征进行统计，分别得到关于各张图像的特征分布。

[0106] S109，分别计算关于各张图像的特征分布与理想分布p之间的KL散度。

[0107] 在数理统计中，KL散度（Kullback‑LeiblerDivergence）又被称为相对熵（Relative Entropy），常被用与衡量一个分布与另一个参考分布之间的差异。KL散度属于一种非对称度量，在统计学、流体力学以及机器学习等领域都有着广泛的应用。

[0108] 在一些实施例中，具体可以通过以下公式来计算关于各张图像的特征分布与理想分布p之间的KL散度：

[0109]

[0110] 其中，表示理想分布，表示图像的分布， 表示 相对于理想分布的散度。

[0111] 得到所有待选图像的深度特征分布与理想分布之间的KL散度之后，AIST就可以凭借散度指标 选择符合量化需求的图像集。具体的筛选规则是当某张图片与理想分布的散度满足 时，就称该图片是符合量化需求的。

[0112] S110，从图像集中筛选出图像所对应的KL散度符合预定要求的图像，作为用于对该人工神经网络进行量化的量化图集。

[0113] 在一些实施例中，所述从图像集中筛选出图像所对应的KL散度符合预定要求的图像包括：从图像集中筛选出图像所对应的KL散度小于或等于散度指标d的图像。

[0114] 通过以上对技术方案的描述可以看出：本实施例中，根据图像集中的部分图像，来计算理想分布p；根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集；采用所述量化图集来对该人工神经网络进行量化，从而提高了人工神经网络的量化精度，降低因网络压缩而造成的性能损失，实现筛选量化图片的自动化，在原始数据集较大时可极大地提升图像选择的效率，同时也大量节省人的时间与精力。

[0115] 进一步的，公开了根据图像集中的部分图像，来计算理想分布p、以及根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集的具体实施步骤。

[0116] 经实验验证，表明在采用本实施例所提供的人工神经网络的量化方法对待量化的人工神经网络进行量化，能够提高量化精度。

[0117] 实施例二

[0118] 如下所述，本发明实施例提供一种人工神经网络的量化装置。

[0119] 所述人工神经网络的量化装置包括：

[0120] 处理器，适于加载并执行软件程序的指令；

[0121] 存储器，适于存储软件程序，所述软件程序包括用于执行以下步骤的指令：

[0122] 从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集；

[0123] 采用所述量化图集来对该人工神经网络进行量化；

[0124] 其中，所述从图像集中选择若干与待量化的人工神经网络相关的图像，作为用于对该人工神经网络进行量化的量化图集包括：

[0125] 根据图像集中的部分图像，来计算理想分布p；

[0126] 根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集。

[0127] 在一些实施例中，所述根据图像集中的部分图像，来计算理想分布p可以包括：

[0128] 从图像集中抽取N张图像作为初始量化图像；

[0129] 根据N张所述初始量化图像，分别对该人工神经网络进行量化，产生N个量化方案；

[0130] 根据N个所述量化方案，分别计算各个量化方案中该人工神经网络输出层的余弦相似度，得到N个余弦相似度；

[0131] 根据各个量化方案中该人工神经网络输出层的余弦相似度，从N张图像中筛选出图像所对应的余弦相似度符合预定要求的图像；

[0132] 对图像所对应的余弦相似度符合预定要求的各张图像分别进行深度特征提取；

[0133] 对提取的深度特征进行统计，生成理想分布p。

[0134] 在一些实施例中，所述根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集包括：

[0135] 对图像集中未被抽取的部分或全部图像分别进行深度特征提取；

[0136] 分别对各张图像中被提取的深度特征进行统计，分别得到关于各张图像的特征分布；

[0137] 分别计算关于各张图像的特征分布与理想分布p之间的KL散度；

[0138] 从图像集中筛选出图像所对应的KL散度符合预定要求的图像，作为用于对该人工神经网络进行量化的量化图集。

[0139] 通过以上对技术方案的描述可以看出：本实施例中，根据图像集中的部分图像，来计算理想分布p；根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集；采用所述量化图集来对该人工神经网络进行量化，从而提高了人工神经网络的量化精度，降低因网络压缩而造成的性能损失，实现筛选量化图片的自动化，在原始数据集较大时可极大地提升图像选择的效率，同时也大量节省人的时间与精力。

[0140] 进一步的，公开了根据图像集中的部分图像，来计算理想分布p、以及根据理想分布p，来从图像集中筛选出用于对该人工神经网络进行量化的量化图集的具体实施步骤。

[0141] 本领域普通技术人员可以理解，上述实施例的各种方法中，全部或部分步骤是可以通过程序指令相关的硬件来完成的，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：ROM、RAM、磁盘或光盘等。

[0142] 虽然本发明披露如上，但本发明并非限定于此。任何本领域技术人员，在不脱离本发明的精神和范围内，均可作各种更动与修改，因此本发明的保护范围应当以权利要求所限定的范围为准。