多媒体信息处理方法、装置及服务器

摘要

本公开提供了一种多媒体信息处理方法、装置及服务器，属于信息技术领域。所述方法包括：获取待处理的多媒体信息；若确定多媒体信息需要被过滤处理、且多媒体信息的业务标识在第一白名单中，则根据业务标识，从目标保护信息集合中确定业务标识对应的目标保护信息，第一白名单中的业务标识和目标保护信息集合中的目标保护信息关联；若多媒体信息属于目标保护信息，则基于目标保护信息对应的保护策略，对多媒体信息进行保护。本公开中由于增加了目标保护信息集合，且目标保护信息集合中存储业务标识对应的目标保护信息，若调整需要被保护的多媒体信息，直接修改第一白名单中业务标识和目标保护信息的关联关系即可，提高了调整效率。

权利要求

1.一种多媒体信息处理方法，其特征在于，所述方法包括：获取待处理的多媒体信息；

若确定所述多媒体信息需要被过滤处理、且所述多媒体信息的业务标识在第一白名单中，则根据所述业务标识，从目标保护信息集合中确定所述业务标识对应的目标保护信息，所述第一白名单中的业务标识和所述目标保护信息集合中的目标保护信息关联；

若所述多媒体信息属于所述目标保护信息，根据所述目标保护信息的信息标识，确定与所述信息标识关联的策略标识；根据所述策略标识，确定所述目标保护信息对应的保护策略；基于所述目标保护信息对应的保护策略，对所述多媒体信息进行保护；

其中，目标保护信息的信息标识和保护策略的策略标识是根据终端发送的目标保护信息和保护策略进行关联的，所述终端支持业务方通过配置目标保护信息和保护策略的网页或者应用程序为目标保护信息配置保护策略；所述终端支持配置的保护策略包括用于指示对所述多媒体信息进行立即保护的第一保护策略、用于指示对所述多媒体信息进行先过滤后验证的第二保护策略以及用于指示对所述多媒体信息进行先验证后保护的第三保护策略，所述立即保护也即是不对所述多媒体信息进行过滤处理。

2.根据权利要求1所述的方法，其特征在于，所述基于所述目标保护信息对应的保护策略，对所述多媒体信息进行保护，包括：若所述保护策略为用于指示对所述多媒体信息进行立即保护的第一保护策略，则对所述多媒体信息立即保护；或者，

若所述保护策略为用于指示对所述多媒体信息进行先过滤后验证的第二保护策略，则对所述多媒体信息进行过滤处理，以及对所述多媒体信息进行验证，得到验证结果；根据所述验证结果，对所述多媒体信息进行保护；或者，若所述保护策略为用于指示对所述多媒体信息进行先验证后保护的第三保护策略，则对所述多媒体信息进行验证，得到验证结果；根据所述验证结果，对所述多媒体信息进行保护。

3.根据权利要求2所述的方法，其特征在于，若所述保护策略为所述第二保护策略，所述根据所述验证结果，对所述多媒体信息进行保护，包括：若所述验证结果用于指示所述多媒体信息不需要被过滤处理，则撤回对所述多媒体信息的过滤处理；

若所述验证结果用于指示所述多媒体信息需要被过滤处理，则保持对所述多媒体信息的过滤处理。

4.根据权利要求2所述的方法，其特征在于，若所述保护策略为所述第三保护策略，则所述根据所述验证结果，对所述多媒体信息进行保护，包括：若所述验证结果用于指示所述多媒体信息不需要被过滤处理，对所述多媒体信息进行保护；

若所述验证结果用于指示所述多媒体信息需要被过滤处理，对所述多媒体信息进行过滤处理。

5.根据权利要求2‑4任一项所述的方法，其特征在于，所述对所述多媒体信息进行验证，得到验证结果，包括：

向指定终端发送所述多媒体信息；当接收到所述指定终端返回的对所述多媒体信息的第一操作时，确定所述验证结果为所述多媒体信息不需要被过滤处理；当接收到所述指定终端返回的对所述多媒体信息的第二操作时，确定所述验证结果为所述多媒体信息需要被过滤处理；或者，

提取所述多媒体信息的特征信息，若所述特征信息与第一基准特征信息匹配，确定所述验证结果为所述多媒体信息不需要被过滤处理；若所述特征信息与第二基准特征信息匹配，确定所述验证结果为所述多媒体信息需要被过滤处理；

其中，所述第一基准特征信息为不需要被过滤处理的多媒体信息对应的特征信息，所述第二基准特征信息为需要被过滤处理的多媒体信息对应的特征信息。

6.根据权利要求2所述的方法，其特征在于，所述基于所述目标保护信息对应的保护策略，对所述多媒体信息进行保护之前，所述方法还包括：若所述业务标识在第二白名单中，确定所述保护策略为所述第一保护策略；

若所述业务标识不在所述第二白名单中，根据所述多媒体信息，确定所述多媒体信息的业务类型；若所述业务类型为即时性业务类型，确定所述保护策略为所述第二保护策略；

若所述业务类型为非即时性业务类型，确定所述保护策略为所述第三保护策略。

7.根据权利要求2所述的方法，其特征在于，所述对所述多媒体信息进行验证，得到验证结果之前，所述方法还包括：

根据所述业务标识，确定所述业务标识对应的多个历史多媒体信息；

根据所述多个历史多媒体信息，确定所述多个历史多媒体信息的历史验证记录；

根据所述历史验证记录，确定所述多个历史多媒体信息中验证结果为需要被过滤处理的历史多媒体信息的数量；

若所述数量没有达到指定数量，则执行所述对所述多媒体信息进行验证，得到验证结果的步骤。

8.根据权利要求1所述的方法，其特征在于，所述根据所述业务标识，从目标保护信息集合中确定所述业务标识对应的目标保护信息之前，所述方法还包括：接收被配置的所述业务标识和所述目标保护信息；

将所述业务标识添加到所述第一白名单中，将所述目标保护信息添加到所述目标保护信息集合中，以及关联所述目标保护信息与所述业务标识。

9.一种多媒体信息处理装置，其特征在于，所述装置包括：获取模块，被配置为执行获取待处理的多媒体信息；

确定模块，被配置为执行若确定所述多媒体信息需要被过滤处理、且所述多媒体信息的业务标识在第一白名单中，则根据所述业务标识，从目标保护信息集合中确定所述业务标识对应的目标保护信息，所述第一白名单中的业务标识和所述目标保护信息集合中的目标保护信息关联；

保护模块，被配置为执行若所述多媒体信息属于所述目标保护信息，根据所述目标保护信息的信息标识，确定与所述信息标识关联的策略标识；根据所述策略标识，确定所述目标保护信息对应的保护策略；基于所述目标保护信息对应的保护策略，对所述多媒体信息进行保护；

其中，目标保护信息的信息标识和保护策略的策略标识是根据终端发送的目标保护信息和保护策略进行关联的，所述终端支持业务方通过配置目标保护信息和保护策略的网页或者应用程序为目标保护信息配置保护策略；所述终端支持配置的保护策略包括用于指示对所述多媒体信息进行立即保护的第一保护策略、用于指示对所述多媒体信息进行先过滤后验证的第二保护策略以及用于指示对所述多媒体信息进行先验证后保护的第三保护策略，所述立即保护也即是不对所述多媒体信息进行过滤处理。

10.根据权利要求9所述的装置，其特征在于，所述保护模块，被配置为执行若所述保护策略为用于指示对所述多媒体信息进行立即保护的第一保护策略，则对所述多媒体信息立即保护；

或者，所述保护模块，被配置为执行若所述保护策略为用于指示对所述多媒体信息进行先过滤后验证的第二保护策略，则对所述多媒体信息进行过滤处理，以及对所述多媒体信息进行验证，得到验证结果；根据所述验证结果，对所述多媒体信息进行保护；

或者，所述保护模块，被配置为执行若所述保护策略为用于指示对所述多媒体信息进行先验证后保护的第三保护策略，则对所述多媒体信息进行验证，得到验证结果；根据所述验证结果，对所述多媒体信息进行保护。

11.根据权利要求10所述的装置，其特征在于，所述保护模块，还被配置为执行若所述保护策略为所述第二保护策略，且所述验证结果用于指示所述多媒体信息不需要被过滤处理，则撤回对所述多媒体信息的过滤处理；

若所述保护策略为所述第二保护策略，且所述验证结果用于指示所述多媒体信息需要被过滤处理，则保持对所述多媒体信息的过滤处理。

12.根据权利要求10所述的装置，其特征在于，所述保护模块，还被配置为执行若所述保护策略为所述第三保护策略，且所述验证结果用于指示所述多媒体信息不需要被过滤处理，则对所述多媒体信息进行保护；

若所述保护策略为所述第三保护策略，且所述验证结果用于指示所述多媒体信息需要被过滤处理，则对所述多媒体信息进行过滤处理。

13.根据权利要求10‑12任一项所述的装置，其特征在于，所述保护模块，还被配置为执行向指定终端发送所述多媒体信息；当接收到所述指定终端返回的对所述多媒体信息的第一操作时，确定所述验证结果为所述多媒体信息不需要被过滤处理；当接收到所述指定终端返回的对所述多媒体信息的第二操作时，确定所述验证结果为所述多媒体信息需要被过滤处理；

或者，所述保护模块还被配置为执行提取所述多媒体信息的特征信息，若所述特征信息与第一基准特征信息匹配，确定所述验证结果为所述多媒体信息不需要被过滤处理；若所述特征信息与第二基准特征信息匹配，确定所述验证结果为所述多媒体信息需要被过滤处理；

其中，所述第一基准特征信息为不需要被过滤处理的多媒体信息对应的特征信息，所述第二基准特征信息为需要被过滤处理的多媒体信息对应的特征信息。

14.根据权利要求10所述的装置，其特征在于，所述保护模块，还被配置为执行若所述业务标识在第二白名单中，确定所述保护策略为所述第一保护策略；若所述业务标识不在所述第二白名单中，根据所述多媒体信息，确定所述多媒体信息的业务类型；若所述业务类型为即时性业务类型，确定所述保护策略为所述第二保护策略；若所述业务类型为非即时性业务类型，确定所述保护策略为所述第三保护策略。

15.根据权利要求10所述的装置，其特征在于，所述保护模块，还被配置为执行根据所述业务标识，确定所述业务标识对应的多个历史多媒体信息；根据所述多个历史多媒体信息，确定所述多个历史多媒体信息的历史验证记录；根据所述历史验证记录，确定所述多个历史多媒体信息中验证结果为需要被过滤处理的历史多媒体信息的数量；若所述数量没有达到指定数量，则对所述多媒体信息进行验证，得到验证结果。

16.根据权利要求9所述的装置，其特征在于，所述确定模块，还被配置为执行接收被配置的所述业务标识和所述目标保护信息；将所述业务标识添加到所述第一白名单中，将所述目标保护信息添加到所述目标保护信息集合中，以及关联所述目标保护信息与所述业务标识。

17.一种服务器，其特征在于，所述服务器包括：处理器和存储器，所述存储器中存储有至少一条指令，所述至少一条指令由所述处理器加载并执行，以实现权利要求1至8任一项所述的多媒体信息处理方法。

18.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有至少一条指令，所述至少一条指令由处理器加载并执行，以实现如权利要求1至8任一项所述的多媒体信息处理方法。

说明书

多媒体信息处理方法、装置及服务器

技术领域

[0001] 本公开涉及信息技术领域，特别涉及一种多媒体信息处理方法、装置及服务器。

背景技术

[0002] 在短视频应用中，用户可以上传个人信息、短视频等，为了维护网络环境的秩序，我们需要对用户的个人信息、短视频等多媒体信息进行检查，对不合法的多媒体信息进行
过滤处理，例如，对不合法的头像进行清除；对包含敏感信息的短视频进行删除等，但是，在
过滤处理的过程中可能会造成误伤。

[0003] 相关技术中，为减少误伤，会设置白名单对一些特定的多媒体信息进行保护，即不进行过滤处理。例如，如果需要对某个用户的头像进行保护，白名单中会包括该用户的用户
标识和该用户的头像的标识，该用户的用户标识和该用户的头像的标识存在固定的关联关
系。在对不合法的多媒体信息进行过滤处理之前，需要基于白名单对该多媒体信息进行识
别；如果确定发布该多媒体信息的用户标识对应的多媒体信息的标识在白名单中，则对该
多媒体信息进行保护；如果确定发布该多媒体信息的用户标识对应的多媒体信息的标识不
在白名单中，则对该多媒体信息进行过滤处理。

[0004] 上述过程中，针对不同用户以及不同用户需要被保护的多媒体信息，白名单中会存储多个数据，每个数据包括用户标识和与该用户标识关联的多媒体信息的标识。如果调
整需要被保护的多媒体信息，只能根据需要被保护的多媒体信息一个一个的调整白名单中
的数据，效率较低。

发明内容

[0005] 本公开实施例提供了一种多媒体信息处理方法、装置及服务器，能够解决调整需要被保护的多媒体信息效率低的问题。所述技术方案如下：

[0006] 根据本公开实施例的一方面，提供了一种多媒体信息处理方法，所述方法包括：

[0007] 获取待处理的多媒体信息；

[0008] 若确定所述多媒体信息需要被过滤处理、且所述多媒体信息的业务标识在第一白名单中，则根据所述业务标识，从目标保护信息集合中确定所述业务标识对应的目标保护
信息，所述第一白名单中的业务标识和所述目标保护信息集合中的目标保护信息关联；

[0009] 若所述多媒体信息属于所述目标保护信息，则基于所述目标保护信息对应的保护策略，对所述多媒体信息进行保护。

[0010] 在本公开实施例中，若确定多媒体信息需要被过滤处理、且多媒体信息的业务标识在第一白名单中，则根据该业务标识，从目标保护信息集合中确定该业务标识对应的目
标保护信息，若多媒体信息属于目标保护信息，则基于目标保护信息对应的保护策略，对多
媒体信息进行保护。由于增加了目标保护信息集合，且目标保护信息集合中存储业务标识
对应的目标保护信息，如果调整需要被保护的多媒体信息，直接修改第一白名单中的业务
标识和目标保护信息集合中的目标保护信息的关联关系即可，提高了调整需要被保护的多
媒体信息的效率。

[0011] 在一种可能的实现方式中，所述基于所述目标保护信息对应的保护策略，对所述多媒体信息进行保护，包括：

[0012] 若所述保护策略为用于指示对所述多媒体信息进行立即保护的第一保护策略，则对所述多媒体信息立即保护；或者，

[0013] 若所述保护策略为用于指示对所述多媒体信息进行先过滤后验证的第二保护策略，则对所述多媒体信息进行过滤处理，以及对所述多媒体信息进行验证，得到验证结果；
根据所述验证结果，对所述多媒体信息进行保护；或者，

[0014] 若所述保护策略为用于指示对所述多媒体信息进行先验证后保护的第三保护策略，则对所述多媒体信息进行验证，得到验证结果；根据所述验证结果，对所述多媒体信息
进行保护。

[0015] 在本公开实施例中，提供了三种不同的保护策略，将确定多媒体信息为目标保护信息后的处理流程变得更加完整。可以根据不同的多媒体信息配置相应的保护策略，业务
接入零成本，无需额外的工程开发，并且可以随时切换保护策略。

[0016] 在另一种可能的实现方式中，若所述保护策略为所述第二保护策略，所述根据所述验证结果，对所述多媒体信息进行保护，包括：

[0017] 若所述验证结果用于指示所述多媒体信息不需要被过滤处理，则撤回对所述多媒体信息的过滤处理；

[0018] 若所述验证结果用于指示所述多媒体信息需要被过滤处理，则保持对所述多媒体信息的过滤处理。

[0019] 在另一种可能的实现方式中，若所述保护策略为所述第三保护策略，则所述根据所述验证结果，对所述多媒体信息进行保护，包括：

[0020] 若所述验证结果用于指示所述多媒体信息不需要被过滤处理，对所述多媒体信息进行保护；

[0021] 若所述验证结果用于指示所述多媒体信息需要被过滤处理，对所述多媒体信息进行过滤处理。

[0022] 在另一种可能的实现方式中，所述对所述多媒体信息进行验证，得到验证结果，包括：

[0023] 向指定终端发送所述多媒体信息；当接收到所述指定终端返回的对所述多媒体信息的第一操作时，确定所述验证结果为所述多媒体信息不需要被过滤处理；当接收到所述
指定终端返回的对所述多媒体信息的第二操作时，确定所述验证结果为所述多媒体信息需
要被过滤处理；或者，

[0024] 提取所述多媒体信息的特征信息，若所述特征信息与第一基准特征信息匹配，确定所述验证结果为所述多媒体信息不需要被过滤处理；若所述特征信息与第二基准特征信
息匹配，确定所述验证结果为所述多媒体信息需要被过滤处理；

[0025] 其中，所述第一基准特征信息为不需要被过滤处理的多媒体信息对应的特征信息，所述第二基准特征信息为需要被过滤处理的多媒体信息对应的特征信息。

[0026] 在本公开实施例中，可以由工作人员对多媒体信息进行验证，操作灵活，并且准确率较高，不容易判断失误造成误伤，从而可以提高用户黏度。服务器也可以自动对多媒体信
息进行验证，减少人工的投入，能够实现整个流程的自动化，从而使保护的过程更加高效。

[0027] 在另一种可能的实现方式中，所述基于所述目标保护信息对应的保护策略，对所述多媒体信息进行保护之前，所述方法还包括：

[0028] 若所述业务标识在第二白名单中，确定所述保护策略为所述第一保护策略；

[0029] 若所述业务标识不在所述第二白名单中，根据所述多媒体信息，确定所述多媒体信息的业务类型；若所述业务类型为即时性业务类型，确定所述保护策略为所述第二保护
策略；若所述业务类型为非即时性业务类型，确定所述保护策略为所述第三保护策略。

[0030] 在本公开实施例中，服务器根据多媒体信息的特点确定相应的保护策略，既能够通过保护减少误伤，也能够减少由于保护失误造成的损失。

[0031] 在另一种可能的实现方式中，所述对所述多媒体信息进行验证，得到验证结果之前，所述方法还包括：

[0032] 根据所述业务标识，确定所述业务标识对应的多个历史多媒体信息；

[0033] 根据所述多个历史多媒体信息，确定所述多个历史多媒体信息的历史验证记录；

[0034] 根据所述历史验证记录，确定所述多个历史多媒体信息中验证结果为需要被过滤处理的历史多媒体信息的数量；

[0035] 若所述数量没有达到指定数量，则执行所述对所述多媒体信息进行验证，得到验证结果的步骤。

[0036] 在本公开实施例中，服务器根据多媒体信息的业务标识对应的历史验证记录，确定该多媒体信息是否确实需要保护，能够减少由于盲目保护造成的损失。

[0037] 在另一种可能的实现方式中，所述根据所述业务标识，从目标保护信息集合中确定所述业务标识对应的目标保护信息之前，所述方法还包括：

[0038] 接收被配置的所述业务标识和所述目标保护信息；

[0039] 将所述业务标识添加到所述第一白名单中，将所述目标保护信息添加到所述目标保护信息集合中，以及关联所述目标保护信息与所述业务标识。

[0040] 根据本公开实施例的另一方面，提供了一种多媒体信息处理装置，所述装置包括：

[0041] 获取模块，被配置为执行获取待处理的多媒体信息；

[0042] 确定模块，被配置为执行若确定所述多媒体信息需要被过滤处理、且所述多媒体信息的业务标识在第一白名单中，则根据所述业务标识，从目标保护信息集合中确定所述
业务标识对应的目标保护信息，所述第一白名单中的业务标识和所述目标保护信息集合中
的目标保护信息关联；

[0043] 保护模块，被配置为执行若所述多媒体信息属于所述目标保护信息，则基于所述目标保护信息对应的保护策略，对所述多媒体信息进行保护。

[0044] 在一种可能的实现方式中，所述保护模块，还被配置为执行若所述保护策略为用于指示对所述多媒体信息进行立即保护的第一保护策略，则对所述多媒体信息立即保护；

[0045] 或者，所述保护模块，还被配置为执行若所述保护策略为用于指示对所述多媒体信息进行先过滤后验证的第二保护策略，则对所述多媒体信息进行过滤处理，以及对所述
多媒体信息进行验证，得到验证结果；根据所述验证结果，对所述多媒体信息进行保护；

[0046] 或者，所述保护模块，还被配置为执行若所述保护策略为用于指示对所述多媒体信息进行先验证后保护的第三保护策略，则对所述多媒体信息进行验证，得到验证结果；根
据所述验证结果，对所述多媒体信息进行保护。

[0047] 在另一种可能的实现方式中，所述保护模块，还被配置为执行若所述保护策略为所述第二保护策略，且所述验证结果用于指示所述多媒体信息不需要被过滤处理，则撤回
对所述多媒体信息的过滤处理；

[0048] 若所述保护策略为所述第二保护策略，且所述验证结果用于指示所述多媒体信息需要被过滤处理，则保持对所述多媒体信息的过滤处理。

[0049] 在另一种可能的实现方式中，所述保护模块，还被配置为执行若所述保护策略为所述第三保护策略，且所述验证结果用于指示所述多媒体信息不需要被过滤处理，则对所
述多媒体信息进行保护；

[0050] 若所述保护策略为所述第三保护策略，且所述验证结果用于指示所述多媒体信息需要被过滤处理，则对所述多媒体信息进行过滤处理。

[0051] 在另一种可能的实现方式中，所述保护模块，还被配置为执行向指定终端发送所述多媒体信息；当接收到所述指定终端返回的对所述多媒体信息的第一操作时，确定所述
验证结果为所述多媒体信息不需要被过滤处理；当接收到所述指定终端返回的对所述多媒
体信息的第二操作时，确定所述验证结果为所述多媒体信息需要被过滤处理；

[0052] 或者，所述保护模块还被配置为执行提取所述多媒体信息的特征信息，若所述特征信息与第一基准特征信息匹配，确定所述验证结果为所述多媒体信息不需要被过滤处
理；若所述特征信息与第二基准特征信息匹配，确定所述验证结果为所述多媒体信息需要
被过滤处理；

[0053] 其中，所述第一基准特征信息为不需要被过滤处理的多媒体信息对应的特征信息，所述第二基准特征信息为需要被过滤处理的多媒体信息对应的特征信息。

[0054] 在另一种可能的实现方式中，所述保护模块，还被配置为执行若所述业务标识在第二白名单中，确定所述保护策略为所述第一保护策略；若所述业务标识不在所述第二白
名单中，根据所述多媒体信息，确定所述多媒体信息的业务类型；若所述业务类型为即时性
业务类型，确定所述保护策略为所述第二保护策略；若所述业务类型为非即时性业务类型，
确定所述保护策略为所述第三保护策略。

[0055] 在另一种可能的实现方式中，所述保护模块，还被配置为执行根据所述业务标识，确定所述业务标识对应的多个历史多媒体信息；根据所述多个历史多媒体信息，确定所述
多个历史多媒体信息的历史验证记录；根据所述历史验证记录，确定所述多个历史多媒体
信息中验证结果为需要被过滤处理的历史多媒体信息的数量；若所述数量没有达到指定数
量，则对所述多媒体信息进行验证，得到验证结果。

[0056] 在另一种可能的实现方式中，所述确定模块，还被配置为执行接收被配置的所述业务标识和所述目标保护信息；将所述业务标识添加到所述第一白名单中，将所述目标保
护信息添加到所述目标保护信息集合中，以及关联所述目标保护信息与所述业务标识。

[0057] 根据本公开实施例的另一方面，提供了一种服务器，所述服务器包括：处理器和存储器，所述存储器中存储有至少一条指令，所述至少一条指令由所述处理器加载并执行，以
实现上述任一可能实现方式所述的多媒体信息处理方法。

[0058] 根据本公开实施例的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一条指令，所述至少一条指令由处理器加载并执行，以实现上述
任一可能实现方式中所述的多媒体信息处理方法。

[0059] 根据本公开实施例的另一方面，提供了一种计算机程序产品，当所述计算机程序产品中的指令由计算机设备的处理器执行时，使得计算机设备能够执行上述任一可能实现
方式中所述的多媒体信息处理方法。

[0060] 在本公开实施例中，若确定多媒体信息需要被过滤处理、且多媒体信息的业务标识在第一白名单中，则根据该业务标识，从目标保护信息集合中确定该业务标识对应的目
标保护信息，若多媒体信息属于目标保护信息，则基于目标保护信息对应的保护策略，对多
媒体信息进行保护。由于增加了目标保护信息集合，且目标保护信息集合中存储业务标识
对应的目标保护信息，如果调整需要被保护的多媒体信息，直接修改第一白名单中的业务
标识和目标保护信息集合中的目标保护信息的关联关系即可，提高了调整需要被保护的多
媒体信息的效率。

附图说明

[0061] 为了更清楚地说明本公开实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于
本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他
的附图。

[0062] 图1是根据一示例性实施例示出的一种实施环境的示意图；

[0063] 图2是根据一示例性实施例示出的一种多媒体信息处理方法的示意图；

[0064] 图3是根据一示例性实施例示出的一种多媒体信息处理方法的流程图；

[0065] 图4是根据一示例性实施例示出的一种多媒体信息处理方法的流程图；

[0066] 图5是根据一示例性实施例示出的一种多媒体信息处理装置的框图；

[0067] 图6是根据一示例性实施例示出的一种服务器的框图。

具体实施方式

[0068] 为使本公开的目的、技术方案和优点更加清楚，下面将结合附图对本公开实施方式作进一步地详细描述。

[0069] 图1是根据一示例性实施例示出的一种实施环境的示意图。参见图1，该实施环境中包括终端101和服务器102；终端101和服务器102之间通过无线或者有线网络连接。并且，
终端101上可以安装有服务器102提供服务的客户端，终端101对应的用户可以通过该客户
端实现例如数据传输、消息交互等功能。

[0070] 终端101可以为电脑、手机、平板电脑或者其他电子设备。客户端可以为终端101上安装的任一客户端；并且，客户端可以为终端101操作系统中的客户端，还可以为第三方提
供的客户端。例如，客户端可以为社交应用、浏览器、信息浏览应用或者短视频应用等。信息
浏览应用可以为新闻应用或者阅读应用等。服务器102可以为该客户端对应的后台服务器
102。相应的，服务器102可以为社交应用服务器、浏览器服务器、信息浏览应用服务器或者
短视频应用服务器。

[0071] 当终端101在获取服务器102提供的服务时，服务器102获取终端101对应的多媒体信息，当确定多媒体信息需要被过滤处理时，可以按照本公开实施例提供的多媒体信息处
理方法，对多媒体信息进行保护。

[0072] 相应的，参见图2，服务器102包括信息过滤模块、配置模块、判定逻辑模块和保护模块；其中，信息过滤模块和配置模块分别与判定逻辑模块连接；判定逻辑模块与保护模块
连接。其中，配置模块用于配置第一白名单和目标保护信息集合；第一白名单中用于存储需
要被保护的多媒体信息的业务标识，目标保护信息集合中用于存储目标保护信息；当需要
对多媒体信息进行保护时，将该多媒体信息的业务标识和该多媒体信息对应的目标保护信
息相关联。保护模块包括三个保护策略，分别为第一保护策略、第二保护策略和第三保护策
略；第一保护策略为对多媒体信息进行立即保护的保护策略。第二保护策略为对多媒体信
息进行先过滤后验证，也即先过滤，然后二次验证，然后取消过滤或者不处理的保护策略。
第三保护策略为对多媒体信息进行先验证后保护，也即先保护，然后二次验证，然后过滤或
者不处理的保护策略。

[0073] 信息过滤模块，用于获取待处理的多媒体信息，当多媒体信息需要被过滤处理时，将多媒体信息发送给判定逻辑模块。

[0074] 判定逻辑模块，用于根据多媒体信息，确定多媒体信息的业务标识是否在第一白名单中；若该业务标识在第一白名单中，根据该业务标识，从目标保护信息集合中确定该业
务标识对应的目标保护信息；若多媒体信息属于目标保护信息，则将多媒体信息发送给保
护模块。

[0075] 保护模块，用于根据目标保护信息对应的保护策略，对多媒体信息进行保护。

[0076] 多媒体信息可以为终端101中的任一多媒体信息；例如，当客户端为短视频应用时，多媒体信息可以为用户信息或者短视频，用户信息可以为用户名、用户头像和用户签名
等。当客户端为浏览器时，多媒体信息可以为终端101请求浏览的网页内容。当客户端为信
息浏览应用时，多媒体信息可以为终端101请求浏览的信息内容。在本公开实施例中，以客
户端为短视频客户端，多媒体信息为短视频或者用户信息为例进行说明。

[0077] 需要说明的是，本公开各实施例涉及的用户信息等均是经用户授权而采集，并进行后续处理的。

[0078] 图3是根据一示例性实施例示出的一种多媒体信息处理方法的流程图。如图3所示，该多媒体信息处理方法包括以下步骤：

[0079] 在步骤S301中，获取待处理的多媒体信息。

[0080] 在步骤S302中，若确定多媒体信息需要被过滤处理、且多媒体信息的业务标识在第一白名单中，则根据业务标识，从目标保护信息集合中确定业务标识对应的目标保护信
息，第一白名单中的业务标识和目标保护信息集合中的目标保护信息关联。

[0081] 在步骤S303中，若多媒体信息属于目标保护信息，则基于目标保护信息对应的保护策略，对多媒体信息进行保护。

[0082] 在一种可能的实现方式中，基于目标保护信息对应的保护策略，对多媒体信息进行保护，包括：

[0083] 若保护策略为用于指示对多媒体信息进行立即保护的第一保护策略，则对多媒体信息立即保护；或者，

[0084] 若保护策略为用于指示对多媒体信息进行先过滤后验证的第二保护策略，则对多媒体信息进行过滤处理，以及对多媒体信息进行验证，得到验证结果；根据验证结果，对多
媒体信息进行保护；或者，

[0085] 若保护策略为用于指示对多媒体信息进行先验证后保护处理的第三保护策略，则对多媒体信息进行验证，得到验证结果；根据验证结果，对多媒体信息进行保护。

[0086] 在本公开实施例中，提供了三种不同的保护策略，将确定多媒体信息为目标保护信息后的处理流程变得更加完整。可以根据目标保护信息配置相应的保护策略，业务接入
零成本，无需额外的工程开发，并且可以随时切换保护策略。

[0087] 在另一种可能的实现方式中，若保护策略为第二保护策略，根据验证结果，对多媒体信息进行保护，包括：

[0088] 若验证结果用于指示多媒体信息不需要被过滤处理，则撤回对多媒体信息的过滤处理；

[0089] 若验证结果用于指示多媒体信息需要被过滤处理时，则保持对多媒体信息的过滤处理。

[0090] 在另一种可能的实现方式中，若保护策略为第三保护策略，根据验证结果，对多媒体信息进行保护，包括：

[0091] 若验证结果用于指示多媒体信息不需要被过滤处理，则对多媒体信息进行保护；

[0092] 若验证结果用于指示多媒体信息需要被过滤处理时，则多媒体信息进行过滤处理。

[0093] 在另一种可能的实现方式中，对多媒体信息进行验证，得到验证结果，包括：

[0094] 向指定终端发送多媒体信息；当接收到指定终端返回的对多媒体信息的第一操作时，确定验证结果为多媒体信息不需要被过滤处理；当接收到指定终端返回的对多媒体信
息的第二操作时，确定验证结果为多媒体信息需要被过滤处理；或者，

[0095] 提取多媒体信息的特征信息，若该特征信息与第一基准特征信息匹配，确定验证结果为多媒体信息不需要被过滤处理；若该特征信息与第二基准特征信息匹配，确定验证
结果为多媒体信息需要被过滤处理；

[0096] 其中，第一基准特征信息为不需要被过滤处理的多媒体信息对应的特征信息，第二基准特征信息为需要被过滤处理的多媒体信息对应的特征信息。

[0097] 在本公开实施例中，可以由工作人员对多媒体信息进行验证，操作灵活，并且准确率较高，不容易判断失误造成误伤，从而可以提高用户黏度。服务器也可以自动对多媒体信
息进行验证，减少人工的投入，能够实现整个流程的自动化，从而使保护的过程更加高效。

[0098] 在另一种可能的实现方式中，基于目标保护信息对应的保护策略，对多媒体信息进行保护之前，方法还包括：

[0099] 若业务标识在第二白名单中，确定保护策略为第一保护策略；

[0100] 若业务标识不在第二白名单中，根据多媒体信息，确定多媒体信息的业务类型；若业务类型为即时性业务类型，确定保护策略为第二保护策略；若业务类型为非即时性业务
类型，确定保护策略为第三保护策略。

[0101] 在本公开实施例中，服务器根据多媒体信息的特点确定相应的保护策略，既能够通过保护减少误伤，也能够减少由于保护失误造成的损失。

[0102] 在另一种可能的实现方式中，对多媒体信息进行验证，得到验证结果之前，方法还包括：

[0103] 根据业务标识，确定业务标识对应的多个历史多媒体信息；

[0104] 根据多个历史多媒体信息，确定多个历史多媒体信息的历史验证记录；

[0105] 根据历史验证记录，确定多个历史多媒体信息中验证结果为需要被过滤处理的历史多媒体信息的数量；

[0106] 若数量没有达到指定数量，则执行根据验证结果，对多媒体信息进行处理的步骤。

[0107] 在本公开实施例中，服务器根据业务标识对应的历史验证记录，能够减少由于盲目保护造成的损失。

[0108] 在另一种可能的实现方式中，根据业务标识，从目标保护信息集合中确定业务标识对应的目标保护信息之前，方法还包括：

[0109] 接收被配置的业务标识和目标保护信息；

[0110] 将业务标识添加到第一白名单中，将目标保护信息添加到目标保护信息集合中，以及关联目标保护信息与业务标识。

[0111] 在本公开实施例中，若确定多媒体信息需要被过滤处理、且多媒体信息的业务标识在第一白名单中，则根据该业务标识，从目标保护信息集合中确定该业务标识对应的目
标保护信息，若多媒体信息属于目标保护信息，则基于目标保护信息对应的保护策略，对多
媒体信息进行保护。由于增加了目标保护信息集合，且目标保护信息集合中存储业务标识
对应的目标保护信息，如果调整需要被保护的多媒体信息，直接修改第一白名单中的业务
标识和目标保护信息集合中的目标保护信息的关联关系即可，提高了调整需要被保护的多
媒体信息的效率。

[0112] 图4是根据一示例性实施例示出的一种多媒体信息处理方法的流程图。如图4所示，该多媒体信息处理方法包括以下步骤：

[0113] 在步骤S401中，服务器获取待处理的多媒体信息。

[0114] 多媒体信息可以为在对多媒体信息的处理过程中，可能需要被过滤处理的多媒体信息。在一种可能的实现方式中，多媒体信息为用户分享或者修改的多媒体信息。例如，多
媒体信息可以为用户信息或者用户分享的短视频。多媒体信息还可以为被其他用户标记的
多媒体信息；例如，多媒体信息为被其他用户标记的短视频。

[0115] 服务器可以在接收到用户对多媒体信息的修改或更新操作时，获取待处理的多媒体信息，相应的，服务器获取待处理的多媒体信息的步骤可以为：终端向服务器发送业务请
求，该业务请求中携带该多媒体信息；服务器接收该业务请求，获取该业务请求中携带的多
媒体信息。

[0116] 例如，当多媒体信息为用户分享的短视频时，该业务请求可以为分享请求，该分享请求中携带用户分享的短视频，服务器接收该分享请求，获取该分享请求中携带的用户分
享的短视频。当多媒体信息为用户修改的用户信息时，该业务请求可以为修改请求，该修改
请求中携带用户修改的用户信息，服务器接收该修改请求，获取该修改请求中携带的用户
修改的用户信息，用户修改的用户信息可以为用户修改的用户头像、用户修改的用户名或
者用户修改的用户签名等。当多媒体信息为被其他用户标记的短视频时，该业务请求为标
记请求，该标记请求中携带被其他用户标记的短视频，服务器接收该标记请求，获取该标记
请求中携带的被其他用户标记的短视频。

[0117] 服务器也可以定期从后台数据中获取待处理的多媒体信息，例如，服务器定期从后台数据中获取用户头像、用户名、用户签名和短视频等。

[0118] 在步骤S402中，若服务器确定多媒体信息需要被过滤处理、且多媒体信息的业务标识在第一白名单中，则服务器根据业务标识，从目标保护信息集合中确定业务标识对应
的目标保护信息。

[0119] 第一白名单中用于存储需要被保护的业务标识；目标保护信息集合中存储目标保护信息；例如，目标保护信息可以为“用户头像”或者“短视频”。业务标识可以为用户账号或
者短视频标识等。

[0120] 本步骤可以通过以下步骤(1)至(3)实现，包括：

[0121] (1)服务器确定多媒体信息是否需要被过滤处理。

[0122] 服务器中存储信息过滤规则；若多媒体信息符合该信息过滤规则，则服务器确定多媒体信息需要被过滤处理；若多媒体信息不符合该过滤处理规则，则服务器确定多媒体
信息不需要被过滤处理。

[0123] 例如，信息过滤规则为包括敏感词；相应的，若多媒体信息中包括敏感词，确定多媒体信息需要被过滤处理；若多媒体信息中不包括敏感词，确定多媒体信息不需要被过滤
处理。其中，过滤处理可以为对包括敏感词的多媒体信息进行清除，过滤处理也可以为将包
括敏感词的多媒体信息还原为初始状态或用户上一次修改的状态，在此不对过滤处理的具
体方式做限定。例如，当多媒体信息为用户名或用户签名时，过滤处理可以为对包括敏感词
的用户名或用户签名进行清除，也可以为将包括敏感词的用户名或用户签名还原为初始状
态或用户上一次修改的状态。

[0124] 再如，信息过滤规则为包括敏感图像。相应的，多媒体信息可以为用户信息中的用户头像或者短视频，若多媒体信息中包括敏感图像，确定多媒体信息需要被过滤处理。如用
户头像包括敏感图像，确定该用户头像需要被过滤处理，该过滤处理可以为清除包括敏感
图像的用户头像，该过滤处理也可以为将用户头像还原为上一次用户修改的头像或初始状
态的用户头像。如短视频中包括敏感图像，确定该短视频需要被过滤处理，该过滤处理可以
为删除该短视频。若多媒体信息中不包括敏感图像，确定多媒体信息不需要被过滤处理。

[0125] 再如，信息过滤规则为短视频被多次标记；相应的，多媒体信息可以为短视频，若某个短视频被多次标记，确定该短视频需要被过滤处理，具体地，若某个短视频被标记的次
数超过一定数量，确定需要对该短视频进行删除处理；再如，信息过滤规则还可以为突然频
繁的进行大额交易；相应的，若某个用户突然频繁的进行大额交易，则确定该用户账户需要
被过滤处理，该过滤处理可以为对该用户账户进行冻结处理。

[0126] 需要说明的一点是，服务器中包括信息过滤模块；服务器通过该信息过滤模块确定多媒体信息是否需要被过滤处理。

[0127] 需要说明的另一点是，若多媒体信息为服务器从后台数据中获取的待处理的多媒体信息，若该多媒体信息需要被过滤处理，则执行步骤(2)，若该多媒体信息不需要被过滤
处理，则保持该多媒体信息的当前状态。若多媒体信息为用户分享或者修改的多媒体信息，
若该多媒体信息需要被过滤处理，则执行步骤(2)；若该多媒体信息不需要被过滤处理，则
执行多媒体信息对应的业务请求。

[0128] 例如，若业务请求为分享请求，服务器执行多媒体信息对应的业务请求的步骤可以为：服务器将多媒体信息分享到终端的信息展示平台。

[0129] 若业务请求为修改请求，服务器执行多媒体信息对应的业务请求的步骤可以为：服务器将已存储的另一多媒体信息修改为该多媒体信息；例如，若多媒体信息为用户头像，
服务器将用户现在的头像修改为另一多媒体信息中的头像。

[0130] 若业务请求为标记请求，服务器执行多媒体信息对应的业务请求的步骤可以为：服务器向终端发送通知信息，该通知信息用于通知终端多媒体信息不需要被标记。

[0131] (2)若多媒体信息需要被过滤处理，则服务器确定该多媒体信息的业务标识是否在第一白名单中。

[0132] 服务器比较多媒体信息的业务标识和第一白名单中存储的业务标识，若多媒体信息的业务标识和第一白名单中的业务标识匹配，则确定该多媒体信息的业务标识在第一白
名单中，执行步骤(3)，若多媒体信息的业务标识和第一白名单中的业务标识都不匹配，则
确定该多媒体信息的业务标识不在第一白名单中，即该多媒体信息不在保护范围内，执行
需要对该多媒体信息进行的过滤处理操作。

[0133] (3)若该业务标识在第一白名单中，则服务器根据该业务标识，从目标保护信息集合中确定该业务标识对应的目标保护信息。

[0134] 在本步骤中，服务器中关联存储的业务标识和目标保护信息。例如，服务器中存储关联关系表；关联关系表中存储业务标识和该业务标识对应的目标保护信息的信息标识。
相应的，服务器根据该业务标识，从目标保护信息集合中确定该业务标识对应的目标保护
信息的步骤可以为：服务器根据该业务标识，从关联关系表中获取该业务标识对应的目标
保护信息的信息标识；根据该信息标识，从目标保护信息集合中确定该信息标识对应的目
标保护信息。其中，目标保护信息的信息标识可以为目标保护信息在目标保护信息集合中
的序号。

[0135] 需要说明的一点是，在本步骤之前，服务器需要配置业务标识和目标保护信息。该配置过程可以为：服务器还可以接收被配置的业务标识和目标保护信息；将业务标识添加
到第一白名单中，将目标保护信息添加到目标保护信息集合中，以及关联目标保护信息与
业务标识。其中，第一白名单中的业务标识可以与目标保护信息集合中的一项或者多项目
标保护信息关联。

[0136] 例如，业务标识为用户账号，目标保护信息为用户头像、短视频等。若需要被保护的信息为：张三的头像，李四的头像和短视频，以及，王五的短视频，则服务器在第一白名单
中存储张三的用户账号“1”、李四的用户账号“2”和王五的用户账号“3”，在目标保护信息集
合中存储目标保护信息，用户头像的信息标识“01”，以及短视频的信息标识“02”。建立张三
和用户头像的关联关系，即建立张三的用户账号“1”和用户头像的信息标识“01”的关联关
系；建立李四和用户头像以及短视频的关联关系，即建立李四的用户账号“2”和用户头像的
信息标识“01”，以及短视频的信息标识“02”的关联关系；建立王五和短视频的关联关系，即
建立王五的用户账号“3”和短视频的信息标识“02”的关联关系。

[0137] 在本公开实施例中，将第一白名单中的业务标识与目标保护信息集合中的目标保护信息关联起来，使第一白名单中的业务标识与目标保护信息形成一个完整的动态可配置
化的原始数据群。当需要对多项内容进行保护时，只需要将第一白名单中的业务标识与需
要目标保护信息关联起来即可，不需要针对不同的用户以及不同用户需要保护的信息维护
较多的白名单列表，便于业务扩展。当需要增加或移除对多媒体信息的保护时，只需增加或
解除该多媒体信息的业务标识与目标保护信息的关联，从而能够根据业务情况进行动态的
调整。

[0138] 需要说明的一点是，在本步骤中，服务器先确定多媒体信息的业务标识是否在第一白名单中，然后才从目标保护信息集合中确定目标保护信息。在本步骤中，服务器还可以
先从目标保护信息集合中确定目标保护信息，然后再确定多媒体信息的业务标识是否在第
一白名单中；若多媒体信息的业务标识在该白名单中，执行步骤S403。

[0139] 在步骤S403中，若多媒体信息属于目标保护信息，则服务器确定目标保护信息对应的保护策略。

[0140] 保护策略包括第一保护策略、第二保护策略或者第三保护策略；第一保护策略为对多媒体信息进行立即保护的保护策略。第二保护策略为对多媒体信息进行先过滤后验
证，也即先过滤，然后二次验证，然后取消过滤或者不处理的策略。第三保护策略为对多媒
体信息进行先验证后保护，也即先保护，然后二次验证，然后过滤或者不处理的策略。

[0141] 在一种可能的实现方式中，服务器中存储为目标保护信息配置的保护策略，目标保护信息和保护策略的配置关系可以由业务方根据具体需求配置，例如，若目标保护信息
为用户头像，业务方考虑到用户体验可以为用户头像配置先验证后保护的第三保护策略；
若目标保护信息为用户金融账户，业务方可以为用户金融账户配置先过滤后验证的第二保
护策略。其中，业务方可以通过终端中配置目标保护信息和保护策略的网页或者应用程序
对目标保护信息和保护策略进行配置，服务器接收业务方配置的目标保护信息和保护策
略，将目标保护信息的信息标识和保护策略的策略标识关联，存储在对应关系表中。相应
的，服务器确定目标保护信息对应的保护策略步骤可以为：服务器直接根据目标保护信息
的信息标识，确定与该信息标识关联的策略标识，根据该策略标识，确定目标保护信息对应
的保护策略。

[0142] 在本公开实施例中，业务方可以根据目标保护信息的具体情况配置相应的保护策略，配置灵活并且简单，无需额外的工程开发。

[0143] 在另一种可能的实现方式中，不同业务类型的目标保护信息对应不同的保护策略；相应的，服务器确定目标保护信息对应的保护策略的步骤可以为：服务器根据目标保护
信息的业务类型，确定与目标保护信息的业务类型对应的保护策略。

[0144] 其中，服务器中存储业务类型和保护策略的对应关系。相应的，服务器根据目标保护信息的业务类型，确定与目标保护信息的业务类型对应的保护策略的步骤可以为：服务
器根据目标保护信息，确定目标保护信息的业务类型；根据业务类型，从业务类型和保护策
略的对应关系中确定多媒体信息对应的保护策略。

[0145] 在本步骤中，服务器还可以设置一个第二白名单，第二白名单中的业务标识可以为具有更高保护权限的多媒体信息的业务标识。对第二白名单中的业务标识对应的多媒体
信息均使用第一保护策略。对于不在第二白名单中的业务标识对应的多媒体信息根据场景
选择保护策略；例如，对于即时性要求不高的多媒体信息，可以先保护，然后二次验证，然后
过滤或者不处理，也即第三保护策略；对于即时性要求比较高的多媒体信息，可以先过滤，
然后二次验证，然后取消过滤或者不处理，也即第二保护策略。

[0146] 相应的，服务器确定目标保护信息对应的保护策略的步骤可以为：若业务标识在第二白名单中，确定保护策略为第一保护策略；其中，第二白名单中包括第一白名单中的部
分业务标识。若业务标识不在第二白名单中，根据多媒体信息，确定多媒体信息的业务类
型；若业务类型为即时性业务类型，确定保护策略为第二保护策略，若业务类型为非即时性
业务类型，确定保护策略为第三保护策略。

[0147] 例如，需要给官方用户或者正能量短视频更高的保护权限，则第二白名单中的业务标识可以为官方用户的用户账号或者正能量短视频的短视频标识，对第二白名单中的业
务标识对应的多媒体信息采用立即保护的第一保护策略；再如，涉及到金钱交易的业务需
要尽快处理，为即时性业务类型，为减少不必要的损失，可以确定即时性业务类型的保护策
略为先过滤后验证的第二保护策略；再如，用户头像、用户名和用户签名等多媒体信息可以
先验证再根据验证结果进行处理，为非即时性业务类型，可以确定非即时性业务类型的保
护策略为先验证后保护的第三保护策略。

[0148] 在本公开实施例中，服务器根据多媒体信息的特点确定相应的保护策略，既能够通过保护减少误伤，也能够减少由于保护失误造成的损失。

[0149] 在步骤S404中，服务器基于保护策略，对多媒体信息进行保护。

[0150] 在一种可能的实现方式中，若保护策略为用于指示对多媒体信息进行立即保护的第一保护策略，服务器基于该保护策略，对多媒体信息进行保护的步骤可以为：服务器对多
媒体信息立即保护。

[0151] 若多媒体信息属于目标保护信息，且对应的保护策略为第一保护策略，可以对该多媒体信息进行立即保护，即不对该多媒体信息进行过滤处理，执行多媒体信息对应的业
务请求或保持多媒体信息的状态。例如，用户分享短视频时，用户对应的终端向服务器发送
分享请求，服务器接收该分享请求，获取该分享请求携带的短视频，若确定该短视频属于目
标保护信息，且对应的保护策略为第一保护策略，则执行该分享请求，将该短视频分享到终
端的信息展示平台。再如，若服务器从后台数据中获取多媒体信息，且确定该多媒体属于目
标保护信息，且对应的保护策略为第一保护策略，则保持多媒体信息的当前状态，即不对该
多媒体信息进行任何处理。

[0152] 在本公开实施例中，服务器可以对需要被保护的多媒体信息进行立即保护，减少对需要被保护的多媒体信息的误伤。

[0153] 在另一种可能的实现方式中，若保护策略为用于指示对多媒体信息进行先过滤后验证的第二保护策略，则服务器基于该保护策略，对多媒体信息进行处理的步骤可以为：服
务器对多媒体信息进行过滤处理，以及对多媒体信息进行验证，得到验证结果；根据验证结
果，对多媒体信息进行处理。

[0154] 其中，服务器根据验证结果，对多媒体信息进行处理的步骤可以为：若验证结果用于指示多媒体信息不需要被过滤处理，则服务器撤回对多媒体信息的过滤处理；若验证结
果用于指示多媒体信息需要被过滤处理，则服务器保持对多媒体信息的过滤处理。

[0155] 若多媒体信息属于目标保护信息，且对应的保护策略第二保护策略，可以对该多媒体信息进行先过滤后验证的操作。即先对该多媒体信息进行相应的过滤处理，例如，服务
器确定某一用户账户近期突然进行频繁的大额交易，需要被过滤处理；服务器确定该用户
账户在第一白名单中，该用户账户与保护账户不被冻结的目标保护信息相关联，即确定该
用户账户属于目标保护信息；可以先过滤，即对该用户账户进行冻结；再验证，即对该用户
账户进行验证，若验证结果用于指示该用户账户不需要被过滤处理，即验证结果证明该用
户的异常操作是有正当原因的，则撤回对该用户账户的过滤处理，即解除对该用户账户的
冻结；若验证结果用于指示该用户账户需要被过滤处理，即验证结果无法证明该用户的异
常操作有正当原因，则保持对该用户账户的过滤处理，即保持对该用户的账户的冻结。

[0156] 在本公开实施例中，服务器先对需要保护的多媒体信息进行过滤处理，再对该多媒体信息进行验证，若验证结果证明该多媒体信息确实需要进行保护，撤回对该多媒体信
息的过滤处理操作；若验证结果证明该多媒体信息确实需要进行过滤处理时，保留对该多
媒体信息的过滤处理操作，先对多媒体信息进行过滤处理，能够减少盲目保护造成的损失。

[0157] 在另一种可能的实现方式中，若保护策略为用于指示对多媒体信息进行先验证后保护的第三保护策略，则服务器基于该保护策略，对多媒体信息进行处理的步骤可以为：服
务器对多媒体信息进行验证，得到验证结果；根据验证结果，对多媒体信息进行处理。

[0158] 服务器根据验证结果，对多媒体信息进行处理的步骤可以为：若验证结果用于指示多媒体信息不需要被过滤处理，服务器对多媒体信息进行保护；若验证结果用于指示多
媒体信息需要被过滤处理，服务器对多媒体信息进行过滤处理。

[0159] 若多媒体信息属于目标保护信息，则可以对该多媒体信息进行先验证后保护的操作。即不直接对该多媒体信息进行过滤处理，先对该多媒体信息进行验证，再根据验证结果
对该多媒体信息进行相应的处理。例如，服务器确定用户头像包括敏感图像，若服务器确定
该用户账号在第一白名单中，且该用户账号与用户头像相关联，即服务器确定该用户头像
属于目标保护信息；可以先验证，即对该用户头像进行验证，若验证结果用于指示该用户头
像不需要被过滤处理，即验证结果证明该用户头像不包括敏感图像，则对该多媒体信息进
行保护，也即不对该多媒体信息进行处理，即不对该用户头像进行清除；若验证结果用于指
示该用户头像需要被过滤处理，即验证结果证明该用户头像确实包括敏感图像，则对该多
媒体信息进行过滤处理，即对该用户头像执行清除操作。

[0160] 在本公开实施例中，服务器对需要保护的多媒体信息先进行保护，然后对该多媒体信息进行验证，若验证结果证明该多媒体信息确实需要进行保护，才对该多媒体信息进
行保护；若验证结果证明该多媒体信息确实需要进行过滤处理，则对该多媒体信息进行过
滤处理。先对多媒体信息进行保护，可以防止因判断失误造成的误伤，提高用户黏度。

[0161] 在本公开实施例中，提供了三种不同的保护策略，将确定多媒体信息为目标保护信息后的处理流程变得更加完整。可以根据不同的多媒体信息配置相应的保护策略，业务
接入零成本，无需额外的工程开发，并且可以随时切换保护策略。

[0162] 其中，服务器可以由工作人员对多媒体信息进行验证；相应的，服务器对多媒体信息进行验证，得到验证结果的步骤可以为：服务器向指定终端发送多媒体信息；当服务器接
收到指定终端返回的对多媒体信息的第一操作时，确定验证结果为多媒体信息不需要被过
滤处理；当服务器接收到对多媒体信息的第二操作时，确定验证结果为多媒体信息需要被
过滤处理。

[0163] 服务器将需要进行过滤处理的多媒体信息发送给指定终端，指定终端显示多媒体信息，指定终端可以为进行验证的工作人员使用的终端，该指定终端显示多媒体信息，由工
作人员验证确定是否需要对该多媒体信息进行过滤处理，若工作人员确定不需要对该多媒
体信息进行过滤处理，则触发第一操作，指定终端将触发第一操作的信息发送给服务器，服
务器接收到触发第一操作的信息，确定该验证结果为多媒体信息不需要被过滤处理；若工
作人员确定需要对该多媒体信息进行过滤处理，则触发第二操作，指定终端将触发第二操
作的信息发送给服务器，服务器接收到触发第二操作的信息，确定该验证结果为需要对该
多媒体信息进行过滤处理。

[0164] 例如，服务器将包括敏感图像的短视频发送给工作人员使用的指定终端，该指定终端显示包括敏感图像的短视频，工作人员验证该短视频是否确实包括敏感图像。若工作
人员确定该短视频不包括敏感图像，则触发第一操作；指定终端将触发第一操作的信息发
送给服务器；服务器接收到触发第一操作的信息，确定该验证结果为该短视频不需要被过
滤处理，即该短视频不需要被删除。若工作人员确定该短视频包括敏感图像，则触发第二操
作；指定终端将触发第二操作的信息发送给服务器；服务器接收到触发第二操作的信息，确
定该验证结果为该短视频需要被过滤处理，即该短视频需要被删除。

[0165] 在本公开实施例中，由工作人员对多媒体信息进行验证，操作灵活，并且准确率较高，不容易判断失误造成误伤，从而可以提高用户黏度。

[0166] 其中，服务器还可以自动对需要被过滤处理的多媒体信息进行验证；相应的，服务器对多媒体信息进行验证，得到验证结果的步骤还可以为：服务器提取多媒体信息的特征
信息，若特征信息与第一基准特征信息匹配，确定验证结果为多媒体信息不需要被过滤处
理；若特征信息与第二基准特征信息匹配，确定验证结果为多媒体信息需要被过滤处理；其
中，第一基准特征信息为不需要被过滤处理的多媒体信息对应的特征信息，第二基准特征
信息为需要被过滤处理的多媒体信息对应的特征信息。

[0167] 例如，服务器确定需要被过滤处理的多媒体信息为用户头像，服务器可以提取该用户头像的特征信息，该特征信息可以为服务器经过图像处理得到的用户头像的特征信
息，第一基准特征信息可以为不包括敏感内容的图像的特征信息，第二特征信息可以为包
括敏感内容的图像的特征信息；若该用户头像的特征信息与第一基准特征信息匹配，即服
务器确定验证结果为该用户头像不需要被过滤处理；若该用户头像的特征信息与第二基准
特征信息匹配，则服务器确定验证结果为该用户头像需要被过滤处理。

[0168] 在本公开实施例中，服务器自动对多媒体信息进行验证，减少人工的投入，能够实现整个流程的自动化，从而使保护的过程更加高效。

[0169] 需要说明的一点是，若保护策略为第二保护策略或第三保护策略，服务器对多媒体信息进行保护或者过滤处理之后，直接对多媒体信息进行验证。在本公开实施例中，若该
多媒体信息的业务标识被验证后，需要被过滤处理的次数较多，服务器就可以默认这个多
媒体信息需要被过滤处理，而不再进行后续的验证。相应的，服务器对多媒体信息进行验
证，得到验证结果之前，该方法还包括：

[0170] 服务器根据业务标识，确定业务标识对应的多个历史多媒体信息；根据多个历史多媒体信息，确定多个历史多媒体信息的历史验证记录；根据历史验证记录，确定多个历史
多媒体信息中验证结果为需要被过滤处理的历史多媒体信息的数量；若该数量没有达到指
定数量，执行对多媒体信息进行验证，得到验证结果的步骤。若该数量达到指定数量，且多
媒体信息对应的保护策略为第二保护策略时，不再进行验证，保持对多媒体信息的过滤处
理。若该数量达到指定数量，且多媒体信息对应的保护策略为第三保护策略时，不再进行验
证，直接对该多媒体信息进行过滤处理。

[0171] 例如，若服务器从某用户的用户账号对应的历史验证记录中确定该用户账号对应的用户头像被验证为包括敏感图像的次数达到指定数量，例如，指定数量可以设置为50，若
某用户的用户头像被验证为包括敏感图像的次数达到50次，则表示该用户的用户头像不应
该被保护，则服务器不再执行对该用户的用户头像验证的步骤，直接对该用户的用户头像
进行过滤处理，例如，将该用户的用户头像删除。

[0172] 在本公开实施例中，服务器根据业务标识对应的历史验证记录，确定该业务标识对应的多媒体信息是否确实需要保护，若确定该业务标识对应的历史验证结果中需要被过
滤处理的验证结果的数量没有达到指定数量，可以执行对多媒体信息进行验证，得到验证
结果的步骤；若确定该业务标识对应的历史验证结果中需要被过滤处理的验证结果的数量
达到指定数量，可以对该业务标识对应的多媒体信息先进行过滤处理，能够减少由于盲目
进行保护造成的损失。

[0173] 在本公开实施例中，若确定多媒体信息需要被过滤处理、且多媒体信息的业务标识在第一白名单中，则根据该业务标识，从目标保护信息集合中确定该业务标识对应的目
标保护信息，若多媒体信息属于目标保护信息，则基于目标保护信息对应的保护策略，对多
媒体信息进行保护。由于增加了目标保护信息集合，且目标保护信息集合中存储业务标识
对应的目标保护信息，如果调整需要被保护的多媒体信息，直接修改第一白名单中的业务
标识和目标保护信息集合中的目标保护信息的关联关系即可，提高了调整需要被保护的多
媒体信息的效率。

[0174] 上述所有可选技术方案，可以采用任意结合形成本公开的可选实施例，在此不再一一赘述。

[0175] 图5是根据一示例性实施例示出的一种多媒体信息处理装置的框图。如图5所示，该装置包括：

[0176] 获取模块501，被配置为执行获取待处理的多媒体信息；

[0177] 确定模块502，被配置为执行若确定多媒体信息需要被过滤处理、且多媒体信息的业务标识在第一白名单中，则根据业务标识，从目标保护信息集合中确定业务标识对应的
目标保护信息，第一白名单中的业务标识和目标保护信息集合中的目标保护信息关联；

[0178] 保护模块503，被配置为执行若多媒体信息属于目标保护信息，则基于目标保护信息对应的保护策略，对多媒体信息进行保护。

[0179] 在一种可能的实现方式中，保护模块503，还被配置为执行若保护策略为用于指示对多媒体信息进行立即保护的第一保护策略，则对多媒体信息立即保护；

[0180] 或者，保护模块503，还被配置为执行若保护策略为用于指示对多媒体信息进行先过滤后验证的第二保护策略，则对多媒体信息进行过滤处理，以及对多媒体信息进行验证，
得到验证结果；根据验证结果，对多媒体信息进行保护；

[0181] 或者，保护模块503，还被配置为执行若保护策略为用于指示对多媒体信息进行先验证后保护的第三保护策略，则对多媒体信息进行验证，得到验证结果；根据验证结果，对
多媒体信息进行保护。

[0182] 在另一种可能的实现方式中，保护模块503，还被配置为执行若保护策略为第二保护策略，且验证结果用于指示多媒体信息不需要被过滤处理，则撤回对多媒体信息的过滤
处理；

[0183] 若保护策略为第二保护策略，且验证结果用于指示多媒体信息需要被过滤处理，则保持对多媒体信息的过滤处理。

[0184] 在另一种可能的实现方式中，保护模块503，还被配置为执行若保护策略为第三保护策略，且验证结果用于指示多媒体信息不需要被过滤处理，则对该多媒体信息进行保护；

[0185] 若保护策略为第三保护策略，且验证结果用于指示多媒体信息需要被过滤处理，则对多媒体信息进行过滤处理。

[0186] 在另一种可能的实现方式中，保护模块503，还被配置为执行向指定终端发送多媒体信息；当接收到指定终端返回的对多媒体信息的第一操作时，确定验证结果为多媒体信
息不需要被过滤处理；当接收到指定终端返回的对多媒体信息的第二操作时，确定验证结
果为多媒体信息需要被过滤处理；

[0187] 或者，保护模块503还被配置为执行提取多媒体信息的特征信息，若该特征信息与第一基准特征信息匹配，确定验证结果为多媒体信息不需要被过滤处理；若特征信息与第
二基准特征信息匹配，确定验证结果为多媒体信息需要被过滤处理；

[0188] 其中，第一基准特征信息为不需要被过滤处理的多媒体信息对应的特征信息，第二基准特征信息为需要被过滤处理的多媒体信息对应的特征信息。

[0189] 在另一种可能的实现方式中，保护模块503，还被配置为执行若业务标识在第二白名单中，确定保护策略为第一保护策略；若业务标识不在第二白名单中，根据多媒体信息，
确定多媒体信息的业务类型；若业务类型为即时性业务类型，确定保护策略为第二保护策
略；若业务类型为非即时性业务类型，确定保护策略为第三保护策略。

[0190] 在另一种可能的实现方式中，保护模块503，还被配置为执行根据业务标识，确定业务标识对应的多个历史多媒体信息；根据多个历史多媒体信息，确定多个历史多媒体信
息的历史验证记录；根据历史验证记录，确定多个历史多媒体信息中验证结果为需要被过
滤处理的历史多媒体信息的数量；若数量没有达到指定数量，则对多媒体信息进行验证，得
到验证结果。

[0191] 在另一种可能的实现方式中，确定模块502，还被配置为执行接收被配置的业务标识和目标保护信息；将业务标识添加到第一白名单中，将目标保护信息添加到目标保护信
息集合中，以及关联目标保护信息与业务标识。

[0192] 在本公开实施例中，若确定多媒体信息需要被过滤处理、且多媒体信息的业务标识在第一白名单中，则根据该业务标识，从目标保护信息集合中确定该业务标识对应的目
标保护信息，若多媒体信息属于目标保护信息，则基于目标保护信息对应的保护策略，对多
媒体信息进行保护。由于增加了目标保护信息集合，且目标保护信息集合中存储业务标识
对应的目标保护信息，如果调整需要被保护的多媒体信息，直接修改第一白名单中的业务
标识和目标保护信息集合中的目标保护信息的关联关系即可，提高了调整需要被保护的多
媒体信息的效率。

[0193] 需要说明的是：上述实施例提供的多媒体信息处理装置在进行多媒体信息处理时，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分
配由不同的功能模块完成，即将服务器的内部结构划分成不同的功能模块，以完成以上描
述的全部或者部分功能。另外，上述实施例提供的多媒体信息处理装置与多媒体信息处理
方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。

[0194] 图6是根据一示例性实施例示出的一种服务器的结构示意图，该服务器600可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上处理器(central 
processing units，CPU)601和一个或一个以上的存储器602，其中，所述存储器602中存储
有至少一条指令，所述至少一条指令由所述处理器601加载并执行以实现上述各个方法实
施例提供的方法。当然，该服务器还可以具有有线或无线网络接口、键盘以及输入输出接口
等部件，以便进行输入输出，该服务器还可以包括其他用于实现设备功能的部件，在此不做
赘述。

[0195] 在示例性实施例中，还提供了一种计算机可读存储介质，例如包括指令的存储器，上述指令可由服务器中的处理器执行以完成上述实施例中的多媒体信息处理方法。例如，
所述计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD‑ROM、磁带、软盘和光数据
存储设备等。

[0196] 在示例性实施例中，还提供了一种计算机程序产品，当计算机程序产品中的指令由计算机设备的处理器执行时，使得计算机设备能够执行上述多媒体信息处理方法中计算
机设备执行的步骤。

[0197] 本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读
存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

[0198] 以上所述仅为本公开的较佳实施例，并不用以限制本公开，凡在本公开的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本公开的保护范围之内。