高并发数据状态下异构系统的消息同步方法转让专利
申请号 : CN202110222726.X
文献号 : CN112600943B
文献日 : 2021-06-01
发明人 : 赵亚宾
申请人 : 上海洋漪信息技术有限公司 , 上海洋码头网络技术有限公司
摘要 :
权利要求 :
1.一种高并发数据状态下异构系统的消息同步方法,其特征在于本方法包括如下步骤:
步骤一、建立消息发送者与消息接收者之间的元数据信息,元数据信息包括系统信息、重要性等级、通讯信息、通讯协议、加密机制、数据容量、负载策略和降级策略;
步骤二、消息发送者和消息接收者通过网络请求定时轮询获取元数据信息,保存为各自系统的本地文件,若元数据信息有变更则将变更数据更新到本地文件;
步骤三、消息接收者根据本地文件中的元数据信息建立消息接收端口、服务和/或和/或本地文件目录;
步骤四、当消息发送者发起消息同步时,消息发送者对本地文件中的元数据信息进行查询匹配,根据消息接收者的系统、通讯、协议信息情况,将消息进行封包、加密,根据通讯协议进行消息发送及投递;
步骤五、消息接收者接收消息后,根据所匹配的元数据信息以及重要性排列优先级进行消息处理,所述消息处理包括解包、解密、数据CRC校验,并保存消息;
其中,当消息容量和并发量增大时,自动提升运行中的消息接收者的线程数和文件中的最大线程数,消息接收者的线程数和文件中的最大线程数由消息接收者维护,并根据消息容量和并发量动态调整,当消息接收者的消息容量和并发量升高时,会动态增加线程数,提升接收能力;如果达到最大消息容量时,对新接收的消息进行降级策略处理,降级策略包括更新元数据信息、放大消息发送的响应时间、对消息进行临时存储后再补充处理。
2.根据权利要求1所述的高并发数据状态下异构系统的消息同步方法,其特征在于:若异构系统发生变化,所述元数据信息同步更新,并定时同步到各个消息发送者和消息接收者。
3.根据权利要求1或2所述的高并发数据状态下异构系统的消息同步方法,其特征在于:所述消息接收者根据系统消息发送者的数量、接收消息的数量,采用累加计数器或单位时间计数器计算消息容量和并发量,所述消息发送者和消息接收者的数量维护在元数据中。
4.根据权利要求3所述的高并发数据状态下异构系统的消息同步方法,其特征在于:消息发送者根据元数据信息中消息接收者的系统负载情况以及消息发送响应时间是否超过系统负载和响应时间,如是则同步系统元数据,按系统负载和响应时间阈值判断消息接收者已经达到最大负载,则执行熔断策略,不再进行消息同步,转为临时消息存储。
5.根据权利要求4所述的高并发数据状态下异构系统的消息同步方法,其特征在于:消息接收者的消息处理能力恢复后,更新元数据信息,并由消息发送者获取后,恢复消息同步。
说明书 :
高并发数据状态下异构系统的消息同步方法
技术领域
背景技术
同,所以消息数据等的组织方式也存在不同,不容易进行信息同步、共享,而在互联网环境
下,存在着大量需要同步的消息,尤其在C端互联网平台,更需要频繁地在不同系统之间传
递大量消息。
务路由、协议转换、数据格式转换等功能。这样能够将不同系统有效地连接起来。
是在并发高峰的情况下,如果服务总线宕机,将导致整个消息传递无法进行。
发明内容
在海量用户访问请求的业务高峰情况下,各系统间快速、稳定、正确完成消息同步,从而提
高消息处理效率,提升系统稳定性和正确性。
通讯协议进行消息发送及投递;
护,并根据消息容量和并发量动态调整,当消息接收者的消息容量和并发量升高时,会动态
增加线程数,提升接收能力;如果达到最大消息容量时,对新接收的消息进行降级策略处
理,降级策略包括更新元数据信息、放大消息发送的响应时间、对消息进行临时存储后再补
充处理。
护在元数据中。
值判断消息接收者已经达到最大负载,则执行熔断策略,不再进行消息同步,转为临时消息
存储。
元数据信息,保存为各自系统的本地文件;消息接收者根据元数据信息建立消息接收端口、
服务和/或本地文件目录;当消息发送者发起消息同步时,消息发送者在元数据信息中进行
查询匹配,将消息进行封包、加密,根据通讯协议进行消息发送及投递;消息接收者接收消
息后,根据所匹配的元数据信息以及重要性排列优先级进行消息处理并保存消息。本方法
克服传统异构系统总线机制消息同步的缺陷,实现异构系统间的消息同步,且在海量用户
访问请求的业务高峰情况下,各系统间快速、稳定、正确完成消息同步,从而提高消息处理
效率,提升系统稳定性和正确性。
附图说明
具体实施方式
消息发送者是异构系统中进行消息同步时的消息发送方,消息接收者是消息的接收方;
接收到的消息保存到本地文件,之后由其他线程负责处理;本地文件目录为消息保存的文
件目录,当消息接收者在收到消息后,除了直接进行处理外,还可以保存到本地文件,实现
消息的交换;
讯、协议信息情况,将消息进行封包、加密,根据通讯协议进行消息发送及投递;其中,消息
接收者信息的查询匹配元由消息发送者将文件数据加载到内存,在内存中解析出消息接收
者的系统信息,通讯信息和协议信息;
二进制流中解析出报文体,并反序列化为可被程序处理的格式;解密是出于保护数据安全
的目的,对消息进行加密和解密,使用的加/解密方式包含DES /3DES /AES /RSA等加/解密
算法;数据CRC校验是通过CRC32对数据的正确性和完整性进行校验。
护,并根据消息容量和并发量动态调整,当消息接收者的消息容量和并发量升高时,会动态
增加线程数,提升接收能力;如果达到最大消息容量时,对新接收的消息进行降级策略处
理,降级策略包括更新元数据信息、放大消息发送的响应时间、对消息进行临时存储后再补
充处理;
件的线程数,当消息需要被保存时,默认情况下消息接收者会开启一个线程进行保存,并保
存为一个文件,当消息容量和并发量增大时,新增线程数,通过多线程的方式,保存到多个
文件。
消息发送者,所述消息发送者和消息接收者的数量维护在元数据中。
值判断消息接收者已经达到最大负载,则执行熔断策略,不再进行消息同步,转为临时消息
存储。
消息接收者的负载情况,使得系统不会因为负载过重而崩溃,满足消息发送者具有迫切同
步消息发送的大需求,又能确保消息接收者准确、可靠接收消息,提高消息处理效率,确保
系统稳定性和正确性。