数据共享方法、装置、数据共享平台、电子设备转让专利

申请号 : CN201811182523.7

文献号 : CN109408523B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 李玮黄志龙廖强李南平晋吉平徐乔伦

申请人 : 罗克佳华科技集团股份有限公司

摘要 :

本发明提供了一种数据共享方法、装置、数据共享平台、电子设备,数据共享平台包括:区块链网络接口以及与所述区块链网络接口连接的数据提供端以及数据获取端,所述区块链网络接口用于与区块链进行连接,该方法包括:所述数据提供端在获取到数据共享请求时,将待共享数据进行预处理,得到与所述共享数据对应的日志信息;所述数据提供端通过所述区块链网络接口将所述日志信息同步到所述区块链上,以使所述区块链网络接口在获取到所述数据获取端的下载数据请求时,将所述日志信息从所述区块链同步到所述数据获取端,从而保证了共享数据的可靠性。

权利要求 :

1.一种数据共享方法,其特征在于,应用于数据共享平台,所述数据共享平台包括:区块链网络接口以及与所述区块链网络接口连接的数据提供端以及数据获取端,所述区块链网络接口用于与区块链进行连接,所述方法包括:所述数据提供端在获取到数据共享请求时,将待共享数据进行预处理,得到与所述共享数据对应的日志信息;

所述数据提供端通过所述区块链网络接口将所述日志信息同步到所述区块链上,以使所述区块链网络接口在获取到所述数据获取端的下载数据请求时,将所述日志信息从所述区块链同步到所述数据获取端。

2.根据权利要求1所述的方法,其特征在于,所述数据提供端通过所述区块链网络接口将所述日志信息同步到所述区块链上,包括:所述数据提供端获取所述区块链的认证服务器发放的相互匹配的公钥以及私钥;

所述数据提供端通过所述私钥对所述日志信息进行签名后发送到所述区块链上,以使所述数据获取端通过所述公钥获取到所述日志信息。

3.根据权利要求1或2所述的方法,其特征在于,所述数据提供端包括DB服务器,所述数据提供端通过所述区块链网络接口将所述日志信息同步到所述区块链上,包括:所述数据提供端通过部署在所述DB服务器上的守护进程获取所述日志信息;

所述数据提供端将所述日志信息实时写入卡夫卡集群中,并按照写入时间的先后顺序依次将所述日志信息同步到所述区块链上。

4.根据权利要求1所述的方法,其特征在于,所述数据提供端包括:相互连接的DB服务器、PD服务器以及KV服务器,将待共享数据进行预处理,得到与所述共享数据对应的日志信息,包括:所述PD服务器计算所述共享数据在所述KV服务器的KV地址后与所述KV服务器交互获取到所述日志信息。

5.根据权利要求1所述的方法,其特征在于,所述日志信息包括:保存所述待共享数据的数据库的ID、所述数据库产生的二进制日志、日志产生时间,所述数据库的产品信息,所述数据库的版本信息。

6.一种数据共享装置,其特征在于,应用于数据共享平台,所述数据共享平台包括:区块链网络接口以及与所述区块链网络接口连接的数据提供端以及数据获取端,所述区块链网络接口用于与区块链进行连接,所述装置包括:预处理模块,用于在获取到数据共享请求时,将待共享数据进行预处理,得到与所述共享数据对应的日志信息;

同步模块,用于通过所述区块链网络接口将所述日志信息同步到所述区块链上,以使所述区块链网络接口在获取到所述数据获取端的下载数据请求时,将所述日志信息从所述区块链同步到所述数据获取端。

7.根据权利要求6所述的装置,其特征在于,所述同步模块,用于获取所述区块链的认证服务器发放的相互匹配的公钥以及私钥;并通过所述私钥对所述日志信息进行签名后发送到所述区块链上,以使所述数据获取端通过所述公钥获取到所述日志信息。

8.一种电子设备,其特征在于,所述电子设备包括:相互耦合的处理器、存储器,所述存储器内存储计算机程序,当所述计算机程序被所述处理器执行时,使得所述处理器执行权利要求1-5中任意一项所述的方法。

9.一种数据共享平台,其特征在于,包括区块链网络接口以及与所述区块链网络接口连接的数据提供端以及数据获取端,所述区块链网络接口用于与区块链进行连接,所述数据提供端内存储有计算机程序,当所述计算机程序被执行时,使得所述数据共享平台执行如权利要求1-5中任意一项所述的方法。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行如权利要求1-5中任意一项所述的方法。

说明书 :

数据共享方法、装置、数据共享平台、电子设备

技术领域

[0001] 本发明涉及数据处理领域,具体而言,涉及一种数据共享方法、装置、数据共享平台、电子设备。

背景技术

[0002] 常见的实现数据共享的方法,是建立多个接口标准,然后在中央管理平台统一管理所有接入的数据节点接口,在达成某种条件的情况下(例如约定的协议、约定的密码)通过双方的接口进行交互。数据节点使用传统的数据库,如MySQL、SQLServer等进行数据存储,在应用上层开发出数据接口,对接交换平台的数据接口。
[0003] 然而,针对现有做法,数据提供方可以随时到中央管理平台修改共享的数据,安全隐患较大,使得使用数据方无法完全信任数据的可靠性。

发明内容

[0004] 有鉴于此,本发明实施例的目的在于提供一种数据共享方法、装置、数据共享平台、电子设备,以解决上述问题。
[0005] 第一方面,本发明实施例提供了一种数据共享方法,应用于数据共享平台,所述数据共享平台包括:区块链网络接口以及与所述区块链网络接口连接的数据提供端以及数据获取端,所述区块链网络接口用于与区块链进行连接,所述方法包括:所述数据提供端在获取到数据共享请求时,将待共享数据进行预处理,得到与所述共享数据对应的日志信息;所述数据提供端通过所述区块链网络接口将所述日志信息同步到所述区块链上,以使所述区块链网络接口在获取到所述数据获取端的下载数据请求时,将所述日志信息从所述区块链同步到所述数据获取端。
[0006] 第二方面,本发明实施例提供了一种数据共享装置,应用于数据共享平台,所述数据共享平台包括:区块链网络接口以及与所述区块链网络接口连接的数据提供端以及数据获取端,所述区块链网络接口用于与区块链进行连接,所述装置包括:预处理模块,用于在获取到数据共享请求时,将待共享数据进行预处理,得到与所述共享数据对应的日志信息;同步模块,用于通过所述区块链网络接口将所述日志信息同步到所述区块链上,以使所述区块链网络接口在获取到所述数据获取端的下载数据请求时,将所述日志信息从所述区块链同步到所述数据获取端。
[0007] 第三方面,本发明实施例提供一种电子设备,所述电子设备包括:相互耦合的处理器、存储器,所述存储器内存储计算机程序,当所述计算机程序被所述处理器执行时,使得所述处理器执行第一方面任意一项所述的方法。
[0008] 第四方面,本发明实施例提供一种数据共享平台,包括区块链网络接口以及与所述区块链网络接口连接的数据提供端以及数据获取端,所述数据提供端内存储有计算机程序,当所述计算机程序被执行时,使得所述数据共享平台执行第一方面任意一项所述的方法。
[0009] 第五方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行第一方面中任意一项所述的方法。
[0010] 与现有技术相比,本发明各实施例提出的数据共享方法、装置、数据共享平台、电子设备,所述数据提供端在获取到数据共享请求时,将待共享数据进行预处理,得到与所述共享数据对应的日志信息;所述数据提供端通过所述区块链网络接口将所述日志信息同步到所述区块链上,以使所述区块链网络接口在获取到所述数据获取端的下载数据请求时,将所述日志信息从所述区块链同步到所述数据获取端。整个过程数据库的日志信息作为区块链共享的数据,通过区块链网络接口实现将数据库中的数据上链和将区块链中的数据导入到数据库中,在实现数据的共享的同时,保证了数据的可靠性。
[0011] 为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。

附图说明

[0012] 为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
[0013] 图1为本发明实施例提供的电子设备的结构示意图;
[0014] 图2为本发明实施例提供的数据共享平台的结构示意图;
[0015] 图3为本发明第一实施例提供的数据共享方法的流程图;
[0016] 图4为本发明第一实施例提供的数据提供端的示意图;
[0017] 图5为本发明第二实施例提供的数据共享装置的结构框图。

具体实施方式

[0018] 下面将结合本发明实施例中附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
[0019] 应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本发明的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
[0020] 如图1所示,是本发明实施例提供的电子设备100的结构示意图,所述电子设备100可以包括:数据共享装置、存储器110、存储控制器120、处理器130、外设接口140、输入输出单元150、音频单元160、显示单元170。
[0021] 所述存储器110、存储控制器120、处理器130、外设接口140、输入输出单元150、音频单元160以及显示单元170各元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述数据共享装置包括至少一个可以软件或固件(firmware)的形式存储于所述存储器110中或固化在客户端设备的操作系统(operating system,OS)中的软件功能模块。所述处理器130用于执行存储器110中存储的可执行模块,例如所述数据共享装置包括的软件功能模块或计算机程序。
[0022] 其中,存储器110可以是,但不限于,随机存取存储器(Random Access Memory,RAM),只读存储器(Read Only Memory,ROM),可编程只读存储器(Programmable Read-Only Memory,PROM),可擦除只读存储器(Erasable Programmable Read-Only Memory,EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory,EEPROM)等。其中,存储器110用于存储程序,所述处理器130在接收到执行指令后,执行所述程序,前述本发明实施例任一实施例揭示的流程定义的方法可以应用于处理器130中,或者由处理器
130实现。
[0023] 处理器130可能是一种集成电路芯片,具有信号的处理能力。上述的处理器130可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
[0024] 所述外设接口140将各种输入/输出装置耦合至处理器130以及存储器110。在一些实施例中,外设接口140,处理器130以及存储控制器120可以在单个芯片中实现。在其他一些实例中,他们可以分别由独立的芯片实现。
[0025] 输入输出单元150用于提供给用户输入数据实现用户与用户终端的交互。所述输入输出单元150可以是,但不限于,鼠标和键盘等。
[0026] 音频单元160向用户提供音频接口,其可包括一个或多个麦克风、一个或者多个扬声器以及音频电路。
[0027] 显示单元170在用户终端与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中,所述显示单元170可以是液晶显示器或触控显示器。若为触控显示器,其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处同时产生的触控操作,并将该感应到的触控操作交由处理器130进行计算和处理。
[0028] 此外,请参看图2,本发明实施例还提供了一种数据共享平台200,所述数据共享平台200包括区块链网络接口210以及与所述区块链网络接口连接的数据提供端220以及数据获取端230。所述区块链网络接口用于与区块链进行连接。其中,所述数据提供端220以及数据获取端230的结构可以如图1所示。
[0029] 所述数据提供端220可以通过区块链网络接口210与区块链进行通信或交互,所述数据获取端230也可以通过区块链网络接口210与区块链进行通信或交互。
[0030] 第一实施例
[0031] 请参照图3,图3是本发明第一实施例提供的一种数据共享方法的流程图,所述方法应用于数据共享平台。下面将从数据提供端的角度来对图3所示的流程进行详细阐述,值得指出的是,此处的数据提供端也可以在下一次流程中作为数据获取端。所述方法包括:
[0032] 步骤S110:所述数据提供端在获取到数据共享请求时,将待共享数据进行预处理,得到与所述共享数据对应的日志信息。
[0033] 其中,请参看图4,所述数据提供端可以包括:相互连接的DB服务器、PD服务器以及KV服务器。
[0034] DB Server(数据库服务器)负责接收用户发起的SQL请求处理SQL相关逻辑,该请求表征将待共享数据进行共享。PD Server找到在KV Server中存储所需待共享数据的KV地址,与KV Server交互获取该数据,并返回最终结果。
[0035] 其中,DB Server本身是无状态的,并不保存数据,可以无限水平扩展,可以通过负载均衡组件对外提供统一接入地址。
[0036] PD Server是整个集群的管理模块,主要负责三个工作:存储集群的元信息(如某个key存储在哪个KV节点);对KV节点进行调度和负载均衡(如数据迁移);分配全局唯一且递增的事务ID。
[0037] KV Server负责数据存储,从外部看KV Server是一个分布式并提供事务的Key-Value存储引擎。存储数据的基本单位是Region,每个Region存储一段Key Range的数据,每个KV Server会负责多个Region的数据,使用Raft协议做数据的复制,保证数据的一致性和容灾。副本以Region为单位进行管理,不同节点上的多个Region构成一个Raft Group,互为副本。
[0038] 通过上面这种架构,可以解决传统数据库(如Oracle,MySQL,SQL Server等)在存储极大数据量时(如单表十亿百亿行数据以上)数据访问和操作性能低下的问题。同时,理论上的数据存储规模只受限于磁盘大小,当磁盘不够用时,只需要简单的添加磁盘,PD Server会自动调度数据到新加的磁盘上,数据的操作(如查询插入更新等)性能不会出现明显下降。
[0039] 传统的数据库与KV Server是不兼容的,在本发明实施例中,通过DB Server来作为解析层,在PD Server与KV Server之间进行协议转换,使得二者可以兼容。
[0040] 所述PD服务器计算所述共享数据在所述KV服务器的KV地址后与所述KV服务器交互获取到所述日志信息。
[0041] 其中,所述日志信息包括但不限于:保存所述待共享数据的数据库的ID、所述数据库产生的二进制日志(binlog)、日志产生时间,所述数据库的产品信息,所述数据库的版本信息。
[0042] 步骤S120:所述数据提供端通过所述区块链网络接口将所述日志信息同步到所述区块链上,以使所述区块链网络接口在获取到所述数据获取端的下载数据请求时,将所述日志信息从所述区块链同步到所述数据获取端。
[0043] 数据提供端在获取到日志信息后,可以通过部署在所述DB服务器上的守护进程(Pump)获取所述日志信息,然后将所述日志信息实时写入卡夫卡集群中。然后按照写入时间的先后顺序依次将所述日志信息同步到所述区块链上。由于卡夫卡集群是一个分布式集群,数据可以多份存储进行备份,因此,可以防止日志信息的丢失。
[0044] 其中,所述数据提供端可以获取所述区块链的认证服务器CA发放的相互匹配的公钥以及私钥,然后通过所述私钥对所述日志信息进行签名后发送到所述区块链上,以使所述数据获取端通过所述公钥获取到所述日志信息。
[0045] 其中,区块链可以包括背书节点、排序节点、记账节点,数据提供端可以将经过私钥签名后的日志信息提交到背书节点(Endorser),Endorser在接收到日志信息后向数据提供端返回背书信息,然后数据提供端将背书信息提交到排序节点(Orderer),Orderer将日志信息进行排序并打包到区块中,然后,Orderer再将日志信息发送给记账节点(Commiter),由Commiter将日志信息存入Ledger(区块链)中。
[0046] 各个节点都保存一份日志信息的账本副本。日志信息的一致性由Orderer负责维护,Orderer本身不保存日志信息。各个节点的日志信息基于通道进行同步复制。不同节点基于管理者进行组织管理,同一个管理者中的节点具有相同权限。管理者的身份由CA服务器签发的证书进行识别。
[0047] 当数据获取端连接到区块链上不同的节点上,只要数据在其连接到的节点上同步成功,则数据获取端可以通过遍历整个账本来获取其需要同步的所有日志信息,并在本地完成还原,达到数据共享的目的。
[0048] 本发明第一实施例提供的一种数据共享方法,所述数据提供端在获取到数据共享请求时,将待共享数据进行预处理,得到与所述共享数据对应的日志信息;所述数据提供端通过所述区块链网络接口将所述日志信息同步到所述区块链上,以使所述区块链网络接口在获取到所述数据获取端的下载数据请求时,将所述日志信息从所述区块链同步到所述数据获取端。整个过程数据库的日志信息作为区块链共享的数据,通过区块链网络接口实现将数据库中的数据上链和将区块链中的数据导入到数据库中,在实现数据的共享的同时,保证了数据的可靠性。
[0049] 第二实施例
[0050] 请参照图5,图5是本发明第二实施例提供的一种数据共享装置400的结构框图。下面将对图5所示的结构框图进行阐述,所示装置包括:
[0051] 预处理模块410,用于在获取到数据共享请求时,将待共享数据进行预处理,得到与所述共享数据对应的日志信息;
[0052] 同步模块420,用于通过所述区块链网络接口将所述日志信息同步到所述区块链上,以使所述区块链网络接口在获取到所述数据获取端的下载数据请求时,将所述日志信息从所述区块链同步到所述数据获取端。
[0053] 本实施例对数据共享装置400的各功能模块实现各自功能的过程,请参见上述图1至图3所示实施例中描述的内容,此处不再赘述。
[0054] 此外,本发明实施例还提供了一种电子设备,所述电子设备包括:相互耦合的处理器、存储器,所述存储器内存储计算机程序,当所述计算机程序被所述处理器执行时,使得所述处理器执行本发明任一项实施方式所提供的数据共享方法。
[0055] 此外,本发明实施例还提供了一种数据共享平台,区块链网络接口以及与所述区块链网络接口连接的数据提供端以及数据获取端,所述区块链网络接口用于与区块链进行连接,所述数据提供端内存储有计算机程序,当所述计算机程序被执行时,使得所述数据共享平台执行本发明任一项实施方式所提供的数据共享方法。
[0056] 此外,本发明实施例还提供了一种计算机可读存储介质,在该计算机可读存储介质中存储有计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行本发明任一项实施方式所提供的数据共享方法。
[0057] 此外,本发明实施例还提供了一种计算机程序,该计算机程序可以存储在云端或者本地的存储介质上,当所述计算机程序在计算机上运行时,使得所述计算机执行本发明任一项实施方式所提供的数据共享方法。
[0058] 综上所述,本发明实施例提出的数据共享方法、装置、数据共享平台、电子设备,所述数据提供端在获取到数据共享请求时,将待共享数据进行预处理,得到与所述共享数据对应的日志信息;所述数据提供端通过所述区块链网络接口将所述日志信息同步到所述区块链上,以使所述区块链网络接口在获取到所述数据获取端的下载数据请求时,将所述日志信息从所述区块链同步到所述数据获取端。整个过程数据库的日志信息作为区块链共享的数据,通过区块链网络接口实现将数据库中的数据上链和将区块链中的数据导入到数据库中,在实现数据的共享的同时,保证了数据的可靠性。
[0059] 在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
[0060] 另外,在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
[0061] 所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。
在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
[0062] 以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
[0063] 以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。