[go: up one dir, main page]

CN101383839A - 基于数据服务器的数据分发系统及其实现方法 - Google Patents

基于数据服务器的数据分发系统及其实现方法 Download PDF

Info

Publication number
CN101383839A
CN101383839A CNA2007101470678A CN200710147067A CN101383839A CN 101383839 A CN101383839 A CN 101383839A CN A2007101470678 A CNA2007101470678 A CN A2007101470678A CN 200710147067 A CN200710147067 A CN 200710147067A CN 101383839 A CN101383839 A CN 101383839A
Authority
CN
China
Prior art keywords
data
server
client
request
data server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CNA2007101470678A
Other languages
English (en)
Inventor
张建锋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CNA2007101470678A priority Critical patent/CN101383839A/zh
Publication of CN101383839A publication Critical patent/CN101383839A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明揭示了一种数据分发系统,包括:数据源,用于存储所接入的所有客户端的应用数据;至少一个数据服务器,用于响应客户端的数据请求并读取数据以传送至相应的客户端;以及多个客户端,用于向数据服务器发送数据请求并接收数据。本发明还揭示了一种数据分发方法,包括:将数据服务器连接至数据源,读取数据并预处理;客户端向数据服务器发送数据请求;数据服务器响应请求并返回数据至客户端;以及客户端接收数据并更新本地数据库。采用本发明的数据分发系统及其实现方法,大大节约了中心数据库或者数据源的连接资源,有效地提高了数据分发效率,所接入的客户端数量不再受数据库资源的影响而能够进行线性扩展。

Description

基于数据服务器的数据分发系统及其实现方法
技术领域
本发明涉及数据库的应用技术,尤其涉及大规模数据的分发技术。
背景技术
随着互联网的普及和网络应用技术的发展,应用系统的功能越来越强,同时其规模也变得越来越大。通常,对于一个大型的应用系统来说,将数百台客户端服务器组成一个集群式的应用系统网络。为了加快具体应用功能的响应速度和提供并发性能,这些数据一般都存储在多个客户端共享的中心数据库中。每个客户端可以通过与中心数据库进行实时通讯,以从中心数据库中读取一些结构性的数据,例如,系统的黑名单用户名列表数据、禁用的关键词等等。
然而,采用上述的应用系统在多个客户端和中心数据库之间进行交互时,系统的可扩展性较差。因为每个客户端都需要直接地与中心数据库进行连接,并读取需要的数据,当客户端的数目达到一定数量时,中心数据库的处理能力将会大大削弱。此外,当对中心数据库中的存储数据进行变更时,该系统的多个客户端会在同一时间内向该中心数据库请求变更后的数据。由于每个客户端都要向中心数据库读取相同的变更后的数据,这样极易引起中心数据库的阻塞,严重时甚至会导致系统崩溃。而且,在该应用系统中还需要配套同步通讯装置,以处理中心数据库在进行数据变更后的及时通知。
发明内容
针对应用系统中的中心数据库在向多个客户端分发数据时所存在的上述缺陷,本发明提供了一种基于数据服务器的数据分发系统及其实现方法。
按照本发明的一个方面,提供了一种数据分发系统。该系统包括:数据源,用于存储该数据分发系统中接入的所有客户端的应用数据;至少一个数据服务器,用于响应客户端的数据请求并从数据源中读取数据以传送至相应的客户端;以及多个客户端,用于向数据服务器发送数据请求并接收来自该数据服务器的数据。
优选地,每个客户端包含一个数据服务通讯单元,它用来向数据服务器发送请求以读取所需的数据,和在数据源变更数据时接收该数据服务器传送的变更后的数据。进一步,该数据通讯服务单元接收数据后,更新客户端中的本地数据库。需要指出的是,数据服务通讯单元与数据服务器进行数据交互时,其客户端只与数据服务通讯单元发生关联,而与数据源的具体位置无关。
优选地,数据服务器在接收数据源的数据后对其进行一定的预处理,主要包括对数据的数据结构、数据格式转换、数据关联等进行处理。
优选地,当数据源变更数据时,数据服务器接收变更后的数据,并将其同步分发到多个客户端。
优选地,当某个客户端向数据服务器发送请求以读取数据时,数据服务器响应该请求并只针对提出发送请求的客户端传送数据。
优选地,当某个客户端向数据服务器发送请求以变更数据时,数据服务器响应该请求并将变更后的数据重新装载至数据源中。
按照本发明的又一个方面,提供了一种利用上述数据分发系统进行数据分发的方法。该方法包括:
(1)启动数据服务器并连至数据源,由数据服务器读取数据并对其进行预处理;
(2)客户端向数据服务器发送请求以读取数据;
(3)数据服务器响应发送请求并返回数据至客户端;以及
(4)客户端接收数据并更新本地数据库。
采用本发明的数据分发系统及其实现方法,大大节约了中心数据库或者数据源的连接资源,并且数据服务器可以对来自数据库或者数据源的原始数据进行一定的预处理,有效地提高了数据分发效率。此外,所接入的客户端数量不再受数据库资源的影响而能够进行线性扩展。
附图说明
读者在参照附图阅读了本发明的具体实施方式以后,将会更清楚地了解本发明的各个方面。其中,
图1示出现有技术中基于集中型的数据分发系统的结构示意图;
图2示出依据本发明的一个或多个方面的基于数据服务器的数据分发系统的结构示意图;
图3示出实现如图2所示的数据分发系统的程序流程示意图;以及
图4示出如图2所示的数据分发系统在中心数据库进行数据变更时的流程示意图。
具体实施方式
下面参照附图,对本发明的具体实施方式作进一步的详细描述。
图1示出现有技术中基于集中型的数据分发系统的结构示意图。参照图1,该数据分发系统包括一个中心数据库110、一个同步通讯装置120和多个客户端131-135。以下分别予以描述。
中心数据库110用于存储该多个客户端131-135的相关数据信息,并与多个客户端131-135中的每一个进行实时的数据交互。同步通讯装置120用于处理中心数据库110的数据变更后的通知信息,例如,如果某个客户端(例如客户端131)对该中心数据库110中的数据进行了修改,同步通讯装置120将会把这一数据变更信息通知所有的客户端131-135。客户端131-135用于读取中心数据库110中的数据,并缓存在客户端的本地数据库中。
从图1中可以看出,因为每个客户端131-135都需要直接地与中心数据库110进行连接,并读取需要的数据,当客户端的数目达到一定数量时,中心数据库110的处理能力将会大大削弱。此外,当对中心数据库110中的存储数据进行变更时,该系统的多个客户端131-135会在同一时间内向该中心数据库110请求变更后的数据。由于每个客户端都要向中心数据库110读取相同的变更后的数据,这样极易引起中心数据库110的阻塞,严重时甚至会导致系统崩溃。
图2示出依据本发明的一个或多个方面的基于数据服务器的数据分发系统的结构示意图。如图2所示,该数据分发系统包括中心数据库210、数据服务器220和多个客户端231-233,并且每个客户端还配置有与该数据服务器220进行通讯的数据服务通讯单元231a-233a。其中,中心数据库210用于存储该多个客户端的相关数据信息。
数据服务器220是该数据分发系统的核心组成部分,其主要用来实现下列功能:
(1)利用配置文件从中心数据库210读取数据并进行处理;
(2)响应来自客户端231-233的数据请求,并只对该提出请求的客户端发送数据;
(3)响应处于客户端的用户变更数据的请求,以便重新装载数据;
(4)当中心数据库210的数据变更完成后,通知所有连接的客户端通过数据服务器220获取变更后的数据。
数据服务器220利用配置文件从中心数据库210读取数据并进行处理的方式可以分为两种,即预处理和更新处理。具体而言,预处理是指在客户端没有向数据服务器220发送数据请求的条件下,该数据服务器220首先从中心数据库210装载数据并进行预先的处理,当客户端请求数据时可立即向其分发数据;更新处理是指在数据服务器220接收数据变更的信息后,重新从中心数据库210装载数据并更新数据服务器220的数据,然后同步分发至各客户端231-233。
客户端231-233通过各自的数据服务通讯单元231a-233a提供的数据服务,获取应用数据并缓存于本地数据库(未画出)。需要指出的是,每个客户端仅仅与各自的数据服务通讯单元发生关联,而与数据源的具体位置无关。更具体地,数据服务通讯单元可以看成是作为数据服务器220的客户端而放置在每个客户端中的通讯模块,换言之,数据服务器220利用数据服务通讯单元与每个客户端进行数据交互,例如,数据服务通讯单元向数据服务器220发送请求以读取所需的数据,或者当中心数据库210变更数据时,接收由数据服务器220分发的变更后的数据,或者当接收到来自数据服务器220分发的变更数据后,更新相关联的客户端中的本地数据库。
本领域的技术人员应当理解,图2所示的系统仅是示意性质的,实际上,按照本发明的一个方面或多个方面的数据分发系统可以包含更多数量的数据服务器。例如,当连接到中心数据库210的数据服务器220的流量压力比较小时,可以只配置一台数据服务器就能够满足多个客户端的数据请求。然而,当连接到中心数据库210的数据服务器220的流量压力比较大,一台数据服务器可能不足以满足客户端的数据服务,因此可以采用两台或两台以上的数据服务器。
图3示出了实现如图2所示的数据分发系统的程序流程示意图。参照图2和图3,根据本发明的一个或多个方面的基于数据服务器的数据分发过程可以采用如下的步骤来实现数据的分发:
(1)步骤300。启动数据服务器220;
(2)步骤302。将数据服务器210连接至中心数据库220,读取数据并进行预处理;
(3)步骤304。数据服务器210扫描并捕捉来自客户端的数据请求,具体来说,数据服务器210开启其侦听端口,当捕捉到有来自客户端231-233中的一个或多个的数据请求时予以响应;
(4)步骤306。客户端231-233中的一个或多个通过各自的数据服务通讯单元231a-233a与数据服务器220连接,其中,数据服务通讯单元的主要功能包括向数据服务器220请求变更数据、接收来自数据服务器220分发的变更后数据、处理意外断开连接的情况等;
(5)步骤308。数据服务通讯单元231a-233a中的一个或多个向数据服务器220发送请求以读取数据;
(6)步骤310。数据服务器220响应上述请求,并向发送请求的客户端返回所需数据;
(7)步骤312。若中心数据库210的数据有变更,数据服务器220根据配置文件从中心数据库210读取变更后的数据,并将该更新数据同步分发给客户端;
(8)步骤314。数据服务通讯单元接收该更新数据,并更新本地数据库。
由于在中心数据库和各个客户端之间引入了数据服务器,因此大大降低了客户端连接到中心数据库所产生的资源消耗,与此同时,由于客户端在请求读取数据时无需再逐个与中心数据库建立通讯连接,明显减轻了中心数据库的压力并极大地提升了其处理能力。
此外,如上述步骤302所述,将数据服务器连接至中心数据库,读取数据并进行预处理。由数据服务器220提供对于数据的预处理操作,多个客户端也不用再自己花时间来处理所接收的数据。该预处理操作包括对于数据结构、数据格式转换、数据关联等的处理。再者,对数据进行预处理还可改进数据服务器与客户端实行数据交互的友好程度,在预处理敏感数据的同时增强了系统的数据安全性。
需要指出的是,数据服务通讯单元可视为每个客户端的通讯模块,承担所有与数据服务器进行数据交互的各项任务,这样安排使该数据分发系统更加模块化,也易于客户端的扩展。
图4示出如图2所示的数据分发系统在中心数据库进行数据变更时的流程示意图。数据变更方法可包括如下的步骤:
(1)步骤400。中心数据库变210更数据;
(2)步骤402。当中心数据库210变更数据完成后,将此变更通知发送至数据服务器220;
(3)步骤404。数据服务器220接收该通知,并从中心数据库210读取变更后的应用数据;
(4)步骤406。数据服务器220对变更后的数据进行预处理;
(5)步骤408。数据服务器220将经过预处理的变更数据传送至数据服务通讯单元231a-233a;
(6)步骤410。客户端231-233通过各自的数据服务通讯单元接收该变更后的数据,并对本地数据库中的数据予以更新。
上文中,参照附图描述了本发明的具体实施方式。但是,本领域中的普通技术人员能够理解,在不偏离本发明的精神和范围的情况下,还可以对本发明的具体实施方式作各种变更和替换。这些变更和替换都落在本发明权利要求书所限定的范围内。

Claims (10)

1.一种数据分发系统,其特征在于,它包括:
数据源,用于存储所述数据分发系统中接入的所有客户端的应用数据;
至少一个数据服务器,用于响应所述客户端的数据请求,从所述数据源读取数据并将所述数据传送至客户端;以及
多个客户端,用于向所述数据服务器发送数据请求并接收来自所述数据服务器的数据。
2.如权利要求1所述的系统,其特征在于,所述客户端包含一个数据服务通讯单元,所述数据服务通讯单元用来向数据服务器发送请求以读取所需的数据,并在所述数据源变更数据时接收所述数据服务器传送的变更后的数据。
3.如权利要求2所述的系统,其特征在于,所述数据服务通讯单元接收数据后,更新客户端中的本地数据库。
4.如权利要求2所述的系统,其特征在于,所述数据服务通讯单元与所述数据服务器进行数据交互时,所述客户端只与数据服务通讯单元发生关联,而与所述数据源的具体位置无关。
5.如权利要求1所述的系统,其特征在于,所述数据服务器在接收所述数据源的数据后对其进行预处理,所述预处理包括对所述数据的数据结构、数据格式转换、数据关联进行处理。
6.如权利要求1所述的系统,其特征在于,当所述数据源变更数据时,所述数据服务器接收变更后的数据,并将所述变更后的数据同步分发至所述多个客户端。
7.如权利要求1所述的系统,其特征在于,所述客户端向所述数据服务器发送请求以读取数据时,所述数据服务器响应该请求,并只针对提出发送请求的所述客户端传送数据。
8.如权利要求1所述的系统,其特征在于,所述客户端向所述数据服务器发送请求以变更数据时,所述数据服务器响应该请求,并将变更后的数据重新装载至所述数据源。
9.如权利要求1所述的系统,其特征在于,所述数据服务器具有侦听端口,用于实时捕捉并响应所述客户端的数据请求。
10.一种利用如权利要求1-9中任意一项所述的数据分发系统进行数据分发的方法,其特征在于,该方法包括:
将所述数据服务器连接至所述数据源,读取数据并对其进行预处理;
所述客户端向所述数据服务器发送请求以读取数据;
所述数据服务器响应所述发送请求并返回数据至所述客户端;以及
所述客户端接收数据并更新本地数据库。
CNA2007101470678A 2007-09-04 2007-09-04 基于数据服务器的数据分发系统及其实现方法 Pending CN101383839A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CNA2007101470678A CN101383839A (zh) 2007-09-04 2007-09-04 基于数据服务器的数据分发系统及其实现方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CNA2007101470678A CN101383839A (zh) 2007-09-04 2007-09-04 基于数据服务器的数据分发系统及其实现方法

Publications (1)

Publication Number Publication Date
CN101383839A true CN101383839A (zh) 2009-03-11

Family

ID=40463460

Family Applications (1)

Application Number Title Priority Date Filing Date
CNA2007101470678A Pending CN101383839A (zh) 2007-09-04 2007-09-04 基于数据服务器的数据分发系统及其实现方法

Country Status (1)

Country Link
CN (1) CN101383839A (zh)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102790701A (zh) * 2011-05-19 2012-11-21 阿里巴巴集团控股有限公司 一种获取现场数据的方法及系统
CN103023859A (zh) * 2011-09-22 2013-04-03 中兴通讯股份有限公司 一种分布式业务网络的内容处理方法和系统
CN103023988A (zh) * 2012-11-27 2013-04-03 北京金山云科技有限公司 文件同步方法、服务器、客户端及终端设备
CN103685421A (zh) * 2012-09-21 2014-03-26 百度在线网络技术(北京)有限公司 跨数据源的数据提交系统、装置及方法
CN103957192A (zh) * 2014-04-04 2014-07-30 驻马店市金格尔电气设备有限公司 一种基于分布式体系结构的对任意gps数据处理系统
CN104572754A (zh) * 2013-10-24 2015-04-29 北大方正集团有限公司 一种数据库系统、数据库系统访问方法及装置
CN105337923A (zh) * 2014-05-26 2016-02-17 腾讯科技(北京)有限公司 数据分发方法和系统及数据发送装置和数据接收装置
CN105450733A (zh) * 2015-11-09 2016-03-30 北京锐安科技有限公司 一种业务数据分发处理方法及系统
CN105847112A (zh) * 2016-03-11 2016-08-10 努比亚技术有限公司 数据更新方法、客户端及系统
CN106888245A (zh) * 2016-06-07 2017-06-23 阿里巴巴集团控股有限公司 一种数据处理方法、装置及系统
CN107580025A (zh) * 2017-08-07 2018-01-12 国电南瑞科技股份有限公司 一种电网多调度中心日内发电计划安全校核数据共享方法
CN108509510A (zh) * 2018-03-08 2018-09-07 阿里巴巴集团控股有限公司 界面数据的更新方法、服务端及客户端
WO2018165966A1 (zh) * 2017-03-17 2018-09-20 深圳市秀趣品牌文化传播有限公司 离散式电商数据迁移处理系统及方法
WO2018165964A1 (zh) * 2017-03-17 2018-09-20 深圳市秀趣品牌文化传播有限公司 基于集群架构的电商数据迁移系统及方法
CN109542905A (zh) * 2018-11-19 2019-03-29 同方知网(北京)技术有限公司 一种科普资源多渠道分发系统与方法
CN112261043A (zh) * 2020-10-21 2021-01-22 深圳市思迅软件股份有限公司 Pos系统数据交互方法、装置、计算机设备及存储介质

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102790701B (zh) * 2011-05-19 2015-07-08 阿里巴巴集团控股有限公司 一种获取现场数据的方法及系统
CN102790701A (zh) * 2011-05-19 2012-11-21 阿里巴巴集团控股有限公司 一种获取现场数据的方法及系统
CN103023859A (zh) * 2011-09-22 2013-04-03 中兴通讯股份有限公司 一种分布式业务网络的内容处理方法和系统
CN103023859B (zh) * 2011-09-22 2018-06-19 中兴通讯股份有限公司 一种分布式业务网络的内容处理方法和系统
CN103685421A (zh) * 2012-09-21 2014-03-26 百度在线网络技术(北京)有限公司 跨数据源的数据提交系统、装置及方法
CN103023988A (zh) * 2012-11-27 2013-04-03 北京金山云科技有限公司 文件同步方法、服务器、客户端及终端设备
CN104572754A (zh) * 2013-10-24 2015-04-29 北大方正集团有限公司 一种数据库系统、数据库系统访问方法及装置
CN104572754B (zh) * 2013-10-24 2018-06-05 北大方正集团有限公司 一种数据库系统、数据库系统访问方法及装置
CN103957192A (zh) * 2014-04-04 2014-07-30 驻马店市金格尔电气设备有限公司 一种基于分布式体系结构的对任意gps数据处理系统
CN105337923A (zh) * 2014-05-26 2016-02-17 腾讯科技(北京)有限公司 数据分发方法和系统及数据发送装置和数据接收装置
CN105337923B (zh) * 2014-05-26 2019-07-12 腾讯科技(北京)有限公司 数据分发方法和系统及数据发送装置和数据接收装置
CN105450733A (zh) * 2015-11-09 2016-03-30 北京锐安科技有限公司 一种业务数据分发处理方法及系统
CN105450733B (zh) * 2015-11-09 2019-03-05 北京锐安科技有限公司 一种业务数据分发处理方法及系统
CN105847112A (zh) * 2016-03-11 2016-08-10 努比亚技术有限公司 数据更新方法、客户端及系统
CN105847112B (zh) * 2016-03-11 2020-06-16 深圳前海财信云科技有限公司 数据更新方法、客户端及系统
CN106888245A (zh) * 2016-06-07 2017-06-23 阿里巴巴集团控股有限公司 一种数据处理方法、装置及系统
WO2018165964A1 (zh) * 2017-03-17 2018-09-20 深圳市秀趣品牌文化传播有限公司 基于集群架构的电商数据迁移系统及方法
WO2018165966A1 (zh) * 2017-03-17 2018-09-20 深圳市秀趣品牌文化传播有限公司 离散式电商数据迁移处理系统及方法
CN107580025A (zh) * 2017-08-07 2018-01-12 国电南瑞科技股份有限公司 一种电网多调度中心日内发电计划安全校核数据共享方法
CN108509510A (zh) * 2018-03-08 2018-09-07 阿里巴巴集团控股有限公司 界面数据的更新方法、服务端及客户端
CN109542905A (zh) * 2018-11-19 2019-03-29 同方知网(北京)技术有限公司 一种科普资源多渠道分发系统与方法
CN112261043A (zh) * 2020-10-21 2021-01-22 深圳市思迅软件股份有限公司 Pos系统数据交互方法、装置、计算机设备及存储介质

Similar Documents

Publication Publication Date Title
CN101383839A (zh) 基于数据服务器的数据分发系统及其实现方法
CN111143382B (zh) 数据处理方法、系统和计算机可读存储介质
CN111225069B (zh) 一种分布式行情数据处理系统及方法
CN110311983B (zh) 服务请求的处理方法、装置、系统、电子设备及存储介质
CN112118315A (zh) 数据处理系统、方法、装置、电子设备和存储介质
CN103237060B (zh) 一种数据对象获取方法、装置及系统
CN102202102A (zh) 基于云计算架构的网络服务聚合系统及其聚合方法
CN101188566A (zh) 一种集群环境下数据缓存同步的方法及系统
CN108712457A (zh) 基于Nginx反向代理的后端服务器动态负载调整方法及装置
CN111078238A (zh) 容器环境下应用配置集中处理方法及装置
CN111193789A (zh) 订阅信息推送方法、装置、计算机设备和可读存储介质
CN116382943A (zh) 顺序消息处理方法、总线系统、计算机设备及存储介质
CN108259605B (zh) 一种基于多数据中心的数据调用系统及方法
CN110798495A (zh) 用于在集群架构模式下端到端的消息推送的方法和服务器
CN103425707A (zh) 数据分析方法和装置
CN100452704C (zh) 一种发布博客文章的方法和系统
CN115378937B (zh) 任务的分布式并发方法、装置、设备和可读存储介质
CN116483921A (zh) 一种数据共享方法、装置、系统及存储介质
HK1128177A (zh) 基於数据服务器的数据分发系统及其实现方法
CN115361382A (zh) 基于数据群组的数据处理方法、装置、设备和存储介质
CN109510877B (zh) 一种动态资源群的维护方法、装置及存储介质
CN111541667A (zh) 一种系统间消息通信的方法、设备、存储介质
CN113271229B (zh) 设备控制方法及装置、存储设备、安全设备、交换机、路由器及服务器
CN112650570B (zh) 可动态扩展的分布式爬虫系统、数据处理方法及装置
CN114138895B (zh) 多数据源的数据同步方法、装置、计算机设备和存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 1128177

Country of ref document: HK

C12 Rejection of a patent application after its publication
RJ01 Rejection of invention patent application after publication

Open date: 20090311

REG Reference to a national code

Ref country code: HK

Ref legal event code: WD

Ref document number: 1128177

Country of ref document: HK