安全公司报告
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210088262.2 (22)申请日 2022.01.25 (71)申请人 中国农业银行股份有限公司 地址 100005 北京市东城区建国门内大街 69号 (72)发明人 王云鹏 黄敏 赵博宁 (74)专利代理 机构 北京品源专利代理有限公司 11332 代理人 倪焱 (51)Int.Cl. G06F 16/27(2019.01) G06F 16/28(2019.01) G06F 16/23(2019.01) (54)发明名称 一种多源数据的实时同步方法、 装置、 设备 及介质 (57)摘要 本发明实施例公开了一种多源数据的实时 同步方法、 装置、 设备及介质。 其中, 该方法包括: 若检测到关系型数据库数据变化事件, 则将变动 数据生成数据变动日志, 并将所述数据变动日志 写入至临时日志表中; 将所述临时日志表中的数 据变动日志转化成标准数据格式, 并写入到第一 消息队列中; 对 所述第一消息队列中的消息按照 预设规则进行定制化加工, 并存入第二消息队列 中; 将所述第二消息队列中的消息分发至目标存 储介质的入库处理节点, 以完成数据实时同步。 本技术方案, 可以当关系型数据库数据发生变动 时, 实时将相应的数据同步至目标存储介质, 具 有较高的同步效率, 并易于确保数据一 致性。 权利要求书2页 说明书11页 附图3页 CN 114416881 A 2022.04.29 CN 114416881 A 1.一种多源数据的实时同步方法, 其特 征在于, 所述方法包括: 若检测到关系型数据库数据变化事件, 则将变动数据生成数据变动日志, 并将所述数 据变动日志写入至临时日志 表中; 将所述临时日志表中的数据变动日志转化成标准数据格式, 并写入到第一消息队列 中; 对所述第一消息队列中的消息按照预设规则进行定制化加工, 并存入第二消息队列 中; 将所述第二消息队列中的消息分发至目标存储介质的入库处理节点, 以完成数据实时 同步。 2.根据权利要求1所述的方法, 其特征在于, 将所述临时日志表中的数据变动日志转化 成标准数据格式, 并写入到第一消息队列中, 包括: 对所述临时日志表中的数据变动日志按照协议、 数据结构以及数据三部分进行转化, 得到标准数据格式; 将标准数据格式的数据写入到第一消息队列中。 3.根据权利要求1所述的方法, 其特征在于, 对所述第 一消息队列中的消息按照预设规 则进行定制化加工, 并存 入第二消息队列中, 包括: 对所述第一消息队列中的消息按照批量翻译处理和批量合并处理, 得到数据整合结 果, 并将所述数据整合结果存 入第二消息队列中。 4.根据权利要求3所述的方法, 其特征在于, 对所述第 一消息队列中的消息按照批量翻 译处理的过程, 包括: 识别所述临时日志 表中的数据变动日志的变动数据字段; 确定所述变动数据字段在目标存 储介质中是否存在同名字段; 若不存在, 则将所述变动数据字段翻译为所述目标存储介质中的相应字段, 得到数据 翻译结果。 5.根据权利要求3所述的方法, 其特征在于, 对所述第 一消息队列中的消息按照批量合 并处理的过程, 包括: 识别所述临时日志 表中的数据变动日志的变动数据是否存在待补充数据信息; 若存在, 则将所述待补充数据信息查询并合并至变动数据中, 得到数据合并结果。 6.根据权利要求1所述的方法, 其特征在于, 所述目标存储介质包括关系型数据库、 Redis以及Elasticsearc h中的一种或者多种。 7.根据权利要求1所述的方法, 其特征在于, 若检测到关系型数据库数据变化事件, 则 将变动数据生成数据变动日志, 包括: 通过数据库触发器实时监控, 若监控到数据发生变动, 则将变动数据按照数据源说明、 数据字段以及数据值格式生 成数据变动日志; 其中, 所述数据源说明包括数据库名称、 表名 称、 数据触发模式、 数据操作、 触发时间、 触发器版本、 数据变动版本以及数据主键中的至少 一种; 所述数据字段包括字段名称及字段类型, 所述字段类包括字符串、 日期和数字; 所述 数据值包括具体数值。 8.一种多源数据的实时同步装置, 其特 征在于, 所述装置包括: 数据变动日志生成模块, 用于若检测到关系型数据库数据变化事件, 则将变动数据生权 利 要 求 书 1/2 页 2 CN 114416881 A 2成数据变动日志, 并将所述数据变动日志写入至临时日志 表中; 数据变动日志转化模块, 用于将所述临时日志表中的数据变动日志转化成标准数据格 式, 并写入到第一消息队列中; 消息加工模块, 用于对所述第一消息队列中的消息按照预设规则进行定制化加工, 并 存入第二消息队列中; 数据实时同步模块, 用于将所述第 二消息队列中的消息分发至目标存储介质的入库处 理节点, 以完成数据实时同步。 9.一种电子设备, 其特 征在于, 所述电子设备包括: 至少一个处 理器; 以及 与所述至少一个处 理器通信连接的存 储器; 其中, 所述存储器存储有可被所述至少一个处理器执行的计算机程序, 所述计算机程序被所 述至少一个处理器执行, 以使所述至少一个处理器能够执行权利要求1 ‑7中任一项所述的 多源数据的实时同步方法。 10.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质存储有计算机指 令, 所述计算机指令用于使处理器执行时实现权利要求1 ‑7中任一项所述的多源数据的实 时同步方法。权 利 要 求 书 2/2 页 3 CN 114416881 A 3
专利 一种多源数据的实时同步方法、装置、设备及介质
文档预览
中文文档
17 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2.5元下载(无需注册)
温馨提示:本文档共17页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2.5元下载
本文档由 人生无常 于
2024-03-18 11:14:12
上传分享
举报
下载
原文档
(726.3 KB)
分享
友情链接
GB-T 37966-2019 纳米技术 氧化铁纳米颗粒类过氧化物酶活性测量方法.pdf
GB 21347-2023 工业硅和镁单位产品能源消耗限额.pdf
GB-T 15610-2008 同色异谱的目视评价方法.pdf
NIST.信息安全人才框架(NCWF).中文.v2.0 .pdf
GB 38031-2020 电动汽车用动力蓄电池安全要求.pdf
T-NIFA 20—2023 金融数据资产管理指南.pdf
GB-T 33134-2023 信息安全技术 公共域名服务系统安全要求.pdf
思度安全-DSMM-024 监控与审计管理规范V1.0.pdf
专利 一种基于大数据的信息安全运维管理系统及方法.PDF
GB-T 29246-2023 信息安全技术 信息安全管理体系 概述和词汇 ISO 27000-2018.pdf
GB-T 28159-2011 电子级磷酸.pdf
医疗卫生机构网络安全管理办法.pdf
GB-T 39418-2020 风暴潮等级.pdf
CSA 基于个人信息保护法的合规控制验证框架.pdf
GB-T 23872.1-2009 岩土工程仪器 土压力计 第1部分:振弦式土压力计.pdf
法律法规 青海省行政机构设置和编制管理条例2004-05-29.pdf
GM-T 0055-2018 电子文件密码应用技术规范.pdf
GB-T 38146.2-2019 中国汽车行驶工况 第2部分:重型商用车辆.pdf
GB-T 16553-2017 珠宝玉石 鉴定.pdf
GB-T 41895-2022 细胞中DNA病毒测定 MNP标记法.pdf
1
/
3
17
评价文档
赞助2.5元 点击下载(726.3 KB)
回到顶部
×
微信扫码支付
2.5
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。