安全公司报告
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210129518.X (22)申请日 2022.02.11 (71)申请人 北京百度网讯科技有限公司 地址 100085 北京市海淀区上地十街10号 百度大厦2层 (72)发明人 任鸿翔 朱超 (74)专利代理 机构 北京柏杉松知识产权代理事 务所(普通 合伙) 11413 专利代理师 马敬 项京 (51)Int.Cl. G06F 9/54(2006.01) G06F 9/52(2006.01) G06F 16/23(2019.01) G06F 16/2455(2019.01) (54)发明名称 一种数据处理方法、 装置、 系统、 电子设备及 存储介质 (57)摘要 本公开提供了一种数据处理方法、 装置、 系 统、 电子设备及存储介质, 涉及数据处理领域, 尤 其涉及大数据技术领域。 具体实现方案为: 接收 RCMC接收模块发送的资源内容数据, 资源内容数 据的NID与RCMC处理模块具有映射关系; 为接收 到的资源内容数据的NID构造互斥锁, 基于互斥 锁将携带相同NID的资源内容数据依次写入数据 库; 每完成对一条资源内容数据的写入, 将该资 源内容数据添加至本地队列中; 基于本地队列中 每条资源内容数据的NID的互斥锁, 将本地队列 中的资源内容数据推送至本地 队列对应的第一 消息中间件, 以使得缓存服务 从第一消息中间件 中获取并缓存资源内容数据。 可以避免缓存服务 缓存错误版本的资源内容数据。 权利要求书2页 说明书10页 附图4页 CN 114564318 A 2022.05.31 CN 114564318 A 1.一种数据处理方法, 所述方法应用于资源内容管理中心RCMC处理模块, 所述方法包 括: 接收RCMC接收模块发送的资源内容数据, 所述资源内容数据携带消息标识NID, 所述资 源内容数据的N ID与所述RC MC处理模块具有映射关系; 为接收到的资源内容数据的NID构造互斥锁, 基于互斥锁将携带相同NID的资源内容数 据依次写入数据库; 每完成对一条资源内容数据的写入, 将该资源内容数据添加至 本地队列中; 基于所述本地队列中每条资源内容数据的NID的互斥锁, 将所述本地队列中的资源内 容数据推送至所述本地队列对应的第一消息中间件, 以使得缓存服务从所述第一消息中间 件中获取并缓存资源内容数据。 2.根据权利要求1所述的方法, 其中, 基于所述本地队列中每条资源内容数据的NID的 互斥锁, 将所述本地队列中的资源内容数据推送至所述本地队列对应的第一消息中间件, 包括: 通过预设数量个线程获取所述本地队列预设窗口中的每条资源内容数据, 其中, 所述 预设窗口中包括所述本地队列中前 预设数量条资源内容数据; 通过每个线程基于获取到的资源内容数据的NID的互斥锁, 将获取到的资源内容数据 推送至所述本地队列对应的第一消息中间件。 3.根据权利要求1或2所述的方法, 其中, 每完成对一条资源内容数据的写入, 将该资源 内容数据添加至 本地队列中, 包括: 每完成对一条资源内容数据的写入, 在该资源内容数据需要被写入缓存层的情况下, 将该资源内容数据添加至与该资源内容数据所需被推送的第一消息中间件对应的本地队 列中, 其中, 多个第一消息中间件与所述RCMC处理模块中的多个本地队列具有一一对应的 关系。 4.根据权利要求1所述的方法, 其中, 所述RCMC处理模块接收到的资源内容数据为: 所 述RCMC接收模块对获取到的资源内容数据的NID进行一致性哈希运算得到哈希值后, 所确 定出的与所述RC MC处理模块具有预设映射关系的哈希值对应的资源内容数据。 5.根据权利要求4所述的方法, 其中, 所述RCMC接收模块获取到的资源内容数据来自于 第二消息中间件, 所述第二消息中间件用于缓存更新后的资源内容数据。 6.一种数据处理装置, 所述装置应用于资源内容管理中心RCMC处理模块, 所述装置包 括: 接收单元, 用于接收RCMC接收模块发送的资源内容数据, 所述资源内容数据携带消息 标识NID, 所述资源内容数据的N ID与所述RC MC处理模块具有映射关系; 写入单元, 用于为接收到的资源内容数据的NID构造互斥锁, 基于互斥锁将携带相同 NID的资源内容数据依次写入数据库; 添加单元, 用于每完成对一条资源内容数据的写入, 将该资源内容数据添加至本地队 列中; 推送单元, 用于基于所述本地队列中每条资源内容数据的NID的互斥锁, 将所述本地队 列中的资源内容数据推送至所述本地队列对应的第一消息中间件, 以使得缓存服务从所述 第一消息中间件中获取并缓存资源内容数据。权 利 要 求 书 1/2 页 2 CN 114564318 A 27.根据权利要求6所述的装置, 其中, 所述推送单 元, 具体用于: 通过预设数量个线程获取所述本地队列预设窗口中的每条资源内容数据, 其中, 所述 预设窗口中包括所述本地队列中前 预设数量条资源内容数据; 通过每个线程基于获取到的资源内容数据的NID的互斥锁, 将获取到的资源内容数据 推送至所述本地队列对应的第一消息中间件。 8.根据权利要求6或7 所述的装置, 其中, 所述添加单 元, 具体用于: 每完成对一条资源内容数据的写入, 在该资源内容数据需要被写入缓存层的情况下, 将该资源内容数据添加至与该资源内容数据所需被推送的第一消息中间件对应的本地队 列中, 其中, 多个第一消息中间件与所述RCMC处理模块中的多个本地队列具有一一对应的 关系。 9.根据权利要求6所述的装置, 其中, 所述RCMC处理模块接收到的资源内容数据为: 所 述RCMC接收模块对获取到的资源内容数据的NID进行一致性哈希运算得到哈希值后, 所确 定出的与所述RC MC处理模块具有预设映射关系的哈希值对应的资源内容数据。 10.根据权利要求9所述的装置, 其中, 所述RCMC接收模块获取到的资源内容数据来自 于第二消息中间件, 所述第二消息中间件用于缓存更新后的资源内容数据。 11.一种数据处理系统, 包括: 多个RCMC接收模块、 多个RCMC处理模块、 数据库、 第一消 息中间件和缓存服 务; 每个RCMC接收模块, 用于向与资源内容数据的NID具有映射关系的RCMC处理模块发送 资源内容数据; 每个RCMC处理模块, 用于执 行权利要求1 ‑5任一项所述的方法; 所述缓存服 务, 用于从所述第一消息中间件中获取并缓存资源内容数据。 12.根据权利要求1 1所述的系统, 其中, 每个RCMC接收模块, 具体用于对获取到的每条资源内容数据的NID进行一致性哈希运 算得到哈希值, 向与该哈希值具有预设映射关系的RC MC处理模块发送该资源内容数据。 13.根据权利要求12所述的系统, 所述系统还 包括第二消息中间件; 所述第二消息中间件, 用于缓存更新后的资源内容数据; 所述多个RC MC接收模块, 用于从所述第二消息中间件中获取资源内容数据。 14.一种电子设备, 包括: 至少一个处 理器; 以及 与所述至少一个处 理器通信连接的存 储器; 其中, 所述存储器存储有可被所述至少一个处理器执行的指令, 所述指令被所述至少一个处 理器执行, 以使所述至少一个处 理器能够执 行权利要求1 ‑5中任一项所述的方法。 15.一种存储有计算机指令的非瞬时计算机可读存储介质, 其中, 所述计算机指令用于 使所述计算机执 行根据权利要求1 ‑5中任一项所述的方法。 16.一种计算机程序产品, 包括计算机程序, 所述计算机程序在被处理器执行时实现根 据权利要求1 ‑5中任一项所述的方法。权 利 要 求 书 2/2 页 3 CN 114564318 A 3
专利 一种数据处理方法、装置、系统、电子设备及存储介质
文档预览
中文文档
17 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2.5元下载(无需注册)
温馨提示:本文档共17页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2.5元下载
本文档由 人生无常 于
2024-03-18 11:14:54
上传分享
举报
下载
原文档
(813.6 KB)
分享
友情链接
GB-T 24421.2-2023 服务业组织标准化工作指南 第2部分:标准体系构建.pdf
GB-T 36361-2018 LED加速寿命试验方法.pdf
GA-T DSJ 350-2019 公安大数据安全 安全访问平台技术设计要求.pdf
GB-T 1859.2-2015 往复式内燃机 声压法声功率级的测定 第2部分:简易法.pdf
GB-T 39276-2020 信息安全技术 网络产品和服务安全通用要求.pdf
GB-T 3621-2007 钛及钛合金板材.pdf
GB-T 21023-2007 中文语音识别系统通用技术规范.pdf
GB-T 42016-2022 信息安全技术网络音视频服务数据安全要求.pdf
GM-T 0062-2018 密码产品随机数检测要求.pdf
T-CEC 5072—2022 抽水蓄能电站高压压水试验规程.pdf
GB-T 41871-2022 信息安全技术 汽车数据处理安全要素.pdf
DB11-T 2046.2-2022 智慧停车系统技术要求 第2部分:停车场(库)外场设备 北京市.pdf
T-CAPE 11002—2019 铁路工程施工质量安全信息化监控系统规范.pdf
YD-T 1730-2008 电信网和互联网安全风险评估实施指南.pdf
GM-T 0032-2014 基于角色的授权与访问控制技术规范.pdf
GB 31892-2015 伞类产品安全通用技术条件.pdf
GB-T 34942-2017 信息安全技术 云计算服务安全能力评估方法.pdf
GB-T 35278-2017 信息安全技术 移动终端安全保护技术要求.pdf
GB-T 37114-2018 公共汽电车线网设置和调整规则.pdf
T-GAZE 3002—2023 共享医疗综合体管理指南.pdf
1
/
3
17
评价文档
赞助2.5元 点击下载(813.6 KB)
回到顶部
×
微信扫码支付
2.5
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。