并发、消息队列、缓存_消息队列与缓存的区别-程序员宅基地

技术标签: 并发  

"并发"会引发关于"顺序"的问题,及如何能够在使用高并发提高效率的同时,又在一定程度上能够“控制/维持”一定的操作顺序。更广泛的,有关并发的"锁"操作,也都会围绕同样的思路来解决问题。

没有银弹

想要在维持并发的同时,通过什么魔法来同时维持顺序是不可能的。最基本的核心想法是,将并发的操作变为串行,那么操作也就自然会有了顺序

这是一个看似有些矛盾的解决方案。并发的目的不就是为了提高效率么?!如果将并发变成串行,那之前的并发还有什么意义?

这是一个非常微妙的问题,如果不仔细考虑,很容易在表面上陷入上面的矛盾纠葛之中。而调和这两者的基本思路是:

  • “使用并发"来提高效率和"放弃并发"来顺序化,这两个过程可以完全不必发生在同一个地方。可以让效率的瓶颈部分"计算"并行化,而让结果的聚合过程"顺序化”。
  • 可以根据"顺序化"的要求来建立独立的分组,让一个过程在group之间并行化,而在这个group内部做细致的串行,从而在保证局部顺序的同时在全局建立效率更高的并行化。

那么最基本的,使用一个队列来顺序化一些列的并发结果,是非常显而易见的。

为什么考虑queue这样的数据结构?正如其名字所暗示的,当有成群的人从四面八方涌来进入一个入口时,保证有序化的一个最基本的方式是:让他们排队。

而这种思想并不需要局限在人群中,而可以抽象出来,为任何抽象的并发任务提供一个解答思路:让所有从四面八方同时冒出来的任务排好队,也即是让它们都进入到一个queue的数据结构中。而为了保证出队、入队的有序性,具备加锁功能的blockingQueue是必须的。

如此就形成了并发任务顺序化的基本思路:让这些并发任务都进入到一个blockingQueue中,出队的过程自然保证了这些任务的有序性。

而把这一思路规模化、稳健化的一个中间件,便是Kafka了。而如果只是轻量级小范围的使用,例如Java中的一个局部,则只需要使用好库里面的BlockingQueue就行了。

“排队"这种思想不只可以应用于"控制并发任务的顺序”,也能够被用来解决任务的加锁问题。诸如Java中的synchronized关键字,在背后所依赖的数据结构也是多个blockingQueue。道理很简单,当你想要控制一堆任务的访问权限,那么,让它们进入一个队列依次获取权限就可以了。

下一个问题是,okay,我知道消息队列可以保存一堆任务,可是,我的任务涉及一大堆的函数执行和数据调度,一个小小的queue能够保存那么多的数据或者操作过程吗?又或是,我的任务只是单纯的执行任务,是一个个的"动作",这东西怎么能够被保存在queue中呢?这些疑问基本上会基于我们潜意识的一个印象,queue所保存的是一个string,可我需要保存的类型多种多样,甚至不是数据而是操作,一堆string的queue真的够吗?

同样的问题会发生在"缓存"的使用上,例如大名鼎鼎的Redis/Memcached。都说缓存很有用,但同样的问题是,在这些中间件中存储一个string能够满足我们的需求吗?

这就涉及到对序列化的讨论,特别地,对json数据的转换。无论你是做并发的"操作",还是有大量的数据需要运行,你都可以将其逐层分解为几个核心的、互相配合的数据块。你并不需要将所有的东西都放在缓存中,只需要将那个能够带动其他东西完成整个流程的关键部分放入到缓存中。

在以前的client-server交互中,前后端耦合非常厉害。而基于json数据格式的Restful API之所以能够流行起来,就在于json数据本身成为了前后端之间的不变量,从而可以实现真正意义上的前后端分离。在这里,json数据充当了前后端的业务协议,是真正不变的business logic。

那么同样的,你的缓存中真正应该存储的,就是能够带动各种并发操作的不变量,它可以以json的形式展示,也可以以对象被序列化之后的别的形式展示。但无论是哪一种,都可以被表示为string。更一般地,按照Unix的哲学,一切皆文件。而文件是什么?无非是一堆二进制码,即string。所谓的"信息工程",information的基本表示方式不就是string么。由此我们便能回答之前提出的问题:小小的string能干什么呢?Everything。

如此,提高效率使用缓存中间件(如Redis/Memcached),顺序化、整合复杂的并发任务使用消息队列(如Kafka/RabbitMQ),都是在捣鼓string。而只要能够将string的运输批量化、系统化,那么任何的操作和数据都可以如法炮制。

如此来看,作为重要和酷炫技术的缓存和消息队列,其牛鼻子就是最简单的排队和信息的字符串表示。只要牵住了这个牛鼻子,其它建立在其上的复杂技艺便能够迎刃理解。

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/kid551/article/details/89511456

智能推荐

稀疏编码的数学基础与理论分析-程序员宅基地

文章浏览阅读290次,点赞8次,收藏10次。1.背景介绍稀疏编码是一种用于处理稀疏数据的编码技术,其主要应用于信息传输、存储和处理等领域。稀疏数据是指数据中大部分元素为零或近似于零的数据,例如文本、图像、音频、视频等。稀疏编码的核心思想是将稀疏数据表示为非零元素和它们对应的位置信息,从而减少存储空间和计算复杂度。稀疏编码的研究起源于1990年代,随着大数据时代的到来,稀疏编码技术的应用范围和影响力不断扩大。目前,稀疏编码已经成为计算...

EasyGBS国标流媒体服务器GB28181国标方案安装使用文档-程序员宅基地

文章浏览阅读217次。EasyGBS - GB28181 国标方案安装使用文档下载安装包下载,正式使用需商业授权, 功能一致在线演示在线API架构图EasySIPCMSSIP 中心信令服务, 单节点, 自带一个 Redis Server, 随 EasySIPCMS 自启动, 不需要手动运行EasySIPSMSSIP 流媒体服务, 根..._easygbs-windows-2.6.0-23042316使用文档

【Web】记录巅峰极客2023 BabyURL题目复现——Jackson原生链_原生jackson 反序列化链子-程序员宅基地

文章浏览阅读1.2k次,点赞27次,收藏7次。2023巅峰极客 BabyURL之前AliyunCTF Bypassit I这题考查了这样一条链子:其实就是Jackson的原生反序列化利用今天复现的这题也是大同小异,一起来整一下。_原生jackson 反序列化链子

一文搞懂SpringCloud,详解干货,做好笔记_spring cloud-程序员宅基地

文章浏览阅读734次,点赞9次,收藏7次。微服务架构简单的说就是将单体应用进一步拆分,拆分成更小的服务,每个服务都是一个可以独立运行的项目。这么多小服务,如何管理他们?(服务治理 注册中心[服务注册 发现 剔除])这么多小服务,他们之间如何通讯?这么多小服务,客户端怎么访问他们?(网关)这么多小服务,一旦出现问题了,应该如何自处理?(容错)这么多小服务,一旦出现问题了,应该如何排错?(链路追踪)对于上面的问题,是任何一个微服务设计者都不能绕过去的,因此大部分的微服务产品都针对每一个问题提供了相应的组件来解决它们。_spring cloud

Js实现图片点击切换与轮播-程序员宅基地

文章浏览阅读5.9k次,点赞6次,收藏20次。Js实现图片点击切换与轮播图片点击切换<!DOCTYPE html><html> <head> <meta charset="UTF-8"> <title></title> <script type="text/ja..._点击图片进行轮播图切换

tensorflow-gpu版本安装教程(过程详细)_tensorflow gpu版本安装-程序员宅基地

文章浏览阅读10w+次,点赞245次,收藏1.5k次。在开始安装前,如果你的电脑装过tensorflow,请先把他们卸载干净,包括依赖的包(tensorflow-estimator、tensorboard、tensorflow、keras-applications、keras-preprocessing),不然后续安装了tensorflow-gpu可能会出现找不到cuda的问题。cuda、cudnn。..._tensorflow gpu版本安装

随便推点

物联网时代 权限滥用漏洞的攻击及防御-程序员宅基地

文章浏览阅读243次。0x00 简介权限滥用漏洞一般归类于逻辑问题,是指服务端功能开放过多或权限限制不严格,导致攻击者可以通过直接或间接调用的方式达到攻击效果。随着物联网时代的到来,这种漏洞已经屡见不鲜,各种漏洞组合利用也是千奇百怪、五花八门,这里总结漏洞是为了更好地应对和预防,如有不妥之处还请业内人士多多指教。0x01 背景2014年4月,在比特币飞涨的时代某网站曾经..._使用物联网漏洞的使用者

Visual Odometry and Depth Calculation--Epipolar Geometry--Direct Method--PnP_normalized plane coordinates-程序员宅基地

文章浏览阅读786次。A. Epipolar geometry and triangulationThe epipolar geometry mainly adopts the feature point method, such as SIFT, SURF and ORB, etc. to obtain the feature points corresponding to two frames of images. As shown in Figure 1, let the first image be ​ and th_normalized plane coordinates

开放信息抽取(OIE)系统(三)-- 第二代开放信息抽取系统(人工规则, rule-based, 先抽取关系)_语义角色增强的关系抽取-程序员宅基地

文章浏览阅读708次,点赞2次,收藏3次。开放信息抽取(OIE)系统(三)-- 第二代开放信息抽取系统(人工规则, rule-based, 先关系再实体)一.第二代开放信息抽取系统背景​ 第一代开放信息抽取系统(Open Information Extraction, OIE, learning-based, 自学习, 先抽取实体)通常抽取大量冗余信息,为了消除这些冗余信息,诞生了第二代开放信息抽取系统。二.第二代开放信息抽取系统历史第二代开放信息抽取系统着眼于解决第一代系统的三大问题: 大量非信息性提取(即省略关键信息的提取)、_语义角色增强的关系抽取

10个顶尖响应式HTML5网页_html欢迎页面-程序员宅基地

文章浏览阅读1.1w次,点赞6次,收藏51次。快速完成网页设计,10个顶尖响应式HTML5网页模板助你一臂之力为了寻找一个优质的网页模板,网页设计师和开发者往往可能会花上大半天的时间。不过幸运的是,现在的网页设计师和开发人员已经开始共享HTML5,Bootstrap和CSS3中的免费网页模板资源。鉴于网站模板的灵活性和强大的功能,现在广大设计师和开发者对html5网站的实际需求日益增长。为了造福大众,Mockplus的小伙伴整理了2018年最..._html欢迎页面

计算机二级 考试科目,2018全国计算机等级考试调整,一、二级都增加了考试科目...-程序员宅基地

文章浏览阅读282次。原标题:2018全国计算机等级考试调整,一、二级都增加了考试科目全国计算机等级考试将于9月15-17日举行。在备考的最后冲刺阶段,小编为大家整理了今年新公布的全国计算机等级考试调整方案,希望对备考的小伙伴有所帮助,快随小编往下看吧!从2018年3月开始,全国计算机等级考试实施2018版考试大纲,并按新体系开考各个考试级别。具体调整内容如下:一、考试级别及科目1.一级新增“网络安全素质教育”科目(代..._计算机二级增报科目什么意思

conan简单使用_apt install conan-程序员宅基地

文章浏览阅读240次。conan简单使用。_apt install conan