目录
读写分离,基本的原理是让主数据库处理事务性增、改、删操作( INSERT、UPDATE、DELETE) 而从数据库处理SELECT查询操作。
数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库
因为数据库的“写”(写10000条数据可能要3分钟)操作是比较耗时的;
但是数据库的“读”(读10000条数据可能只要5秒钟);
所以读写分离,解决的是,数据库的写入,影响了查询的效率.
数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用。利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能
在实际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。因此,通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力。有点类似于rsync,但是不同的是rsync是对磁盘文件做备份,而mysq1 主从复制是对数据库中的数据、语句做备份
STATEMENT:基于语句的复制 | 在服务器上执行SQL语句,在从服务器上执行相同的语句,MySQL默认采用基于语句的复制,执行效率高 |
ROW:基于行的复制 | 把改变的内容复制过去,而不是把命令在从服务器上执行一遍 |
MIXED:混合类型的复制 | 默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制 |
1.Master节点将数据的改变记录成二进制日志(bin log),当Master上的数据发生改变时,则将 其改变写入二进制日志中。
2.Slave节点会在一定时间间隔内对Master的二进制日志进行探测其是否发生改变,如果发生改变,则开始一个I/O线程请求Master的二进制事件。
3.同时Master节点为每个I/O线程启动一个dump线程,用于向其发送二进制事件,并保存至Slave节点本地的中继日志(Relay log)中,Slave节点将启动SQL线程从中继日志中读取二进制日志,在本地重放,即解析成SQL语句逐一执行,使得其数据和Master节点的保持一致,最后I/O线程和SQL线程将进入睡眠状态,等待下一次被唤醒。
注意:
中继日志通常会位于 OS 缓存中,所以中继日志的开销很小。
复制过程中有一个很重要的限制,即复制在 Slave 上是串化的,也就是说 Master上的并行更新操作不能再Slave上并行操作。
(1)master服务器高并发,形成大量事务
(2)网络延迟
(3)主从硬件设备导致 cpu主频、内存io、硬盘io
(4)从库使用高性能主机。包括cpu强悍、内存加大。避免使用虚拟云主机,使用物理主机,这样提升了i/o方面性。
(5)从库使用SSD磁盘。
(6)网络优化,避免跨机房实现同步
读写分离就是只在主服务器上写,只在从服务器上读。基本的原理是让主数据库处理事务性查询,而从数据库处理select查询。数据库复制被用来把主数据库上事务性查询导致的变更同步到集群中的从数据库
在代码中根据select、 insert 进行路由分类,这类方法也是目前生产环境应用最广泛的。
优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;缺点是需要开发人员来实现,运维人员无从下手
但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。
代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库
有以下代表性程序:
MySQL-Proxy | MySQL-Proxy 为MySQL开源项目,通过其自带的lua脚本进行SQL判断 |
Atlas | 是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。360内部使用Atlas运行的mysq1业务,每天承载的读写请求数达几十亿条。支持事物以及存储过程 |
Amoeba | 由陈思儒开发,作者曾就职于阿里巴巴。该程序由Java语言进行开发,阿里巴巴将其用于生产环境。但是它不支事务和存储过程 |
由于使用MySQL Proxy 需要写大量的Lua脚木,这些Lua并不是现成的,而是需要自己去写。这对于并不熟悉MySQL Proxy内置变量和MySQLProtocol的人来说是非常困难的
Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层.
环境准备:
主机 | 操作系统 | IP地址 | 所需工具/软件/安装包 |
---|---|---|---|
Master | CentOS7 | 192.168.111.175 | ntp 、 mysql-boost-5.7.20.tar.gz |
Slave1 | CentOS7 | 192.168.111.176 | ntp 、ntpdate 、 mysql-boost-5.7.20.tar.gz |
Slave2 | CentOS7 | 192.168.111.177 | ntp 、ntpdate 、mysql-boost-5.7.20.tar.gz |
所有服务器关闭防火墙:
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
主服务器Master设置(192.168.111.175)
从服务器设置(192.168.111.176、192.168.111.177)
配置slave1
配置Slave2
实验准备:
主机 | 操作系统 | IP地址 | 所需工具/软件/安装包 |
---|---|---|---|
Master | CentOS7 | 192.168.111.175 | ntp 、 mysql-boost-5.7.20.tar.gz |
Amoeba | CentOS7 | 192.168.111.178 | jdk-6u14-linux-x64.bin、amoeba-mysql-binary-2.2.0.tar.gz |
Slave1 | CentOS7 | 192.168.111.176 | ntp 、ntpdate 、 mysql-boost-5.7.20.tar.gz |
Slave2 | CentOS7 | 192.168.111.177 | ntp 、ntpdate 、mysql-boost-5.7.20.tar.gz |
客户端 | CentOS7 | 192.168.111.173 | - - - - - - - - - - - - - - - -- - - - - - - - - |
配置Amoeba服务器(192.168.111.178)
因为Amoeba基于是jdk1.5 开发的,所以官方推荐使用jdk1.5 或1.6版本,高版本不建议使用。
安装amoeba
在Master、Slave1、 Slave2 的mysq上开放权限给Amoeba 访问
回到amoeba服务器
修改amoeba的主配置文件:
修改数据库配置文件:
启动Amoeba软件,按ctrl+c 返回
查看8066端口是否开启,默认端口为TCP 8066
Master、Slave1、Slave2为搭建MySQL主从复制时配置的主机(详见 二.搭建MySQL主从复制)
客户机如果没有安装MySQL数据库可以使用mariadb客户端(mairadb比MySQL更轻量级的版本)
mariadb的作用:
提供命令库
提供连接数据的驱动
提供tcp的端口3306
yum install -y mariadb-server mariadb
systemctl start mariadb.service
我的客户端安装了mysql,没有使用mariadb
client端远程访问amoeba的地址,并进入数据库创建新的数据库,并创建一个表
查看master端
查看slave1
查看slave2
现在在两台从服务器关闭同步
slave1向表中添加内容
slave2向表中添加内容
主服务器向表中添加内容
在使用客户端查看表的数据
此时,在客户端写入数据
master能看到已写入
slave1和slave2看不到
文章浏览阅读532次。在上篇文章中https://blog.csdn.net/yanyf2016/article/details/102972195生成的实体类没有数据库自己定义的注释,根据网上找到的资料以及阅读Mybatis-generator源码,发现可以通过自定义注释生成器 CommentGenerator 接口的实现类来达到我们的目的。通过阅读源码可以看到,代码生成注释是通过DefaultComm..._mybatis-generator 导出comment
文章浏览阅读9.3k次。yaml是一种适合人类阅读的标记语言,主要用来标记hierarchy结构的数据。我所了解的C++阅读yaml的工具有OpenCV和yaml-cpp。这里以我的经验为例简单介绍yaml-cpp安装过程。_libyaml-cpp.so.0.5
文章浏览阅读890次。CS5261和CS5266都是高性价比Typec转HDMI扩展芯片方案 ,支持4K30HZ高清投屏。其差异是:CS5261大多做Typec单转HDMI ,有客户做带5V900mA慢充方案 ,而CS5266是支持PD3.0快充并且插拔PD充电口不掉屏。CS5261和CS5266设计电路对比:CS5261 QFN48封装,CS5266是QFN68封装 ,两者的管脚分布及定义对比如下:CS5266管脚分布及定义如下:综上所述:CS5261和CS5266两者还是有一定的差异 ,..._cs5266
文章浏览阅读3k次,点赞122次,收藏103次。也被称为“保留字”,是有特殊功能的标识符,不允许开发者自定义。构成python语言语法结构的核心元素,不可用作变量名或函数名。理解并熟练运用这些关键字对于编写高质量、易于理解和维护的代码至关重要。本文将带你一起探索Python中的各类关键字及其应用场景。_keyword.softkwlist
文章浏览阅读1.5w次,点赞11次,收藏52次。在系统性能优化的时候,或者说在进行代码开发的时候,多数人应该都知道一个很基本的原则,那就是保证功能正常良好的情况下,要尽量减少对数据库的操作。 据我所知,原因大概有这样两个: 一个是,一般情况下系统服务器和数据库服务器应该是不在同一硬件上,这时候对数据库的连接、操作就和网络有了很大的关系,连接、操作数据库越多就越影响性能。 二是,数据库的数据持久化在硬件磁盘上,对数据库数据的操作就要进行磁盘的_c3p0和druid 项目使用比例
文章浏览阅读440次,点赞5次,收藏4次。1、打开qt creator的工具–选项–kits–编译器,选择Manual即手动添加,点击添加–MSVC–C++,按如下配置分别添加32-bit和64-bit。到此整个安装和配置就完成了,可以在Visual Studio创建工程进行Qt软件程序开发。点击之后会出现下图所示界面,然后在Path处添加上述步骤一安装的QT MSVC编译器路径。三、在QT Creator中配置msvc2017编译器。1、工具 -> 扩展与更新 -> 联机 -> 搜索qt。四、在VS2019中配置qt工具。_vs qt 配置
文章浏览阅读1.2k次,点赞25次,收藏17次。本地c++ vs+gdal开发环境搭建_windows 安装 gdal
文章浏览阅读728次。椭圆曲线数字签名及验证1.生成私钥和公钥生成椭圆曲线对象生成密钥对,返回私钥对象编码生成公钥字节数组,参数是椭圆曲线、x坐标、y坐标2.ECDSA数字签名数字签名生成r、s的big.Int对象,参数是随机数、私钥、签名文件的哈希串将r、s转成r、s字符串r和s字符串凭借,形成数字签名的der格式3.生成签名的DER编码格式获取r和s的长度计算DER序列的总长度将1..._注意做一个针对任意输入的椭圆曲线签名,需要输出哈希的结果,签名的结果,并且验证
文章浏览阅读995次。在与朋友讨论查询时引出了not in 与and not两种踢出方法,相互的口舌之争之后我决定动手来查查看,他们到底有什么区别,谁的执行效率更高,今后该如何选择性能最优的查询条件。由于本人能力有限,肚子中的墨水有限,所以本文有什么错误之处还望各位前辈指出。在使用sql中我们会有各种各样的条件筛选,常见的就是要踢出一部分我们不需要的数据,在where后面的踢出方法常见的有 (..._sql not in 和>=
文章浏览阅读110次。半泽也好,大和田也好,都只是这世上的某一股势力,或代表正义,或代表邪恶。对于普通的观众而言,很容易被编辑人员的感情倾向所蛊惑,太把半泽的得失当回事。而编辑的高明之处就在于,直到第一季故事的末尾,我们才发现真正的王者、中野渡行长,只是将半泽当成一颗棋子而已,以促成他辖区内的势力平衡,而所谓正邪之争,在主政者眼里只是一种权利的制约游戏,谁赢谁输都无所谓。这种执政思路给我们留下了无限遐想,也大概..._python半泽直树
文章浏览阅读4.8k次,点赞4次,收藏26次。服务器过多,容易出错修改配置,可能会存在未修改到位的情况服务器部署权限一般只有开发服务器人才有权限,涉及到服务器的安全。_jenkins打包,发布,部署
文章浏览阅读2w次,点赞9次,收藏56次。1.在原始数据上新增一列数据原始数据字段有:学号(snao),姓名(sanem),年龄(age):新增数据,新增一列分数字段:分数(sresult) :(1)我们首先创建并写入原始数据代码如下:import pandas as pd # 导入pandas 模块# 写入初始值 sno、sname、sagesno = [202001,202002] # 学号sname = ["张三","李四"] # 姓名sage = [20,18] # 年龄# 创建dataframe对象,写入数据:字段_pandas给csv添加一列