百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分析 > 正文

Redis技术架构及其深度应用

liebian365 2025-01-02 17:39 20 浏览 0 评论

一、核心服务模型

1)单进程单线程(成也萧何败萧何)

2)IO多路复用(同步非阻塞IO)

3)实现ae小型事件库,类似libevent,libev

不过不像libevent是线程不安全的,多线程不能share同一个event_base,就算是加锁操作也不行,只能采取“单线程单event_base”的策略了

4) 嵌入lua环境

5) 使用zmalloc库(封装了ptmalloc,tcmalloc和jemalloc),对内存使用情况的统计

二、高度模块化

redis.c //程序主要文件

replication.c //数据同步master-slave

config.c //配置文件解析

multi.c //事务,多条命令一起打包处理

zmalloc.c //内存管理

scripting.c //嵌入lua脚本

ae.c //事件驱动

ae_epoll.c //epoll接口, linux用

ae_kqueue.c //kqueue接口, freebsd用

ae_select.c //select接口, windows用

anet.c //网络处理

networking.c //读取、解析和处理客户端命令

aof.c //处理aof持久化文件

rdb.c//处理rdb持久化文件

db.c //DB处理

object.c //各种对像的创建与销毁,string、list、set、zset、hash

sds.c //字符串处理

adlist.c //双向链表

dict.c //hash表

t_string.c //string类型处理

t_hash.c //hash类型处理

t_list.c //list类型处理

t_set.c //set类型处理

t_zset.c //zset类型处理

intset.c //转换为数字类型数据

ziplist.c //节省内存方式的list处理

zipmap.c //节省内存方式的hash处理

sort.c //用于list、set、zset排序

三、技术架构及模块的其他应用

1、wrk,高性能http压测工具,使用ae模块,嵌入lua,使用zmalloc封装内存分配库

2、 disque,使用redis全套框架的高性能消息队列,redis之父的全新力作


四、Redis在服务器开发中的应用

  1. 数据缓存、数据同步

    1)全内存

    2)可异步持久化

    3)Master/slave主从同步

    4)增量的数据同步

  2. 嵌入lua环境

    类似ngx+lua的方式实现了一套redis+lua,考虑到性能可以使用luajit。

    载入了lua标准库,序列化库cmsgpack和cjson

    重新实现redis的随机数函数替代lua的标准库随机函数

    作者认为Lua随机数生成算法的默认实现中使用了libc的rand()函数,而libc的rand()并不能保证在设置了相同种子的情况下,不同平台能生成相同的随机数序列。因此作者重写这一文件,保证跨平台性。

    封装对redis操作的函数到lua的全局变量redis中

    redis.call(),redis.pcall(),

    redis.log(),

    edis.sha1hex(),

    redis.error_reply(),redis.status_reply()

  3. 其他应用

    1)Unix套接字通讯,进程间通讯

    2)Mget节省网络交互开销,相同命令

    3)Pipeline节省网络交互开销,不同命令

    4)消息队列(无序队列、有序队列)

    lpush,rpop;rpush,lpop;

    zset;

    5) 分布式锁

    单进程单线程模式,队列模式将并发访问变成串行访问。

    setnx,getset

  4. 高可用

    1)Keepalived+虚IP,脚本进行主从切换和故障转移

    2)Sentinel,监控redis节点的状态,流言协议判断主从状态,投票协议决定故障转移 3)RedisCluster,服务端级别的数据分片,对客户端透明

    4)RedisSentinelClient,客户端级别的数据分片,对redis服务透明

    5)Proxy,代理级别的数据分片,如twemproxy,codis

相关推荐

Markdown 常用语法总结(markdown示例)

头条不能以代码模式查看,所以分两部分来写:效果、语法。效果和语法部分一一对应,最好自己把语法复制下来保存为.md用md编辑器打开。先看效果:Markdown常用语法注:查阅时在视图中切换为源代码模式...

CPU眼里的:字符串 vs 数组(字符数组与字符串区别)

“它们十分相似,但又非常不同”01提出问题字符串和字符数组,在内存分布上,跟普通数组(例如:int类型的数组)有很高的相似性。但使用字符串的危险系数,却远远高于普通数组。是什么细微的差异导致了二者在使...

rsync命令详解(rsync命令详解 -X)

1.rsync简介rsync是linux系统下的数据镜像备份工具。使用快速增量备份工具RemoteSync可以远程同步,支持本地复制,或者与其他SSH、rsync主机同步。2.rsync特性rsy...

Linux操作系统安全配置(linux系统的安全配置有哪些方面)

一、服务相关命令systemctlenable服务名#开机自启动systemctldisable服务名#禁用开机自启动systemctlstop服务名#停止服务systemctls...

一篇文章学会数据备份利器rsync(备份数据语句)

阿铭linux近16年的IT从业经验,6年+鹅厂运维经验,6年+创业公司经验,熟悉大厂运维体系,有从零搭建运维体系的实战经验。关注我,学习主流运维技能,让你比别人提升更快,涨薪更多!作为一个系统管理员...

成功尝试在NetBSD9.0中安装Mate Desktop环境记录

NETBSD系统桌面安裝系統最新的NetBSD9.0:http://cdn.netbsd.org/pub/NetBSD/NetBSD-9.0/images/https://mirrors.tuna.t...

使用OpenLDAP集中式认证(openresty集群)

1OpenLDAP入门1.1什么是LDAP?1.2我不理解。什么是目录?1.3信息结构是什么样?1.4所以……它可以用来做什么?2OpenLDAP服务器配置2.1.1OLC样式的LDIF...

在 Ubuntu 22.04 上安装和配置 VNC 远程桌面

环境Ubuntu22.04.2LTSx86_64Step-1安装桌面环境Ubuntu默认使用GNOME桌面环境,但也可以安装其他桌面环境,如Xfce、KDE等。这个可以根据个人喜好选...

hdfs集群的扩容和缩容(hdfs容量)

1、背景当我们的hadoop集群运行了一段时间之后,原有的数据节点的容量已经不能满足我们的存储了,这个时候就需要往集群中增加新的数据节点。此时我们就需要动态的对hdfs集群进行扩容操作(节点服役)。2...

Zabbix入门操作指南(zabbix怎么使用)

上篇:安装与配置一.概述在开始之前,一些概念和定义需要我们提前了解一下(以下内容摘自官方网站)。1.1几个概念架构Zabbix由几个主要的功能组件组成,其职责如下所示。ServerZabbixs...

从0开始学习KVM-KVM学习笔记(6)- CentOS远程桌面连接

CentOS远程桌面连接CentOS系统上配置远程桌面连接有多种方法,其中最常用的是通过xrdp或vnc来实现。安装xrdr实现CentOS远程桌面安装xrdp安装epel库sudoyu...

systemd service之:服务配置文件编写(2)

接下来会通过示例来描述不同ServiceType值的应用场景。在此之前,强烈建议先阅读前后台进程父子关系和daemon类进程来搞懂进程之间的关系和Daemon类进程的特性。systemdservi...

Linux项目开发,你必须了解Systemd服务!

1.Systemd简介Systemd是什么,以前linux系统启动init机制,由于init一方面对于进程的管理是串行化的,容易出现阻塞情况,另一方面init也仅仅是执行启动脚本,并不能对服务本身...

Oracle 数据库日常巡检之检查数据库安全性

在本节主要检查Oracle数据库的安全性,包含:检查系统安全信息,如系统账户,系统防火墙策略,密码策略等。1.检查系统安全信息系统安全日志文件的目录在/var/log下,主要检查登录成功或失败的用户日...

「分享」非常全面的CentOS7系统安全检测和加固脚本

CentOS7系统检测和加固脚本脚本来源:https://github.com/xiaoyunjie/Shell_Script主要是为了Linux系统的安全,通过脚本对Linux系统进行一键检测和一键...

取消回复欢迎 发表评论: