jedis pipeline mysql_redis进阶

Redis命令的生命周期客户端向Redis服务器发送命令

命令请求在请求队列中排队等待处理

执行命令

返回命令结果

Redis慢查询慢查询发生在生命周期的第三阶段,是指仅仅执行命令阶段比较慢被称为慢查询。

客户端超时不一定是慢查询,但是慢查询时是客户端超时的一个可能因素。

Redis慢查询相关配置

1. slowlog-max-len

它决定了慢查询日志最多能保存多少条日志,slow log本身是一个内存中的FIFO队列,当队列大小超过slowlog-max-len时,最旧的一条日志将被删除,而最新的一条日志加入到slow log中。默认值:128

支持动态配置

2.slowlog-log-slower-than

它决定要对执行时间大于多少微妙(microsecond , 1秒=1,000,000 微妙)的查询进行记录默认值:10000

slowlog-log-slower-than = 0 ,记录所有命令

slowlog-log-slower-than < 0 ,   不记录任何命令

支持动态配置

慢查询相关命令

1.slowlog get [n]含义:获取慢查询列表中的慢查询信息n:获取出多少条慢查询数据信息

2.slowlog len含义:获取慢查询队列长度

###3.slowlog reset含义:清空慢查询队列

慢查询信息字段字段1:唯一性的日志标识符(Integer)

字段2:被记录命令的执行时间点,已UNIX时间戳格式表示(Integer)

字段3:查询执行时间,以微秒为单位

字段4:完整的执行命令

慢查询运维经验slowlog-log-slower-than不要设置过大,默认10ms,通常设置1ms因为Redis的qps是万级别的,即每秒应能执行10000次请求

当一条命令执行1ms时,那每秒只能执行1000次请求

slowlog-max-len不要设置地过小,通常设置1000左右

需要理解命令的生命周期

定期持久化慢查询因为慢查询只存储于内存中,一宕机慢查询数据就会丢失

通过定期slowlog get将慢查询数据转存到MySQL或者ES中

pipeline的好处省略由于单线程导致的命令排队时间,一次命令的消耗时间=一次网络时间 + 命令执行时间

比起命令执行时间,网络时间很可能成为系统的瓶颈

pipeline的作用是将一批命令进行打包,然后发送给服务器,服务器执行完按顺序打包返回。

通过pipeline,一次pipeline(n条命令)=一次网络时间 + n次命令时间

命令N个命令操作1次pupeline(n个命令)时间n次网络+n次命令1次网络+n次命令数据量1条命令n条命令

pipeline-Jedis使用

//没有使用pipieline的情况下

public void testWithoutPipeline() {

Jedis jedis = new Jedis("127.0.0.1" , 6379);

for(int i = 1 ; i <= 10000 ; i++ ) {

jedis.hset("hashKey-" + i , "field-" + i , "value-" + i);

}

}

//使用pipeline的情况下

public void testPipeline() {

Jedis jedis = new Jedis("127.0.0.1" , 6379);

for(int i = 0 ; i < 100 ; i++ ) {

Pipeline pipeline = jedis.pipelined();

for(int j = i * 100 ; i < (i+1) * 100 ; j++ ) {

pipeline.hset("hashKey-" + j , "field-" + j , "value-" + j);

}

pipeline.syncAndReturnAll();

}

}

pipeline VS M操作(mget、mset)M操作在Redis队列中是一个原子操作,pipeline不是原子操作

pipeline与M操作都会将数据顺序的传送与顺序地返回

pipeline注意事项每次pipeline携带数量不推荐过大,否则会影响网络性能

pipeline每次只能作用在一个Redis节点上

发布订阅的角色与通信模型

1.角色发布者(publisher)

订阅者(subscriber)

频道(channel)

2.通信模型RedisServer中可以创建若干channel

一个订阅者可以订阅多个channel

当发布者向一个频道中发布一条消息时,所有的订阅者都将会收到消息

Redis的发布订阅模型没有消息积压功能,即新加入的订阅者收不到发布者之前发布的消息

当订阅者收到消息时,消息内容如下第一行:固定内容message

第二行:channel的名称

第三行:收到的新消息

发布订阅的API

1.publish channel message含义:向指定的channel中发布消息

2.subscribe channel1 [channel2...]含义:订阅给定的一个或多个渠道的消息

3.unsubcribe [channel1 [channel2...]]含义:取消订阅给定的一个或多个渠道的消息

###4.psubscribe pattern1 [pattern2...]含义:订阅一个或多个符合给定模式的频道

###5.punsubscribe [pattern1 [pattern2...]]含义:退订所有给定模式的频道

6.pubsub channels含义:列出至少有一个订阅者的频道

###7.pubsub numsub [channel...]含义:列出给定频道的订阅者数量

发布订阅-Jedis

//订阅

public void testSubscribe() {

Jedis jedis = new Jedis("127.0.0.1" , 6379);

jedis.subscribe(new JedisPubSub() {

@Override

public void onMessage(String channel, String message) {

System.out.println("receive channel ["+channel+"] message ["+message+"]");

}

} , "aliTV" , "googleTV");

}

//发布

public void testPublish() {

Jedis jedis = new Jedis("127.0.0.1" , 6379);

jedis.publish("aliTV" , "I am xuyinan");

jedis.publish("googleTV" , "My age is 27");

}

BitMap的API

1.getbit key offset含义:对key所存储的字符串值,获取指定偏移量上的位(bit)

2.setbit key offset value含义:对key所存储的字符串值,设置或清除指定偏移量上的位(bit)返回值为该位在setbit之前的值

value只能取0或1

offset从0开始,即使原位图只能10位,offset可以取1000

3.bitcount key [start end]含义:获取位图指定范围中位值为1的个数如果不指定start与end,则取所有

4.bitop op destKey key1 [key2...]含义:做多个BitMap的and(交集)、or(并集)、not(非)、xor(异或)操作并将结果保存在destKey中

5.bitpos key tartgetBit [start end]含义:计算位图指定范围第一个偏移量对应的的值等于targetBit的位置找不到返回-1

start与end没有设置,则取全部

targetBit只能取0或者1

BitMap的使用场景

统计每日用户的登录数。每一位标识一个用户ID,当某个用户访问我们的网页或执行了某个操作,就在bitmap中把标识此用户的位设置为1。

#HyperLogLog简介基于HyperLogLog算法,使用极小空间完成独立数量统计的功能

本质还是一个字符串

十分节约内存

官方给出存在0.81%的错误率

无法取出单条数据

HyperLogLog的相关命令

1.pfadd key element1 [element2...]含义:向HyperLogLog中添加元素

2.pfcount key1 [key2...]含义:计算HyperLogLog的独立总数

3.pfmerge destKey key1 [key2...]含义:合并多个hyperLogLog到destKey中

GEO简介Redis 3.2添加新特性

功能:存储经纬度、计算两地距离、范围计算等

基于ZSet实现

删除操作使用zrem

GEO相关命令

1.geoadd key longitude latitude member [lon lat member...]含义:增加地理位置信息longitude :经度

latitude     :  纬度

member   :  标识信息

2.geopos key member1 [member2...]含义:获取地理位置信息

###3.geodist key member1 member2 [unit]含义:获取两个地理位置的距离

unit取值范围m(米,默认)

km(千米)

mi(英里)

ft(英尺)

###4.georadius key longitude latitude unit [withcoord] [withdist] [withhash] [COUNT count] [sort] [store key] [storedist key]含义:以给定的经纬度为中心,返回包含的位置元素当中,与中心距离不超过给定最大距离的所有位置元素。

unit取值范围m(米)

km(千米)

mi(英里)

ft(英尺)

withcoord:将位置元素的经度与纬度也一并返回

withdist:在返回位置元素的同时,将距离也一并返回。距离的单位和用户给定的范围单位保持一致

withhash:以52位的符号整数形式,返回位置元素经过geohash编码的有序集合分值。用于底层应用或调试,实际作用不大。

sort取值范围asc:根据中心位置,按照从近到远的方式返回位置元素

desc:根据中心位置,按照从远到近的方式返回位置元素

store key:将返回结果而的地理位置信息保存到指定键

storedist key:将返回结果距离中心节点的距离保存到指定键

5.georadiusbymember key member radius unit [withcoord][withdist][withhash][COUNT count][sort][store key][storedist key]含义:以给定的元素为中心,返回包含的位置元素当中,与中心距离不超过给定最大距离的所有位置元素。

unit取值范围m(米)

km(千米)

mi(英里)

ft(英尺)

withcoord:将位置元素的经度与纬度也一并返回

withdist:在返回位置元素的同时,将距离也一并返回。距离的单位和用户给定的范围单位保持一致

withhash:以52位的符号整数形式,返回位置元素经过geohash编码的有序集合分值。用于底层应用或调试,实际作用不大。

sort取值范围asc:根据中心位置,按照从近到远的方式返回位置元素

desc:根据中心位置,按照从远到近的方式返回位置元素

store key:将返回结果而的地理位置信息保存到指定键

storedist key:将返回结果距离中心节点的距离保存到指定键


版权声明:本文为weixin_42575505原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。