首页 » kvproxy

kvproxy

简介

一个KV类型数据库的代理框架。可以通过编写扩展(so动态库)的方式增加对指定协议的支持。默认已经支持memcached的二进制协议和文本协议。

特性
  • 快速
  • 轻量级
  • 支持读写分离
  • 支持数据的同步和异步复制
  • 支持一致性哈希
  • 支持failover机制。后端服务不可用时,自动摘除。
  • 提供ini格式的配置文件
  • 和后端服务器保持持久化连接
  • 多线程模式,linux平台下支持cpu亲缘性
  • 良好的协议扩展性。
  • 默认支持memcached的二进制协议和文本协议
相关文档

kvproxy的master和slave数据主从复制简介

kvproxy配置文件之集群设置

安装

从github下载代码,然后执行make命令即可。

$ wget --no-check-certificate https://github.com/exinnet/kvproxy/archive/master.zip
$ unzip master
$ cd kvproxy-master
$ make
$ #optional, install kvproxy in /usr/local/kvproxy
$ sudo make install
启动与关闭
<h1>启动</h1>
$ ./sbin/kvproxy start

<h1>关闭</h1>
$ ./sbin/kvproxy stop

<h1>重启</h1>
$ ./sbin/kvproxy restart
查看运行状态

可以通过telnet命令连接到kvproxy的监听端口,然后使用status命令查看kvproxy的运行状况。

$telnet 127.0.0.1 55669
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.
status

Number of processed requests [0]
Number of requests failed [0]
  - 127.0.0.1:11211 [0]
Number of continuous requests failed [0]
  - 127.0.0.1:11211 [0]
All of offline hosts [0]
Number of client connection [1]
Number of backend connection [0]
Read timeout of backend connection [100ms]
Size of async queue [0]
性能
  • 单线程 6千 QPS
  • 开启cpu亲缘性 8个线程 5万 QPS
配置

kvproxy的配置文件使用的时ini格式。默认文件在安装目录的etc文件夹下。文件名为 kvproxy.ini。

[kvproxy]
; 监听的端口号
port=55669
; 开启的线程数。在linux平台下,如果cpu_affinity设置为on,开启的线程数自动为cpu内核数量。
thread_count=2
; 是否开启cpu亲缘性
cpu_affinity=on
; 等待被处理的连接数
backlog=10000
; 从后端服务器读取数据超时时间,单位 毫秒
recv_timeout=100
; 日志文件路径,默认为安装目录 ./log/kvproxy.log
;log_path=/tmp/kvproxy.log
; 错误级别。选项有 fatal error warn info debug。
; fatal 为致命错误。发生致命错误会导致kvproxy进程退出。
; error 为请求错误。发生请求错误会导致本次请求失败。
; warn 为请求警告。发生请求警告说明本次请求过程中出现了异常,可能请求会成功。
; info 为冗余模式。会打印出请求执行过程中的一些冗余信息。
; debug 为调试模式。会打印出请求过程中的一些调试信息。
log_level=warn
; 扩展安装路径。默认为安装目录下的 ./ext
;ext_path=../ext
; 一次请求过程中发生或者接收数据的最大尺寸。单位为M(兆)。如果数据超过指定大小,会导致请求失败。
; 如,你set或者get一个2M的数据,这个值就应该设置为2或者更大。
max_packet=1
; 失败次数超过指定阈值,则自动把有问题的后端服务器给摘除。
failover_threshold = 2
; 检测是否有后端服务器的失败次数大于指定阈值的频率。单位为秒。
failover_interval = 2
; 异步同步队列大小。看情况设置,不要设置太大。
async_size = 50000
;;;;;;;;;;;;;;;
;扩展部分设置 ;
;;;;;;;;;;;;;;;
; 扩展名称
[memcached]
; 扩展文件名。
extension=memcached.so
; 设置默认后端集群。
hosts=master
; 设置备份集群。所有的写操作命令都会同步到此集群一份。如果未设置,将不进行数据的同步或者异步复制。
;hosts_backup=
; 设置读集群。所有的数据读取都从此集群读取。用于实现读写分离。
hosts_read=master
; 同步数据复制前缀符号。默认的数据复制为异步复制。如果想数据复制为同步复制,可以把key的前缀设置为指定字符串。
sync_str = "+"
; 使用的协议类型 binary 二级制协议 text 文本协议
proto = binary
;;;;;;;;;;;;;;;;
; 集群设置 ;
;;;;;;;;;;;;;;;;
; 集群名
[master]
; ip : 端口号 = "在集群中的标示数字id : 权重"
; 同一组中每个后端服务器的标示数字id不能重复
127.0.0.1:11211="1:50"
[read]
127.0.0.1:11212="1:50"

问题反馈

如果发现了bug,或者有其他问题。可以到以下网址反馈。 https://github.com/exinnet/kvproxy/issues

7