阅读 Memcached 最好有 libevent 基础,Memcached 是基于 Libevent 构建起来的。通由 Libevent 提供的事件驱动机制触发 Memcached 中的 IO 事件。已经有大牛剖析过 Libevent 源码了,可以在网络上搜索相关的资料。
个人认为,阅读源码的起初最忌钻牛角尖,如头文件里天花乱坠的结构体到底有什么用。源文件里稀里哗啦的函数是做什么的。刚开始并没必要事无巨细弄清楚头文件每个类型定义的具体用途; 很可能那些是不紧要的工具函数,知道他的功能和用法就没他事了。
来看 Memcached 内部做了什么事情。Memcached 是用 C 语言实现,必须有一个入口函数 main(),Memcached 的生命从这里开始。
根据 Memcached 配置,开启以下两种服务模式中的一种:
Memcached 有可配置的两种模式:UNIX 域套接字和 TCP/UDP,允许客户端以两种方式向 Memcached 发起请求。客户端和服务器在同一个主机上的情况下可以用 UNIX 域套接字,否则可以采用 TCP/UDP 的模式。两种模式是不兼容的。特别的,如果是 UNIX 域套接字或者 TCP 模式,需要建立监听套接字,并在事件中心注册了读事件,回调函数是 event_handler(),我们会看到所有的连接都会被注册回调函数是 event_handler()。
调用 event_base_loop() 开启 libevent 的事件循环。到此,Memcached 服务器的工作正式进入了工作。如果遇到致命错误或者客户明令结束 Memcached,那么才会进入接下来的清理工作。
在初始化过程中介绍了这两种模式,Memcached 这么做为的是让其能更加可配置。
TCP/UDP 自不用说,UNIX 域套接字有独特的优势:
在 thread_init(),setup_thread() 函数的实现中,Memcached 的意图是很清楚的。每个线程都有自己独有的连接队列,即 CQ,注意这个连接队列中的对象并不是一个或者多个 Memcached 命令,它对应一个客户!一旦一个客户交给了一个线程,它的余生就属于这个线程了! 线程只要被唤醒就立即进入工作状态,将自己 CQ 队列的任务所有完完成。当然,每一个工作线程都有自己的 libevent 事件中心。
很关键的线索是 thread_init() 的实现中,每个工作线程都创建了读写管道,所能给我们的提示是:只要利用 libevent 在工作线程的事件中心注册读管道的读事件,就可以按需唤醒线程,完成工作,很有意思,而setup_thread() 的工作正是读管道的读事件被注册到线程的事件中心,回调函数是 thread_libevent_process()。thread_libevent_process() 的工作就是从工作线程自己的 CQ 队列中取出任务执行,而往工作线程工作队列中添加任务的是 dispatch_conn_new(),此函数一般由主线程调用。下面是主线程和工作线程的工作流程:
多任务并行处理的两种方式,一种是将所有的任务用队列存储起来,每个工作者依次去拿一个来处理,直到做完所有的> 任务为止。另一种是将任务平均分给工作者,先做完任务的工作者就去别的工作者那里拿一些任务来做,同样直到所有任务做完为止。两种方式的结果如何?根据自己的场景写码验证。
Memcached 所采用的模式就是这里所说的第二种! Memcached 的线程分配模式是:一个主线程和多个工作线程。主线程负责初始化和将接收的请求分派给工作线程,工作线程负责接收客户的命令请求和回复客户。
Memcached 是做缓存用的,内部肯定有一个容器。回到 main() 中,调用 assoc_init() 初始化了容器–hashtable,采用头插法插入新数据,因为头插法是最快的。Memcached 只做了一级的索引,即 hash;接下来的就靠 memcmp() 在链表中找数据所在的位置。Memcached 容器管理的接口主要在 item.h .c 中。
每个连接都会建立一个连接结构体与之对应。main() 中会调用 conn_init() 建立连接结构体数组。连接结构体 struct conn 记录了连接套接字,读取的数据,将要写入的数据,libevent event 结构体以及所属的线程信息。
当有新的连接时,主线程会被唤醒,主线程选定一个工作线程 thread0,在thread0 的写管道中写入数据,特别的如果是接受新的连接而不是接受新的数据,写入管道的数据是字符’c’。工作线程因管道中有数据可读被唤醒,thread_libevent_process() 被调用,新连接套接字被注册了 event_handler() 回调函数,这些工作在conn_new() 中完成。因此,客户端有命令请求的时候(譬如发起 get key 命令),工作线程都会被触发调用 event_handler()。
当出现致命错误或者客户命令结束服务(quit 命令),关于此连接的结构体内部的数据会被释放(譬如曾经读取的数据),但结构体本身不释放,等待下一次使用。如果有需要,连接结构体数组会指数自增。
Memcached 服务一个客户的时候,是怎么一个过程,试着去调试模拟一下。当一个客户向 Memcached 发起请求时,主线程会被唤醒,接受请求。接下来的工作在连接管理中有说到。
客户已经与 Memcached 服务器建立了连接,客户在终端(黑框框) 敲击 get key + 回车键,一个请求包就发出去了。从连接管理中已经了解到所有连接套接字都会被注册回调函数为 event_handler(),因此 event_handler() 会被触发调用。
void event_handler(const int fd, const short which, void *arg) {
conn *c;
c = (conn *)arg;
assert(c != NULL);
c->which = which;
/* sanity */
if (fd != c->sfd) {
if (settings.verbose > 0)
fprintf(stderr, "Catastrophic: event fd doesn't match conn fd!\n");
conn_close(c);
return;
}
drive_machine(c);
/* wait for next event */
return;
}
event_handler() 调用了 drive_machine()。drive_machine() 是请求处理的开端,特别的当有新的连接时,listen socket 也是有请求的,所以建立新的连接也会调用 drive_machine(),这在连接管理有提到过。下面是 drive_machine() 函数的骨架:
// 请求的开端。当有新的连接的时候event_handler() 会调用此函数。
static void drive_machine(conn *c) {
bool stop = false;
int sfd, flags = 1;
socklen_t addrlen;
struct sockaddr_storage addr;
int nreqs = settings.reqs_per_event;
int res;
const char *str;
assert(c != NULL);
while (!stop) {
// while 能保证一个命令被执行完成或者异常中断(譬如IO 操作次数超出了一定的限制)
switch(c->state) {
// 正在连接,还没有accept
case conn_listening:
// 等待新的命令请求
case conn_waiting:
// 读取数据
case conn_read:
// 尝试解析命令
case conn_parse_cmd :
// 新的命令请求,只是负责转变conn 的状态
case conn_new_cmd:
// 真正执行命令的地方
case conn_nread:
// 读取所有的数据,抛弃!!! 一般出错的情况下会转换到此状态
case conn_swallow:
// 数据回复
case conn_write:
case conn_mwrite:
// 连接结束。一般出错或者客户显示结束服务的情况下回转换到此状态
case conn_closing:
}
}
return;
}
通过修改连接结构体状态 struct conn.state 执行相应的操作,从而完成一个请求,完成后 stop 会被设置为 true,一个命令只有执行结束(无论结果如何) 才会跳出这个循环。我们看到 struct conn 有好多种状态,一个正常执行的命令状态的转换是:
conn_new_cmd->conn_waiting->conn_read->conn_parse_cmd->conn_nread->conn_mwrite->conn_close
这个过程任何一个环节出了问题都会导致状态转变为 conn_close。带着刚开始的问题把从客户连接到一个命令执行结束的过程是怎么样的:
event_-handler()->drive_machine()
被调用,此时主线程对应 conn 状态为 conn_listining,接
受请求Memcached 的服务器没有向其他 Memcached 服务器收发数据的功能,意即就算部署多个 Memcached 服务器,他们之间也没有任何的通信,Memcached 所谓的分布式部署也是并非平时所说的分布式。所说的「分布式」是通过创建多个 Memcached 服务器节点,在客户端添加缓存请求分发器来实现的。Memcached 的更多的时候限制是来自网络 I/O,所以应该尽量减少网络 I/O。