性能主题
使用Nginx实现负载平衡和反向代理
Nginx是开放的高性能的Web服务器。它能够处理大量的并发客户端连接(见c10k问题)。虽然Nginx和Apache HTTP都是能够处理大量的请求,但是,Nginx可以在没有严重的性能退化和内存使用量增加的情况下达到这一目标(nginx的依赖于一个非阻塞I/O,事件驱动模型,而在Apache是线程堵塞/O)。
这使得nginx适合担任优良的负载平衡器和反向代理服务器,可以将传入的并发客户端的连接,分配到不同上游服务器上继续处理客户端请求。客户端的请求的可能是一个单一的服务或应用程序(负载平衡),或是各种不同的服务和应用,运行在一个内部网络中(反向代理)。
Niginx接受客户端请求,分发到两个上游服务器10.0.0.1和10.0.0.2的配置如下:
upstream rails_application {server 10.0.0.1 max_fails=1 fail_timeout=10s;server 10.0.0.2 max_fails=1 fail_timeout=10s;# and so on: server 10.0.0.x;}server {listen 1.2.3.4:80;location / {proxy_pass http://rails_application;}}
Nginx的负载平衡就配置完成了。
nginx 的 upstream目前支持 4 种方式的分配
- 轮询(默认)
每个请求按时间顺序逐一分配到不同的后端服务器,如果后端服务器down掉,能自动剔除。
- weight
指定轮询几率,weight和访问比率成正比,用于后端服务器性能不均的情况。
- ip_hash
每个请求按访问ip的hash结果分配,这样每个访客固定访问一个后端服务器,可以解决session的问题。 - fair(第三方)
按后端服务器的响应时间来分配请求,响应时间短的优先分配。 - url_hash(第三方)
具体如下,定义负载均衡设备的 Ip及设备状态 :
upstream myServer {
server 127.0.0.1:9090 down;
server 127.0.0.1:8080 weight=2;
server 127.0.0.1:6060;
server 127.0.0.1:7070 backup;
}
- down 表示单前的server暂时不参与负载
- weight 默认为1.weight越大,负载的权重就越大。
- max_fails :允许请求失败的次数默认为1.当超过最大次数时,返回proxy_next_upstream 模块定义的错误
- fail_timeout:max_fails 次失败后,暂停的时间。
- backup: 其它所有的非backup机器down或者忙的时候,请求backup机器。所以这台机器压力会最轻。
注意,上述负载均衡配置是没有考虑Session状态共享,要求你的应用程序是无态服务,如果要完成注册登录一些必须Session stick的功能,可考虑使用ip_hash,有限制条件,nginx必须位于最前端,对于一个架构设计上是读写分离的系统,这是可行的:
upstream backend {
server 127.0.0.1:8080 ;
server 127.0.0.1:9090 ;
ip_hash;
}