性能主题

使用Nginx实现负载平衡和反向代理

  Nginx是开放的高性能的Web服务器。它能够处理大量的并发客户端连接(见c10k问题)。虽然NginxApache HTTP都是能够处理大量的请求,但是,Nginx可以在没有严重的性能退化内存使用量增加的情况下达到这一目标nginx的依赖于一个非阻塞I/O事件驱动模型,而在Apache线程堵塞/O)

  这使得nginx适合担任优良的负载平衡器和反向代理服务器,可以将传入的并发客户端的连接,分配到不同上游服务器上继续处理客户端请求。客户端的请求的可能是一个单一的服务或应用程序(负载平衡),或是各种不同的服务和应用,运行在一个内部网络中反向代理

  Niginx接受客户端请求,分发到两个上游服务器10.0.0.1和10.0.0.2的配置如下:

upstream rails_application {
server 10.0.0.1 max_fails=1 fail_timeout=10s;
server 10.0.0.2 max_fails=1 fail_timeout=10s;
# and so on: server 10.0.0.x;
}
 
server {
listen 1.2.3.4:80;
location / {
proxy_pass http://rails_application;
}
}

  Nginx的负载平衡就配置完成了。

  nginx 的 upstream目前支持 4 种方式的分配

  1. 轮询(默认)
    每个请求按时间顺序逐一分配到不同的后端服务器,如果后端服务器down掉,能自动剔除。
  2. weight
    指定轮询几率,weight和访问比率成正比,用于后端服务器性能不均的情况。
  3. ip_hash
    每个请求按访问ip的hash结果分配,这样每个访客固定访问一个后端服务器,可以解决session的问题。
  4. fair(第三方)
    按后端服务器的响应时间来分配请求,响应时间短的优先分配。
  5. url_hash(第三方)

具体如下,定义负载均衡设备的 Ip及设备状态 :

upstream myServer {   

    server 127.0.0.1:9090 down; 
    server 127.0.0.1:8080 weight=2; 
    server 127.0.0.1:6060; 
    server 127.0.0.1:7070 backup; 
}

  • down 表示单前的server暂时不参与负载 
  • weight  默认为1.weight越大,负载的权重就越大。 
  • max_fails :允许请求失败的次数默认为1.当超过最大次数时,返回proxy_next_upstream 模块定义的错误 
  • fail_timeout:max_fails 次失败后,暂停的时间。 
  • backup: 其它所有的非backup机器down或者忙的时候,请求backup机器。所以这台机器压力会最轻。

 

  注意,上述负载均衡配置是没有考虑Session状态共享,要求你的应用程序是无态服务,如果要完成注册登录一些必须Session stick的功能,可考虑使用ip_hash,有限制条件,nginx必须位于最前端,对于一个架构设计上是读写分离的系统,这是可行的:

upstream backend {
  server 127.0.0.1:8080 ;
  server 127.0.0.1:9090 ;
   ip_hash;
}

 

nginx的高性能架构

使用Varnish加速Web性能

HttpSession专题