分布式--Nginx 负载均衡服务器

本文转载自微信公众号凌浩雨。

1. Nginx

1). 学习资源

Nginx 中文文档

Nginx 配置

2). Nginx

Nginx是一款轻量级的 Web 服务器/反向代理服务器及电子邮件(IMAP/POP3)代理服务器，其特点是占有内存少，并发能力强。Nginx 是俄罗斯人编写的十分轻量级的 HTTP 服务器,Nginx，它的发音为“engine X”，是一个高性能的HTTP和反向代理服务器，同时也是一个 IMAP/POP3/SMTP 代理服务器。Nginx 是由俄罗斯人 Igor Sysoev 为俄罗斯访问量第二的 Rambler.ru 站点开发的，它已经在该站点运行超过两年半了。Igor Sysoev 在建立的项目时,使用基于 BSD 许可。

3). Nginx 特点

Nginx 做为 HTTP 服务器，有以下几项基本特性：

• 处理静态文件，索引文件以及自动索引;打开文件描述符缓冲.
• 无缓存的反向代理加速，简单的负载均衡和容错.
• FastCGI，简单的负载均衡和容错.
• 模块化的结构。包括 gzipping, byte ranges, chunked responses,以及 SSI-filter 等 filter。如果由 FastCGI 或其它代理服务器处理单页中存在的多个 SSI，则这项处理可以并行运行，而不需要相互等待。
• 支持 SSL 和 TLSSNI.

Nginx 专为性能优化而开发，性能是其最重要的考量,实现上非常注重效率 。它支持内核 Poll 模型，能经受高负载的考验,有报告表明能支持高达 50,000 个并发连接数。

Nginx 具有很高的稳定性。其它 HTTP 服务器，当遇到访问的峰值，或者有人恶意发起慢速连接时，也很可能会导致服务器物理内存耗尽频繁交换，失去响应，只能重启服务器。例如当前 apache 一旦上到 200 个以上进程，web响应速度就明显非常缓慢了。而 Nginx 采取了分阶段资源分配技术，使得它的 CPU 与内存占用率非常低。Nginx 官方表示保持 10,000 个没有活动的连接，它只占 2.5M 内存，所以类似 DOS 这样的攻击对 Nginx 来说基本上是毫无用处的。就稳定性而言,Nginx 比 lighthttpd 更胜一筹。

Nginx 支持热部署。它的启动特别容易, 并且几乎可以做到 7*24 不间断运行，即使运行数个月也不需要重新启动。你还能够在不间断服务的情况下，对软件版本进行进行升级。

Nginx 采用 master-slave 模型,能够充分利用 SMP 的优势，且能够减少工作进程在磁盘 I/O 的阻塞延迟。当采用 select()/poll() 调用时，还可以限制每个进程的连接数。

Nginx 代码质量非常高，代码很规范，手法成熟，模块扩展也很容易。特别值得一提的是强大的 Upstream 与 Filter 链。Upstream 为诸如 reverse proxy,与其他服务器通信模块的编写奠定了很好的基础。而 Filter 链最酷的部分就是各个 filter 不必等待前一个 filter 执行完毕。它可以把前一个 filter 的输出做为当前 filter 的输入，这有点像 Unix 的管线。这意味着，一个模块可以开始压缩从后端服务器发送过来的请求，且可以在模块接收完后端服务器的整个请求之前把压缩流转向客户端。

Nginx 采用了一些 os 提供的最新特性如对 sendfile (Linux2.2+)，accept-filter (FreeBSD4.1+)，TCP_DEFER_ACCEPT (Linux 2.4+)的支持，从而大大提高了性能。

4). 反向代理

代理就是一个代表、一个渠道，此时就设计到两个角色，一个是被代理角色，一个是目标角色，被代理角色通过这个代理访问目标角色完成一些任务的过程称为代理操作过程。

I. 正向代理最大的特点是客户端非常明确要访问的服务器地址;服务器只清楚请求来自哪个代理服务器，而不清楚来自哪个具体的客户端;正向代理模式屏蔽或者隐藏了真实客户端信息。

II. 多个客户端给服务器发送的请求，nginx服务器接收到之后，按照一定的规则分发给了后端的业务处理服务器进行处理了。此时~请求的来源也就是客户端是明确的，但是请求具体由哪台服务器处理的并不明确了，nginx扮演的就是一个反向代理角色。反向代理，主要用于服务器集群分布式部署的情况下，反向代理隐藏了服务器的信息!网站中大部分功能也是直接使用nginx进行反向代理实现的，通过封装nginx和其他的组件之后起了个高大上的名字：Tengine

III. 通常情况下，我们在实际项目操作时，正向代理和反向代理很有可能会存在在一个应用场景中，正向代理代理客户端的请求去访问目标服务器，目标服务器是一个反向单利服务器，反向代理了多台真实的业务处理服务器。具体的拓扑图如下：

5). 负载均衡

客户端发送的、nginx反向代理服务器接收到的请求数量(负载量)，请求数量按照一定的规则进行分发到不同的服务器处理的规则(均衡规则)，将服务器接收到的请求按照规则分发的过程，称为负载均衡。

负载均衡在实际项目操作过程中，有硬件负载均衡和软件负载均衡两种，硬件负载均衡也称为硬负载，如F5负载均衡，相对造价昂贵成本较高，但是数据的稳定性安全性等等有非常好的保障，如中国移动中国联通这样的公司才会选择硬负载进行操作;更多的公司考虑到成本原因，会选择使用软件负载均衡，软件负载均衡是利用现有的技术结合主机硬件实现的一种消息队列分发机制。

负载均衡调度算法方式如下：

• weight轮询(默认)：接收到的请求按照顺序逐一分配到不同的后端服务器，即使在使用过程中，某一台后端服务器宕机，nginx会自动将该服务器剔除出队列，请求受理情况不会受到任何影响。 这种方式下，可以给不同的后端服务器设置一个权重值(weight)，用于调整不同的服务器上请求的分配率;权重数据越大，被分配到请求的几率越大;该权重值，主要是针对实际工作环境中不同的后端服务器硬件配置进行调整的。
• ip_hash：每个请求按照发起客户端的ip的hash结果进行匹配，这样的算法下一个固定ip地址的客户端总会访问到同一个后端服务器，这也在一定程度上解决了集群部署环境下session共享的问题。
• fair：智能调整调度算法，动态的根据后端服务器的请求处理到响应的时间进行均衡分配，响应时间短处理效率高的服务器分配到请求的概率高，响应时间长处理效率低的服务器分配到的请求少;结合了前两者的优点的一种调度算法。但是需要注意的是nginx默认不支持fair算法，如果要使用这种调度算法，请安装upstream_fair模块
• url_hash：按照访问的url的hash结果分配请求，每个请求的url会指向后端固定的某个服务器，可以在nginx作为静态服务器的情况下提高缓存效率。同样要注意nginx默认不支持这种调度算法，要使用的话需要安装nginx的hash软件包

6). Windows安装

I. Nginx 下载 并解压

II. 双击nginx.exe， 浏览器访问http://localhost/即可

III. 命令行开启

nginx

IV. 命令行关闭

# 强制停止nginx服务器，如果有未处理的数据，丢弃 nginx -s stop # 优雅的停止nginx服务器，如果有未处理的数据，等待处理完成之后停止 nginx -s quit

7). nginx配置

nginx服务器的配置信息主要集中在nginx.conf这个配置文件中(\nginx-1.14.0\conf\nginx.conf)

main # 全局配置 events { # nginx工作模式配置 } http { # http设置 .... server { # 服务器主机配置 .... location { # 路由配置 .... } location path { .... } location otherpath { .... } } server { .... location { .... } } upstream name { # 负载均衡配置 .... } }

• main：用于进行nginx全局信息的配置
• events：用于nginx工作模式的配置
• http：用于进行http协议信息的一些配置
• server：用于进行服务器访问信息的配置
• location：用于进行访问路由的配置
• upstream：用于进行负载均衡的配置

I. main模块

# user nobody nobody; worker_processes 2; # error_log logs/error.log # error_log logs/error.log notice # error_log logs/error.log info # pid logs/nginx.pid worker_rlimit_nofile 1024;

• user用来指定nginx worker进程运行用户以及用户组，默认nobody账号运行
• worker_processes指定nginx要开启的子进程数量，运行过程中监控每个进程消耗内存(一般几M~几十M不等)根据实际情况进行调整，通常数量是CPU内核数量的整数倍
• error_log定义错误日志文件的位置及输出级别【debug / info / notice / warn / error / crit】
• pid用来指定进程id的存储文件的位置
• worker_rlimit_nofile用于指定一个进程可以打开最多文件数量的描述

II. event 模块

event { worker_connections 1024; multi_accept on; use epoll; }

worker_connections 指定最大可以同时接收的连接数量，这里一定要注意，最大连接数量是和worker processes共同决定的。

multi_accept 配置指定nginx在收到一个新连接通知后尽可能多的接受更多的连接

use epoll 配置指定了线程轮询的方法，如果是linux2.6+，使用epoll;如果是BSD如Mac请使用Kqueue

III. http模块

作为web服务器，http模块是nginx最核心的一个模块，配置项也是比较多的，项目中会设置到很多的实际业务场景，需要根据硬件信息进行适当的配置，常规情况下，使用默认配置即可!

http { ## # 基础配置 ## sendfile on; tcp_nopush on; tcp_nodelay on; keepalive_timeout 65; types_hash_max_size 2048; # server_tokens off; # server_names_hash_bucket_size 64; # server_name_in_redirect off; include /etc/nginx/mime.types; default_type application/octet-stream; ## # SSL证书配置 ## ssl_protocols TLSv1 TLSv1.1 TLSv1.2; # Dropping SSLv3, ref: POODLE ssl_prefer_server_ciphers on; ## # 日志配置 ## access_log /var/log/nginx/access.log; error_log /var/log/nginx/error.log; ## # Gzip 压缩配置 ## gzip on; gzip_disable "msie6"; # gzip_vary on; # gzip_proxied any; # gzip_comp_level 6; # gzip_buffers 16 8k; # gzip_http_version 1.1; # gzip_types text/plain text/css application/json application/javascript text/xml application/xml application/xml+rss text/javascript; ## # 虚拟主机配置 ## include /etc/nginx/conf.d/*.conf; include /etc/nginx/sites-enabled/*; }

=> 基础配置

• sendfile on：配置on让sendfile发挥作用，将文件的回写过程交给数据缓冲去去完成，而不是放在应用中完成，这样的话在性能提升有有好处
• tc_nopush on：让nginx在一个数据包中发送所有的头文件，而不是一个一个单独发
• tcp_nodelay on：让nginx不要缓存数据，而是一段一段发送，如果数据的传输有实时性的要求的话可以配置它，发送完一小段数据就立刻能得到返回值，但是不要滥用哦
• keepalive_timeout 10：给客户端分配连接超时时间，服务器会在这个时间过后关闭连接。一般设置时间较短，可以让nginx工作持续性更好
• client_header_timeout 10：设置请求头的超时时间
• client_body_timeout 10:设置请求体的超时时间
• send_timeout 10：指定客户端响应超时时间，如果客户端两次操作间隔超过这个时间，服务器就会关闭这个链接
• limit_conn_zone $binary_remote_addr zone=addr:5m ：设置用于保存各种key的共享内存的参数，
• limit_conn addr 100: 给定的key设置最大连接数
• server_tokens：虽然不会让nginx执行速度更快，但是可以在错误页面关闭nginx版本提示，对于网站安全性的提升有好处哦
• include /etc/nginx/mime.types：指定在当前文件中包含另一个文件的指令
• default_type application/octet-stream：指定默认处理的文件类型可以是二进制
• type_hash_max_size 2048：混淆数据，影响三列冲突率，值越大消耗内存越多，散列key冲突率会降低，检索速度更快;值越小key，占用内存较少，冲突率越高，检索速度变慢

=> 日志配置

• access_log logs/access.log：设置存储访问记录的日志
• error_log logs/error.log：设置存储记录错误发生的日志

=> SSL证书加密

• ssl_protocols：指令用于启动特定的加密协议，nginx在1.1.13和1.0.12版本后默认是ssl_protocols SSLv3 TLSv1 TLSv1.1 TLSv1.2，TLSv1.1与TLSv1.2要确保OpenSSL >= 1.0.1 ，SSLv3 现在还有很多地方在用但有不少被攻击的漏洞。
• ssl prefer server ciphers：设置协商加密算法时，优先使用我们服务端的加密套件，而不是客户端浏览器的加密套件

=> 压缩配置

• gzip 是告诉nginx采用gzip压缩的形式发送数据。这将会减少我们发送的数据量。
• gzip_disable 为指定的客户端禁用gzip功能。我们设置成IE6或者更低版本以使我们的方案能够广泛兼容。
• gzip_static 告诉nginx在压缩资源之前，先查找是否有预先gzip处理过的资源。这要求你预先压缩你的文件(在这个例子中被注释掉了)，从而允许你使用最高压缩比，这样nginx就不用再压缩这些文件了。
• gzip_proxied 允许或者禁止压缩基于请求和响应的响应流。我们设置为any，意味着将会压缩所有的请求。
• gzip_min_length 设置对数据启用压缩的最少字节数。如果一个请求小于1000字节，我们最好不要压缩它，因为压缩这些小的数据会降低处理此请求的所有进程的速度。
• gzip_comp_level 设置数据的压缩等级。这个等级可以是1-9之间的任意数值，9是最慢但是压缩比最大的。我们设置为4，这是一个比较折中的设置。
• gzip_type 设置需要压缩的数据格式。

=> 文件缓存配置

• open_file_cache 打开缓存的同时也指定了缓存最大数目，以及缓存的时间。我们可以设置一个相对高的最大时间，这样我们可以在它们不活动超过20秒后清除掉。
• open_file_cache_valid 在open_file_cache中指定检测正确信息的间隔时间。
• open_file_cache_min_uses 定义了open_file_cache中指令参数不活动时间期间里最小的文件数。
• open_file_cache_errors 指定了当搜索一个文件时是否缓存错误信息，也包括再次给配置中添加文件。我们也包括了服务器模块，这些是在不同文件中定义的。如果你的服务器模块不在这些位置，你就得修改这一行来指定正确的位置。

IV. server模块

srever模块配置是http模块中的一个子模块，用来定义一个虚拟访问主机，也就是一个虚拟服务器的配置信息

server { listen 80; server_name localhost 192.168.1.100; root /nginx/www; index index.php index.html index.html; charset utf-8; access_log logs/access.log; error_log logs/error.log; ...... }

• server：一个虚拟主机的配置，一个http中可以配置多个server
• server_name：用力啊指定ip地址或者域名，多个配置之间用空格分隔
• root：表示整个server虚拟主机内的根目录，所有当前主机中web项目的根目录
• index：用户访问web网站时的全局首页
• charset：用于设置www/路径中配置的网页的默认编码格式
• access_log：用于指定该虚拟主机服务器中的访问记录日志存放路径
• error_log：用于指定该虚拟主机服务器中访问错误日志的存放路径

V. location模块

location模块是nginx配置中出现最多的一个配置，主要用于配置路由访问信息。在路由访问信息配置中关联到反向代理、负载均衡等等各项功能，所以location模块也是一个非常重要的配置模块

=> 基本配置

location / { root /nginx/www; index index.php index.html index.htm; }

• location /：表示匹配访问根目录
• root：用于指定访问根目录时，访问虚拟主机的web目录
• index：在不指定访问具体资源时，默认展示的资源文件列表

=> 反向代理配置方式

通过反向代理代理服务器访问模式，通过proxy_set配置让客户端访问透明化

location / { proxy_pass http://localhost:8888; proxy_set_header X-real-ip $remote_addr; proxy_set_header Host $http_host; }

=> uwsgi配置

wsgi模式下的服务器配置访问方式

location / { include uwsgi_params; uwsgi_pass localhost:8888 }

VI. upstream模块

upstream模块主要负责负载均衡的配置，通过默认的轮询调度方式来分发请求到后端服务器。简单的配置方式如下：

upstream name { ip_hash; server 192.168.1.100:8000; server 192.168.1.100:8001 down; server 192.168.1.100:8002 max_fails=3; server 192.168.1.100:8003 fail_timeout=20s; server 192.168.1.100:8004 max_fails=3 fail_timeout=20s; }

• ip_hash：指定请求调度算法，默认是weight权重轮询调度，可以指定
• server host:port：分发服务器的列表配置
• down：表示该主机暂停服务
• max_fails：表示失败最大次数，超过失败最大次数暂停服务
• fail_timeout：表示如果请求受理失败，暂停指定的时间之后重新发起请求

天下数据IDC与全球近120多个国家顶级机房直接合作，提供包括香港、美国、韩国、日本、台湾、新加坡、荷兰、法国、英国、德国、埃及、南非、巴西、印度、越南等国家和地区的服务器、云服务器的租用服务.