网站负载均衡解决专项方案.doc

网站负载均衡处理方案
Web负载均衡（Load Balancing），简单地说就是给我们服务器集群分配“工作任务”，而采取合适分配方法，对于保护处于后端Web服务器来说，很关键。

反向代理负载均衡
反向代理服务关键工作关键是转发HTTP请求，饰演了浏览器端和后台Web服务器中转角色。因为它工作在HTTP层（应用层），也就是网络七层结构中第七层，所以也被称为“七层负载均衡”。能够做反向代理软件很多，比较常见一个是Nginx。

Nginx 是一个很灵活反向代理软件，能够自由定制化转发策略，分配服务器流量权重等。反向代理中，常见一个问题，就是Web服务器存放session数 据，因为通常负载均衡策略全部是随机分配请求。同一个登录用户请求，无法确保一定分配到相同Web机器上，会造成无法找到session问题。

处理方案关键有两种：

配置反向代理转发规则，让同一个用户请求一定落到同一台机器上（经过分析cookie），复杂转发规则将会消耗更多CPU，也增加了代理服务器负担。
将session这类信息，专门用某个独立服务来存放，比如redis/memchache，这个方案是比较推荐。
反 向代理服务，也是能够开启缓存，假如开启了，会增加反向代理负担，需要谨慎使用。这种负载均衡策略实现和布署很简单，而且性能表现也比很好。不过， 它有“单点故障”问题，假如挂了，会带来很多麻烦。而且，到了后期Web服务器继续增加，它本身可能成为系统瓶颈。

配置文件样本：
#user nobody;
worker_processes 1; #pid logs/nginx.pid;
events {
worker_connections 1024; }
http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout 65;
upstream .net {
server 192.168.1.188:80 weight=5;
server 192.168.1.158:80;
}
server {
listen 80;
server_name .net;
location / {
proxy_pass ;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header XForwarded-For $proxy_add_x_forwarded_for;
} }

使用memcache同时session并协调缓存
一旦使用了负载均衡，session就会存在同时问题，使用memcache同时session是个不错处理方案。
需要准备一个相对强大memcache服务器，安装memcache服务。代码层将其它多个主机seesion全部指定到这台memcache服务器。
相关文章阅读（提供了memcache具体讲解涵盖：介绍、安装、使用等说明）：
《memcache缓存和session》
地址：

memcache是什么?
memcached 是以LiveJournal旗下Danga Interactive 企业Brad Fitzpatric 为首开发一款软件。现在已成为mixi、hatena、Facebook、Vox、LiveJournal 等众多服务中提升Web
应 用扩展性关键原因。很多Web 应用全部将数据保留到RDBMS 中，应用服务器从中读取数据并在浏览器中显示。但伴随数据量增大、访问集中，就会出现RDBMS 负担加重、数据库响应恶化、网站显示延迟等重大影响。这时就该memcached 大显身手了。memcached 是高性能分布式内存缓存服务器。通常使用目标是，经过缓存数据库查询结果，降低数据库访问次数，以提升动态Web 应用速度、提升可扩展性。

memcached 和php结合原理

memcache 缓存数据形式
memcache以键值对形式进行数据保留，经过和php结合memcahe能够将变量、数组、对象等数据保留到内存中。极大提升了服务器缓存效率。

为 了提升性能，memcached 中保留数据全部存放在memcached 内置内存存放空间中。因为数据仅存在于内存中，所以重启memcached、重启操作系统会造成全部数据消失。另外，内容容量达成指定值以后，就基于 LRU(Least Recently Used)算法自动删除不使用缓存。memcached 本身是为缓存而设计服务器，所以并没有过多考虑数据永久性问题。
开启phpmemcache扩展
php默认情况下并没有开启memcache扩展，下面将具体讲解memcache扩展安装。

windows下安装memcache扩展
访问php官网
点击DLL 下载对应windows版本dll

将dll复制到 php/ext/

修改php.ini
extension=php_memcache.dll
重启web访问即可开启

linux下安装memcache扩展
centOs :
yum install php-pecl-memcache 从启php即可
或在linux下编译安装php扩展，下载地址同上

php操作memcache缓存
安装好了memcache服务和php扩展，我们就能够使用php去操作memcache来实现缓存啦！
PHPMemcache用户端全部方法总结
memcache 类全部方法列表以下：
Memcache::add – 添加一个值，假如已经存在，则返回false Memcache::addServer – 添加一个可供使用服务器地址 Memcache::close – 关闭一个Memcache对象 Memcache::connect – 创建一个Memcache对象
memcache_debug – 控制调试功效 Memcache::decrement – 对保留某个key中值进行减法操作 Memcache::delete – 删除一个key值 Memcache::flush – 清除全部缓存数据 Memcache::get – 获取一个key值 不存在则返回falseMemcache::getExtendedStats – 获取进程池中全部进程运行系统统计 Memcache::getServerStatus – 获取运行服务器参数 Memcache::getStats – 返回服务器部分运行统计信息 Memcache::getVersion – 返回运行Memcache版本信息 Memcache::increment – 对保留某个key中值进行加法操作 Memcache::pconnect – 创建一个Memcache持久连接对象 Memcache::replace -对一个已经有key进行覆写操作 Memcache::set – 添加一个值，假如已经存在，则覆写 Memcache::setCompressThreshold – 对大于某一大小数据进行压缩 Memcache::setServerParams – 在运行时修改服务器参数

读取并设置缓存代码实例
//连接memcache服务器 参数 地址,端口（memcache默认端口为 11211）
$memObj->connect('127.0.0.1', 11211);//获取某个变量值 假如存在在返回变量值 不然返回false
$var = $memObj->get('test');//判定缓存是否存在，不存在则连接数据库获取变量并保留到memcache服务器if(!$var){
//连接数据库... 此处省略 比如返回值为 'test....';
$var = 'test....';
$memObj->set('test', $var);
//测试缓存过程输出个提醒

echo '缓存不存在.....';}
echo $var;

删除缓存
connect('127.0.0.1', 11211);//删除缓存
$memObj->delete('test');

清空缓存
默认端口为 11211）
$memObj->connect('127.0.0.1', 11211);
$memObj->flush();

关闭连接
connect('127.0.0.1', 11211);
$memObj->flush();
$memObj->close();

和php结合后memcache值能够是一般变量、数组、对象等常见php变量。
使用memcache来保留session
默认情况下session以文件形式保留在服务器端，当我们碰到大访问量、高并发时我们会对web服务器进行集群化处理。那么不一样服务器之间session共享会成为一个问题。
使用memcache来保留session能够提升session访问速度。同时能够处理session共享问题。
在php语言下使用memcache来保留session是很轻易。

使用php代码方法完成使用memcache来保留session
ini_set("session.save_handler", "memcache");
ini_set("session.save_path", "tcp://127.0.0.1:11211");
session_start();

php.ini 中全局设置
修改php.ini
session.save_handler = memcache
session.save_path = "tcp://127.0.0.1:11211"

就是这么简单！赶快试试吧^_^
memcache图形化管理工具MemAdmin
保留好了变量，我们常常想看看她们值或检测她们状态。经过命令行我们能够完成这么操作。不过命令行比较难懂。
下面给大家介绍一款 memcache图形化管理工具: MemAdmin
下载地址:

MemAdmin是一款可视化Memcached管理和监控工具，使用PHP开发，体积小，操作简单。
关键功效：
服务器参数监控：STATS、SETTINGS、ITEMS、SLABS、SIZES实时刷新
服务器性能监控：GET、DELETE、INCR、DECR、CAS等常见操作命中率实时监控
支持数据遍历，方便对存放内容进行监视
支持条件查询，筛选出满足条件KEY或VALUE
数组、JSON等序列化字符反序列显示
兼容memcache协议其它服务，如Tokyo Tyrant (遍历功效除外)
支持服务器连接池，多服务器管理切换方便简练

下载后取得一个压缩包 memadmin-1.0.12.tar.gz
将压缩文件解压后取得memadmin文件夹，将memadmin文件复制到项目目录下，经过网址直接访问运行即可。

http://localhost/memadmin/

默认账号密码为 admin admin
登录后即可开始管理memcache。

亲自试试吧 ^_^

网站系统缓存机制建立和优化
讲完了Web系统外部网络环境，现在我们开始关注我们Web系统本身性能问题。
我们Web站点伴随访问量上升，会碰到很多挑战，处理这些问题不仅仅是扩容机器这么简单，建立和使用适宜缓存机制才是根本。
最开始，我们Web系统架构可能是这么，每个步骤，全部可能只有1台机器。

一、 MySQL数据库内部缓存使用
MySQL缓存机制，就从先从MySQL内部开始，下面内容将以最常见InnoDB存放引擎为主。
1. 建立合适索引
最 简单是建立索引，索引在表数据比较大时候，起到快速检索数据作用，不过成本也是有。首先，占用了一定磁盘空间，其中组合索引最突出，使用需要谨 慎，它产生索引甚至会比源数据更大。其次，建立索引以后数据insert/update/delete等操作，因为需要更新原来索引，耗时会增加。 当然，实际上我们系统从总体来说，是以select查询操作居多，所以，索引使用仍然对系统性能有大幅提升作用。

2. 数据库连接线程池缓存
假如，每一个数据库操作请求全部需要创建和销毁连接话，对数据库来说，无疑也是一个巨大开销。为了降低这类型开销，能够在MySQL中配置thread_cache_size来表示保留多少线程用于复用。线程不够时候，再创建，空闲过多时候，则销毁。
其 实，还有更为激进一点做法，使用pconnect（数据库长连接），线程一旦创建在很长时间内全部保持着。不过，在访问量比较大，机器比较多情况下，这 种使用方法很可能会造成“数据库连接数耗尽”，因为建立连接并不回收，最终达成数据库max_connections（最大连接数）。所以，长连接使用方法通 常需要在CGI和MySQL之间实现一个“连接池”服务，控制CGI机器“盲目”创建连接数。

3. Innodb缓存设置（innodb_buffer_pool_size）
innodb_buffer_pool_size这是个用来保留索引和数据内存缓存区，假如机器是MySQL独占机器，通常推荐为机器物理内存80%。在取表数据场景中，它能够降低磁盘IO。通常来说，这个值设置越大，cache命中率会越高。

4. 分库/分表/分区。
MySQL 数据库表通常承受数据量在百万等级，再往上增加，各项性能将会出现大幅度下降，所以，当我们预见数据量会超出这个量级时候，提议进行分库/分表/分区等 操作。最好做法，是服务在搭建之初就设计为分库分表存放模式，从根本上杜绝中后期风险。不过，会牺牲部分便利性，比如列表式查询，同时，也增加了 维护复杂度。不过，到了数据量千万等级或以上时候，我们会发觉，它们全部是值得。

二、 MySQL数据库多台服务搭建

1 台MySQL机器，实际上是高风险单点，因为假如它挂了，我们Web服务就不可用了。而且，伴随Web系统访问量继续增加，最终有一天，我们发觉1台 MySQL服务器无法支撑下去，我们开始需要使用更多MySQL机器。当引入多台MySQL机器时候，很多新问题又将产生。

1. 建立MySQL主从，从库作为备份
这种做法纯粹为了处理“单点故障”问题，在主库出故障时候，切换到从库。不过，这种做法实际上有点浪费资源，因为从库实际上被闲着了。

2. MySQL读写分离，主库写，从库读。
两台数据库做读写分离，主库负责写入类操作，从库负责读操作。而且，假如主库发生故障，仍然不影响读操作，同时也能够将全部读写全部临时切换到从库中（需要注意流量，可能会因为流量过大，把从库也拖垮）。

3. 主主互备。
两台MySQL之间互为相互从库，同时又是主库。这种方案，既做到了访问量压力分流，同时也处理了“单点故障”问题。任何一台故障，全部还有另外一套可供使用服务。
不过，这种方案，只能用在两台机器场景。假如业务拓展还是很快话，能够选择将业务分离建立多个主主互备。

三、 在Web服务器和数据库之间建立缓存
实 际上，处理大访问量问题，不能仅仅着眼于数据库层面。依据“二八定律”，80%请求只关注在20%热点数据上。所以，我们应该建立Web服务器和数 据库之间缓存机制。这种机制，能够用磁盘作为缓存，也能够用内存缓存方法。经过它们，将大部分热点数据查询，阻挡在数据库之前。
1. 页面静态化
用 户访问网站某个页面，页面上大部分内容在很长一段时间内，可能全部是没有改变。比如一篇新闻报道，一旦公布几乎是不会修改内容。这么话，经过 CGI生成静态html页面缓存到Web服务器磁盘当地。除了第一次，是经过动态CGI查询数据库获取之外以后全部直接将当地磁盘文件返回给用户。
在 Web系统规模比较小时候，这种做法看似完美。不过，一旦Web系统规模变大，比如当我有100台Web服务器时候。那样这些磁盘文件，将会有 100份，这个是资源浪费，也不好维护。这个时候有些人会想，能够集中一台服务器存起来，呵呵，不如看看下面一个缓存方法吧，它就是这么做。

2. 单台内存缓存
经过页面静态化例子中，我们能够知道将“缓存”搭建在Web机器本机是不好维护，会带来更多问题（实际上，经过PHPapc拓展，可经过Key/value操作Web服务器本机内存）。所以，我们选择搭建内存缓存服务，也必需是一个独立服务。
内存缓存选择，关键有redis/memcache。从性能上说，二者差异不大，从功效丰富程度上说，Redis更胜一筹。

3. 内存缓存集群
当 我们搭建单台内存缓存完成，我们又见面临单点故障问题，所以，我们必需将它变成一个集群。简单做法，是给她增加一个slave作为备份机器。不过，如 果请求量真很多，我们发觉cache命中率不高，需要更多机器内存呢？所以，我们更提议将它配置成一个集群。比如，类似redis cluster。
Redis cluster集群内Redis互为多组主从，同时每个节点全部能够接收请求，在拓展集群时候比较方便。用户端能够向任意一个节点发送请求，假如是它 “负责”内容，则直接返回内容。不然，查找实际负责Redis节点，然后将地址通知用户端，用户端重新请求。
对于使用缓存服务用户端来说，这一切是透明。
内 存缓存服务在切换时候，是有一定风险。从A集群切换到B集群过程中，必需确保B集群提前做好“预热”（B集群内存中热点数据，应该尽可能和A集群 相同，不然，切换一瞬间大量请求内容，在B集群内存缓存中查找不到，流量直接冲击后端数据库服务，很可能造成数据库宕机）。

4. 降低数据库“写”
上面机制，全部实现降低数据库“读”操作，不过，写操作也是一个大压力。写操作，即使无法降低，不过能够经过合并请求，来起到减轻压力效果。这个时候，我们就需要在内存缓存集群和数据库集群之间，建立一个修改同时机制。
先将修改请求生效在cache中，让外界查询显示正常，然后将这些sql修改放入到一个队列中存放起来，队列满或每隔一段时间，合并为一个请求到数据库中更新数据库。
除 了上述经过改变系统架构方法提升写性能外，MySQL本身也能够经过配置参数innodb_flush_log_at_trx_commit来调整写 入磁盘策略。假如机器成本许可，从硬件层面处理问题，能够选择老一点RAID（Redundant Arrays of independent Disks，磁盘列阵）或比较新SSD（Solid State Drives，固态硬盘）。

5. NoSQL存放
不 管数据库读还是写，当流量再深入上涨，终会达成“人力有穷时”场景。继续加机器成本比较高，而且不一定能够真正处理问题时候。这个时候，部分核 心数据，就能够考虑使用NoSQL数据库。NoSQL存放，大部分全部是采取key-value方法，这里比较推荐使用上面介绍过 Redis，Redis本身是一个内存cache，同时也能够当做一个存放来使用，让它直接将数据落地到磁盘。
这么话，我们就将数据库中一些被频繁读写数据，分离出来，放在我们新搭建Redis存放集群中，又深入减轻原来MySQL数据库压力，同时因为Redis本身是个内存等级Cache，读写性能全部会大幅度提升。
中国一线互联网企业，架构上采取处理方案很多是类似于上述方案，不过，使用cache服务却不一定是Redis，她们会有更丰富其它选择，甚至依据本身业务特点开发出自己NoSQL服务。

6. 空节点查问询题
当 我们搭建完前面所说全部服务，认为Web系统已经很强时候。我们还是那句话，新问题还是会来。空节点查询，是指那些数据库中根本不存在数据请 求。比如，我请求查询一个不存在人员信息，系统会从各级缓存逐层查找，最终查到到数据库本身，然后才得出查找不到结论，返回给前端。因为各级cache 对它无效，这个请求是很消耗系统资源，而假如大量空节点查询，是能够冲击到系统服务。