机房360首页
                  当前位置:首页 ? 服务器资讯 ? 高并发服务器逻辑处理瓶颈,如何解决?

                  高并发服务器逻辑处理瓶颈,如何解决?

                  来源: IT实战联盟 作者: 更新时间:2019/3/23 20:02:11

                  摘要:高并发服务器逻辑处理瓶颈,如何解决?首先我们先了解什么是并发!

                    高并发服务器逻辑处理瓶颈,如何解决?首先我们先了解什么是并发!

                    并发,在操作系统中,是指一个时间段中有几个程序都处于已启动运行到运行完毕之间,且这几个程序都是在同一个处理机上运行,但?#25105;?#20010;时刻点上只有一个程序在处理机上运?#23567;?mdash;——来源《百科》

                    顾名思义,高并发就是在指定时间内,系统同时能够处理大量的请求(连接数)。

                    那么如何衡量高并发呢?

                    高并发衡量指标

                    响应时间?#21512;?#32479;对请求做出响应的时间,即一个http请求返回所用的时间;吞吐量:单位时间内处理的请求数量;QPS(TPS):每秒可以处理的请求数或事务数;并发用户数?#21644;?#26102;承载正常使用系统功能的用户数量,即多少人同时使用,系统还能正常运行的用户数量; 根据上面衡量指标可以看到,提高并发能力必须解决如下几个问题:

                    如何提高并发连接数?那么多的连接数怎么进行业务处理?应用服务器的处理水?#25509;指?#24590;么提高?如何使用微服务架构提升高并发逻辑?别着急,这么多问题我们一个一个来分析解决!

                    1)、如何提高并发连接数?

                    如下图所示,常规的单一网络连接模型只能1个连接对应1个线程,压力都集中在内存,导致内存开销非常大,肯定支撑的连接数有限!(直接?#19994;?

                    单一网络连接模型

                    有道是业务写的再好不如一台高性能服务器,这个锅不一定要开发人员背的哦!!!服务器的连接入口就那么(比如tomcat只有几千的连接数),那么处理的能力也只局限于几千。怎么解决呢?选用合?#23454;?#32593;络IO模型或者selector,通过使用一个线程轮询或者事件触发的方式,能支持几万甚至更多的连接数,再配合上nginx做负载就更完美了。

                    2)那么多的连接数怎么进行业务处理?

                    大家都知道nginx只是具有反向代理和负载均衡的功能,并不能处理具体的业务逻辑,不能担当应用服务器来使用。例如webSphere 、tomcat和jetty等,但是我们可以利用nginx将接受到的大量连接通过均衡的方式(轮询,权重,hash)分配到不同的应用服务器中进行业务处理!

                    nginx负载

                    3)应用服务器的处理水?#25509;指?#24590;么提高?

                    要提高应用服务器的处理水平就要了解自己的应用服务器的瓶颈在哪里,一般有两个:

                    数据库压力:数据库是支撑产品业务的核心模块,系统的高并发的主要压力也是来源于数据库。处理方?#25509;?#22914;下这些:数据库本身?#33322;?#31435;有效索引、读写分离、双主互备、分库分表(sharding-jdbc等实现)等策略,提高数据库处理能力,减少压力!

                    结合内存数据库:例如redid、memcached等,根据业务需要缓存一些数据字典、枚举变量?#25512;?#32321;使用数据等减少数据库访问次数,提升数据库处理能力。

                    web集群架构图

                    如上图web集群架构图所示:

                    用nginx负载多台应用服务器;使用redid/memcached做业务缓存;再加上数据库集群;组成了经典的web高并发集群架构。

                    代码中的业务逻辑:大家可以 参考阿里巴巴java开发手册 中的开发规范来做就好了,总代来说少创建线程、少创建对象、少加锁、防?#39038;?#38145;、少创建线程、注意内存回收等策略,来提升代码性能。开发中可以采?#20204;?#21518;端分离的架构模式,动静分离、松耦合等提升前后端处理能力。4)如何使用微服务架构提升高并发逻辑?

                    先看一下非常火的这张微服务架构图:

                    微服务架构图

                    微服务架构图主要包含11大核心组件,分别是:

                    核心支撑组件

                    服务网关Zuul服务注册发现Eureka+Ribbon服务配置中心Apollo?#29616;?#25480;权中心Spring Security OAuth服务框架Spring MVC/Boot监控反馈组件数据总线Kafka

                    日志监控ELK调用链监控CATMetrics监控KairosDB健?#23548;?#26597;和告警ZMon限流熔断和流聚合Hystrix/Turbine

                    总结出来上述几点解决高并发服务器逻辑处理瓶颈外,还要考虑网络因素,例如采用CDN加速,将不同地点的请求分发到不同的服务集群上,避免网络?#36816;?#24230;的影响!

                    总之,根据自身?#23548;?#19994;务在合理范围内尽可能的拆分,拆分以后同类服务可以通过水平扩展达到整体的高性能高并发,同时将越脆弱的资源放置在链路的越末端,访?#23454;?#26102;候尽量将访问链接缩短,降低每次访?#23454;?#36164;源消耗。服务之间直接restful模型使用http调用,或者redis,kafka类的消息中间件通信。单个服务直接使用nginx做负载集群,同时前后端分离,数据库分库分表等一整套分布式服务系统!

                    前后端分离

                    学习SpringBoot2.x的?#37096;?#20197;关注之前发的内容哦~之后会不断更新

                    责任编辑:DJ编辑

                  机房360微信公众?#21734;?#38405;
                  扫一扫,订阅更多数据中心资讯

                  本文地址:http://www.qcgiw.icu/news/2019323/n7794117109.html 网友评论: 阅读次数:
                  版权声明:凡本站原创文章,未经授权,禁止转载,否则追究法律责任。
                  相关评论
                  正在加载评论列表...
                  评论表单加载中...
                  • 我要分享
                  竞彩推荐软件

                      
                      

                                      
                                      

                                                  彩经网官网 福建十一选五手机一定牛 扑克牌的花色怎么打 幸运28是什么彩票 喜乐彩票app合法吗 贵州11选5开奖公告 赢话费三张牌 陕西十一选五走势图最 江苏e球彩怎么玩介绍 手机开奖现场最快直播 福建快三开奖号码 惠泽社群平码论坛 陕西十一选五开奖情况 49期大乐透中奖号码 探球网足球即时比分app