Javaweb应用使用限流处理大量的并发请求详解
在web应用中,同一时间有大量的客户端请求同时发送到服务器,例如抢购、秒杀等。这个时候如何避免将大量的请求同时发送到业务系统。
第一种方法:在容器中配置最大请求数,如果大于改请求数,则客户端阻塞。该方法有效的阻止了大量的请求同时访问业务系统,但对用户不友好。
第二种方法:使用过滤器,保证一定数量的请求能够正常访问系统,多余的请求先跳转到排队页面,由排队页面定时发起请求。过滤器实现如下:
publicclassServiceFilterimplementsFilter{
privatestaticfinalintMAX_COUNT=20;
privateAtomicIntegerfilterCount=0;
publicvoiddoFilter(ServletRequestrequest,ServletResponseresponse,
FilterChainchain)throwsIOException,ServletException{
System.out.println("before"+filterCount);
if(filterCount>MAX_COUNT){
//请求个数太多,跳转到排队页面
request.getRequestDispatcher("index.jsp").forward(request,response);
}else{
//请求个数加1
filterCount.incrementAndGet();
chain.doFilter(request,response);
//访问结束,请求个数减1
filterCount.decrementAndGet();
}
}
此种方式的实现就是限流。可以参考RateLimiter的令牌桶限流策略的实现。
publicclassRateLimiterUtils{
privatestaticLoggerlogger=LoggerFactory.getLogger(RateLimiterUtils.class);
privatestaticfinalConcurrentHashMapresourceLimitMap=
newConcurrentHashMap();
/**
*限流
*@paramresource需要限流的对象的标识
*@returntrue表示得到了许可,没有达到限流阀值,false表示得不到许可,达到了限流阀值。
*@author:hejinen
*@date:2016年10月19日上午11:08:49
*/
publicstaticbooleanrateLimit(Stringresource){
RateLimiterlimit=getRateLimit(resource);
returnlimit.tryAcquire();
}
/**
*获取某个需限流对象的RateLimiter,如不存在则创建新的
*@paramresouce需要限流的对象标识
*/
publicstaticRateLimitergetRateLimit(Stringresource){
RateLimiterlimit=resourceLimitMap.get(resource);
if(limit==null){
synchronized(RateLimiterUtils.class){
limit=resourceLimitMap.get(resource);
doubleqps=getQpsByResource(resource);
if(limit==null){
limit=RateLimiter.create(qps);
resourceLimitMap.put(resource,limit);
LoggerUtil.info(RateLimiterUtils.class,"createratelimiterforkey:{0},QPS:{1}",resource,qps);
}
}
}
returnresourceLimitMap.get(resource);
}
}
总结
以上就是本文关于Javaweb应用使用限流处理大量的并发请求详解的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站:javaweb设计中filter粗粒度权限控制代码示例、Javaweb项目session超时解决方案、Javaweb使用cors完成跨域ajax数据交互等,有什么问题可以随时留言,小编会及时回复大家的。感谢朋友们对本站的支持!