摘要：不過在出來之后支持異步了，可以把業(yè)務(wù)操作放到獨(dú)立的線程池里面去，這樣可以盡快釋放線程，本身也支持異步了，本篇文章將帶你如何使用的異步特性來改造優(yōu)化其性能。

? 我們知道spring-cloud-zuul是依賴springMVC來注冊(cè)路由的，而springMVC又是在建立在servlet之上的（這里微服務(wù)專家楊波老師寫過一篇文章講述其網(wǎng)絡(luò)模型，可以參考看看），在servlet3.0之前使用的是thread per connection方式處理請(qǐng)求，就是每一個(gè)請(qǐng)求需要servlet容器為其分配一個(gè)線程來處理，直到響應(yīng)完用戶請(qǐng)求，才被釋放回容器線程池，如果后端業(yè)務(wù)處理比較耗時(shí)，那么這個(gè)線程將會(huì)被一直阻塞，不能干其他事情，如果耗時(shí)請(qǐng)求比較多時(shí)，servlet容器線程將被耗盡，也就無法處理新的請(qǐng)求了，所以Netflix還專門開發(fā)了一個(gè)熔斷的組件Hystrix 來保護(hù)這樣的服務(wù)，防止其因后端的一些慢服務(wù)耗盡資源，造成服務(wù)不可用。不過在servlet3.0出來之后支持異步servlet了，可以把業(yè)務(wù)操作放到獨(dú)立的線程池里面去，這樣可以盡快釋放servlet線程，springMVC本身也支持異步servlet了，本篇文章將帶你如何使用servlet3.0的異步特性來改造spring-cloud-zuul優(yōu)化其性能。

? 我們先來創(chuàng)建一個(gè)zuul的maven項(xiàng)目，就叫async-zuul吧，具體代碼我放在github上了。項(xiàng)目依賴于consul做注冊(cè)中心，啟動(dòng)時(shí)先要在本地啟動(dòng)consul，為了能看到效果我們先來新建一個(gè)zuul的filter類：

@Component
public class TestFilter extends ZuulFilter {
    //忽略無關(guān)代碼，具體看github上的源碼
    @Override
    public Object run() {
        RequestContext ctx = RequestContext.getCurrentContext();
        HttpServletRequest request = ctx.getRequest();
        System.out.println("==============線程名稱：" +                                         Thread.currentThread().getName() 
                + "，訪問url：" + request.getRequestURI() + "================");
        return null;
    }
}

主要就是打印下線程的名稱，這個(gè)filter是zuul的前置過濾器，我們主要就是看下在zuul在執(zhí)行路由時(shí)是由什么線程執(zhí)行的。好了我們來啟動(dòng)下main方法，不過我們還需要一個(gè)后端服務(wù)，很簡(jiǎn)單，創(chuàng)建一個(gè)springcloud項(xiàng)目名叫book即可,并提供一個(gè)url:/book/borrow，啟動(dòng)后把服務(wù)注冊(cè)到consul上，成功后我們通過zuul的代理來訪問下book服務(wù)：

http://localhost:8080/book/book/borrow

輸出：

==========線程名稱：http-nio-8080-exec-10，訪問url：/book/book/borrow=======

很清楚的看到執(zhí)行filter的線程是servlet容器線程，等下我們改造成異步后再做一下對(duì)比。

? 還記得在文章spring-cloud-zuul原理解析(一)中我們分析到，spring-cloud-zuul的路由映射使用到springMVC的兩大組件ZuulHandlerMapping和ZuulController ，目前肯定是無法支持異步servlet的。那么這兩個(gè)類在哪里被加載的呢？答案就是ZuulServerAutoConfiguration，此類是spring-cloud-zuul自動(dòng)配置類，源碼如下：

@Configuration
@ConditionalOnBean(annotation=EnableZuulProxy.class)
@EnableConfigurationProperties({ ZuulProperties.class })
@ConditionalOnClass(ZuulServlet.class)
@Import(ServerPropertiesAutoConfiguration.class)
public class ZuulServerAutoConfiguration {
    //無關(guān)代碼省略..........
    @Bean
    public ZuulController zuulController() {
        return new ZuulController();
    }
    @Bean
    public ZuulHandlerMapping zuulHandlerMapping(RouteLocator routes) {
        ZuulHandlerMapping mapping = new ZuulHandlerMapping(routes, zuulController());
        mapping.setErrorController(this.errorController);
        return mapping;
    }
    //無關(guān)代碼省略..........
}

可以看到這兩個(gè)類在spring-cloud-zuul中并沒有為我們提供擴(kuò)展，沒法替換它們來實(shí)現(xiàn)servlet的異步邏輯，那該怎么辦呢？spring-cloud-zuul還有一個(gè)自動(dòng)配置配ZuulProxyAutoConfiguration繼承自ZuulServerAutoConfiguration，我們把這兩個(gè)配置類全部替換掉，換成我們自己的不就可以了么？是的，不過首先我們得先排除加載這兩個(gè)自動(dòng)配置類，springboot為我們提供這樣的設(shè)置：

@EnableZuulProxy
//排除ZuulProxyAutoConfiguration配置類
@SpringBootApplication(exclude=ZuulProxyAutoConfiguration.class)
public class Startup {
    public static void main(String[] args) {
        SpringApplication.run(Startup.class, args);
    }
}

之后，我們創(chuàng)建兩個(gè)自己的配置配，完全拷貝ZuulServerAutoConfiguration和ZuulProxyAutoConfiguration這兩個(gè)類，不過光這兩個(gè)類還是不行，這兩個(gè)類使用到了類RibbonCommandFactoryConfiguration，里面的內(nèi)部類是protected的，我們沒法使用，也得自己創(chuàng)建，也是拷貝自RibbonCommandFactoryConfiguration，然后我們還需修改ZuulController的邏輯改成異步方式，所以再新建一個(gè)類繼承ZuulController，這樣我們就新建了自己的三個(gè)配置類和一個(gè)自己的ZuulController`類，如下：

public class MyZuulController extends ZuulController{
    private final AsyncTaskExecutor asyncTaskExecutor;
    public MyZuulController(AsyncTaskExecutor asyncTaskExecutor) {
        super();
        this.asyncTaskExecutor = asyncTaskExecutor;
    }
    @Override
    public ModelAndView handleRequest(HttpServletRequest request, HttpServletResponse response) throws Exception {
        //真正的異步化邏輯
        final AsyncContext asyncCtx = request.startAsync();
        this.asyncTaskExecutor.execute(new Runnable() {
            @Override
            public void run() {
                try {
        MyZuulController.this.handleRequestInternal((HttpServletRequest)asyncCtx.getRequest(),
                            (HttpServletResponse)asyncCtx.getResponse());
                }catch (Exception e) {
                    e.printStackTrace();
                }finally {
                    asyncCtx.complete();
                    RequestContext.getCurrentContext().unset();
                }
            }
        });
        return null;
    }
}

@Configuration
@ConditionalOnBean(annotation=EnableZuulProxy.class)
@EnableConfigurationProperties({ ZuulProperties.class })
@ConditionalOnClass(ZuulServlet.class)
@Import(ServerPropertiesAutoConfiguration.class)
public class MyZuulServerAutoConfiguration {
    //省略代碼，完全拷貝自ZuulServerAutoConfiguration
    /**
     * 自定義線程池
     * @return
     */
    @Bean
    public AsyncTaskExecutor zuulAsyncPool() {
        ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
        executor.setThreadNamePrefix("zuul-async-");
        executor.setCorePoolSize(5);
        executor.setMaxPoolSize(10);
        executor.setQueueCapacity(50);
        return executor;
    }
    //這里換成我們自己的MyZuulController類，并且傳入一個(gè)我們自定義的線程池
    @Bean
    public ZuulController zuulController(AsyncTaskExecutor asyncTaskExecutor) {
        return new MyZuulController(asyncTaskExecutor);
    }
    @Bean
    public ZuulHandlerMapping zuulHandlerMapping(RouteLocator routes,AsyncTaskExecutor asyncTaskExecutor) {
        ZuulHandlerMapping mapping = new ZuulHandlerMapping(routes, zuulController(asyncTaskExecutor));
        mapping.setErrorController(this.errorController);
        return mapping;
    }
}

@Configuration
@Import({ MyRibbonCommandFactoryConfiguration.RestClientRibbonConfiguration.class,
    MyRibbonCommandFactoryConfiguration.OkHttpRibbonConfiguration.class,
    MyRibbonCommandFactoryConfiguration.HttpClientRibbonConfiguration.class })
@ConditionalOnBean(annotation=EnableZuulProxy.class)
public class MyZuulProxyAutoConfiguration extends MyZuulServerAutoConfiguration {
    //省略代碼，完全拷貝自ZuulProxyAutoConfiguration
}

public class MyRibbonCommandFactoryConfiguration {
    //省略代碼，完全拷貝自RibbonCommandFactoryConfiguration
}

這里我們稍作了一點(diǎn)修改

@ConditionalOnBean(ZuulProxyMarkerConfiguration.Marker.class)
//替換成：
@ConditionalOnBean(annotation=EnableZuulProxy.class)

這樣做的目的主要是配合注解@EnableZuulProxy使用，只有開啟了此注解才加載配置類。我們還替換ZuulController成我們自定義的MyZuulController了，這里是異步化的主要邏輯，其實(shí)也非常簡(jiǎn)單，就是使用了serv3.0為我們提供的api來開啟異步化。萬事已經(jīng)具備啦，我們?cè)俅螁?dòng)zuul，訪問上面的url，輸出：

==========線程名稱：zuul-async-1，訪問url：/book/book/borrow==========

哈哈，執(zhí)行filter的線程變成我們自定義的線程名稱了，達(dá)到了我們的需求，servlet已經(jīng)變成異步的了。

這是我對(duì)spring-cloud-zuul實(shí)現(xiàn)異步servlet的想法，記錄下來，可能不是最好的實(shí)現(xiàn)方式，如果您有更好的方法歡迎留言給我一起探討下！