异步http 超时_具有CompletableFuture的异步超时

异步http 超时

有一天，我重写了执行不佳的多线程代码，该代码在Future.get()某个时刻被阻塞：

public void serve() throws InterruptedException, ExecutionException, TimeoutException {final Future<Response> responseFuture = asyncCode();final Response response = responseFuture.get(1, SECONDS);send(response);
}private void send(Response response) {//...
}

这实际上是一个用Java编写的Akka应用程序，具有1000个线程的线程池（原文如此！）–所有这些线程都在此get()调用中被阻止。否则系统无法跟上并发请求的数量。重构后，我们摆脱了所有这些线程，只引入了一个，大大减少了内存占用。让我们简化一下并显示Java 8中的示例。第一步是引入CompletableFuture而不是普通的Future （请参阅提示9 ）。很简单，如果：

您可以控制如何将任务提交给ExecutorService ：只需使用CompletableFuture.supplyAsync(..., executorService)而不是executorService.submit(...)
您处理基于回调的API：使用Promise

否则（如果您已经阻塞了API或Future<T> ），将有一些线程被阻塞。这就是为什么现在有这么多异步API诞生的原因。假设我们以某种方式重写了代码以接收CompletableFuture ：

public void serve() throws InterruptedException, ExecutionException, TimeoutException {final CompletableFuture<Response> responseFuture = asyncCode();final Response response = responseFuture.get(1, SECONDS);send(response);
}

显然，这并不能解决任何问题，我们必须利用新的React式编程风格：

public void serve() {final CompletableFuture<Response> responseFuture = asyncCode();responseFuture.thenAccept(this::send);
}

这在功能上是等效的，但现在serve()应该立即运行（没有阻塞或等待）。只要记住， this::send将在完成responseFuture的同一线程中执行。如果您不想在某个地方重载某些任意线程池或send()昂贵，请考虑为此使用单独的线程池： thenAcceptAsync(this::send, sendPool) 。很好，但是我们失去了两个重要的属性：错误传播和超时。因为我们更改了API，所以错误传播很难。当serve()方法退出时，异步操作可能尚未完成。如果您关心异常，请考虑返回responseFuture或其他替代机制。至少，请记录异常，因为否则它将被吞噬：

final CompletableFuture<Response> responseFuture = asyncCode();
responseFuture.exceptionally(throwable -> {log.error("Unrecoverable error", throwable);return null;
});

请注意上面的代码： exceptionally()尝试从故障中恢复，并返回替代结果。它在这里有效，但是如果您将thenAccept() exceptionally()与thenAccept() ，即使发生故障也将调用send() ，但使用null参数（或者我们从exceptionally()返回的值exceptionally() ：

responseFuture.exceptionally(throwable -> {log.error("Unrecoverable error", throwable);return null;}).thenAccept(this::send);  //probably not what you think

丢失1秒超时的问题非常微妙。我们的原始代码等待（阻塞）最多1秒钟，直到Future完成。否则抛出TimeoutException 。我们失去了此功能，甚至超时的更糟糕的单元测试也不方便并且经常被跳过。为了在不牺牲事件驱动精神的前提下实现超时，我们需要一个额外的构建块：在给定时间之后始终失败的未来：

public static <T> CompletableFuture<T> failAfter(Duration duration) {final CompletableFuture<T> promise = new CompletableFuture<>();scheduler.schedule(() -> {final TimeoutException ex = new TimeoutException("Timeout after " + duration);return promise.completeExceptionally(ex);}, duration.toMillis(), MILLISECONDS);return promise;
}private static final ScheduledExecutorService scheduler =Executors.newScheduledThreadPool(1,new ThreadFactoryBuilder().setDaemon(true).setNameFormat("failAfter-%d").build());

这很简单：我们创建一个诺言（没有基础任务或线程池的未来），并在给定java.time.Duration之后使用TimeoutException完成它。如果您get()某个地方get()这样的未来，则阻塞至少这么长时间后，将抛出TimeoutException 。实际上，它将是ExecutionException包装TimeoutException ，没有办法解决。请注意，我仅使用一个线程使用固定scheduler线程池。这不仅是出于教育目的：“在这种情况下，“ 1个线程对于任何人都应该足够 ”” ^[1] 。 failAfter()本身是没有用的，但将其与我们的responseFuture结合起来，我们就有了解决方案！

final CompletableFuture<Response> responseFuture = asyncCode();
final CompletableFuture<Response> oneSecondTimeout = failAfter(Duration.ofSeconds(1));
responseFuture.acceptEither(oneSecondTimeout, this::send).exceptionally(throwable -> {log.error("Problem", throwable);return null;});

这里发生了很多事情。在通过我们的后台任务接收到responseFuture ，我们还创建了一个“合成的” oneSecondTimeout未来，它将永远不会成功完成，但总是在1秒后失败。现在，我们通过调用acceptEither合并两者。该运算符将针对第一个完成的将来（ responseFuture或oneSecondTimeout执行代码块，而只是忽略较慢的代码的结果。如果asyncCode()在1秒钟内完成，则会调用this::send并且oneSecondTimeout异常将被忽略。然而！如果asyncCode()确实很慢，则oneSecondTimeout启动。但是由于失败并带有异常，因此将调用exceptionally错误处理程序，而不是this::send 。您可以认为send()或exceptionally将被调用，而不是两者都被调用。当然，如果我们有两个正常完成的“普通”期货，则将以第一个的响应调用send() ，并丢弃后者。

这不是最干净的解决方案。一个干净的人会包装原始的未来，并确保它在给定的时间内完成。此类运算符可在com.twitter.util.Future （Scala；称为com.twitter.util.Future （ within() ）中使用，但是在scala.concurrent.Future丢失（可能是受前者启发）。让我们留下Scala并为CompletableFuture实现类似的运算符。它以一个Future作为输入，并返回一个在基础底层完成时完成的Future。但是，如果完成基础的未来花费的时间太长，则会引发异常：

public static <T> CompletableFuture<T> within(CompletableFuture<T> future, Duration duration) {final CompletableFuture<T> timeout = failAfter(duration);return future.applyToEither(timeout, Function.identity());
}

这导致了最终，清洁和灵活的解决方案：

final CompletableFuture<Response> responseFuture = within(asyncCode(), Duration.ofSeconds(1));
responseFuture.thenAccept(this::send).exceptionally(throwable -> {log.error("Unrecoverable error", throwable);return null;});

希望您喜欢这篇文章，因为您可以看到Java的React式编程已不再是未来的事情（无双关）。