总是返回即时响应的高速caching?

我有一个Web服务需要一段时间才能build立一个响应,尽pipe我已尽可能调整。

我想要的是坐在服务之前的某种caching,它总是返回服务中最后一个已知的值,但是同时将请求传递回服务,为下一个服务build立一个最新的响应请求。

我意识到这会影响数据的新鲜度,但您可以假设我很乐意接受这一点。

我目前使用的技术是通过nginx的python uwsgi,但是这对于你可能提出的任何解决scheme来说都不是限制。

关口

假设你想要一个反向代理,你可以在圣徒模式中使用Varnish,或者在失败指令为stale-if的情况下使用squid。

如果你想要应用程序caching,例如使用memcached,只是不要依赖存储过期机制 – 存储过期与caching对象array(cached_object=>object, expiry=>timestamp) ,如果遇到陈旧的caching反应​​:增加到期到现在+一点时间(以防止多次进程的并发处理),使用陈旧的caching,初始化更新。