在伯克利的这次演讲中 ,杰夫·迪恩的幻灯片中包含以下说明,约三分之一通过演示:
Non-intuitive: remove capacity under load to improve latency (?!)
我的直觉是,减less盒子上的负载可以减less延迟,但是这个说明似乎恰恰相反,对Google来说至less是这样。 为什么会这样呢?
设想两条assembly线:
一台有两台机器,每台机器做一半的工作。 每台机器大约需要十分钟。 所以每10分钟就有一个产品下线,平均产品需要20分钟才能通过线路。
另外有二十台机器,每个机器做二十分之一的工作。 每台机器大约需要两分钟。 所以每两分钟就有一个产品下线,平均一件产品需要四十分钟才能通过线路。
第二条生产线有五倍的容量。 但是它有两倍的延迟。
现在考虑一下平均机器在十分之一的时间内是否坏了几秒钟。 第二条assembly线将会看到更多的延迟峰值,因为你有二十次机会击中一个。