负载均衡器在系统设计中的作用

当一个网站变得非常流行时，网站上的流量增加，单个服务器的负载也增加。并发流量超过单个服务器的处理能力，导致网站变得对用户响应缓慢。为了应对这些高数据量的请求，以快速可靠的方式返回正确的响应，我们需要对服务器进行扩展。这可以通过向网络中添加更多的服务器，并将所有请求分布到这些服务器上来实现。但是...谁来决定将哪个请求路由到哪个服务器呢？

Load-Balancer-System-Design-Interview.png

答案是...负载均衡器。让我们详细了解一下负载均衡器的概念...

什么是负载均衡器？

负载均衡器就像站在服务器前面的“交通警察”，将客户端请求分配到所有服务器上。它会有效地分发一组请求操作（如数据库写请求、缓存查询）到多个服务器上，并确保没有任何单个服务器承受过多的请求，从而降低应用程序的整体性能。负载均衡器可以是一个物理设备，也可以是运行在专用硬件上的虚拟实例，或者是一个软件进程。

考虑一个场景，一个应用程序在单个服务器上运行，客户端直接连接到该服务器而没有负载均衡。它看起来可能像下面这样...

我们需要讨论一下这种模型的两个主要问题：

• 单点故障：如果服务器崩溃或出现问题，整个应用程序将中断，对用户在一段时间内不可用。这会给用户创建一个不良的体验，这对于服务提供商来说是不可接受的。
• 服务器过载：一个Web服务器可以处理的请求数量是有限的。如果业务增长，请求数量增加，服务器将会过载。为了解决不断增加的请求，我们需要添加更多的服务器，并将请求分发到这些服务器集群上。

为了解决上述问题，并分发请求的数量，我们可以在Web服务器前添加负载均衡器，通过将请求分发到多个服务器上，允许我们的服务通过在网络中添加任意数量的Web服务器来处理任何数量的请求。我们可以将请求分散到多个服务器上。如果由于某种原因，其中一个服务器下线，服务仍将继续。此外，每个请求的延迟将降低，因为每个服务器不再受限于RAM/磁盘/CPU。

• 负载均衡器可以最小化服务器响应时间，最大化吞吐量。
• 负载均衡器通过仅将请求发送到在线服务器，确保高可用性和可靠性。
• 负载均衡器进行持续的健康检查，监视服务器处理请求的能力。
• 根据请求数量或需求，负载均衡器添加或删除服务器数量。