负载均衡(Load Balancing)是一种计算机网络和服务器管理技术,旨在分配网络流量、请求或工作负载到多个服务器或资源,以确保这些服务器能够高效、均匀地处理负载,并且能够提供更高的性能、可用性和可扩展性。
这篇文章,我们聊聊六种通用的负载均衡算法。
1 轮询 (Round Robin)
轮询是指将请求按顺序轮流地分配到后端服务器上,它均衡地对待后端的每一台服务器,而不关心服务器实际的连接数和当前的系统负载。
示例代码:- import java.util.List;
- import java.util.concurrent.atomic.AtomicInteger;
- public class RoundRobin {
- private final List<String> servers;
- private final AtomicInteger index = new AtomicInteger(0);
- public RoundRobin(List<String> servers) {
- this.servers = servers;
- }
- public String getServer() {
- int currentIndex = index.getAndIncrement() % servers.size();
- return servers.get(currentIndex);
- }
- }
复制代码 2 粘性轮询 (Sticky Round-Robin)
粘性轮询是标准轮询算法的一个变种,它通过记住客户端与服务实例的映射关系,确保来自同一客户端的连续请求会被路由到同一个服务实例上。
它的特点是:
- 会话保持:一旦客户端首次请求被分配到某个服务实例,后续请求会"粘"在这个实例上
- 客户端识别:通常基于客户端IP、会话ID或特定HTTP头来识别客户端
- 故障转移:当目标服务实例不可用时,系统会重新分配客户端到其他可用实例
示例代码:- import java.util.List;
- import java.util.Map;
- import java.util.concurrent.ConcurrentHashMap;
- import java.util.concurrent.atomic.AtomicInteger;
- public class StickyRoundRobin {
- private final List<String> servers;
- private final AtomicInteger index = new AtomicInteger(0);
- private final Map<String, String> clientToServer = new ConcurrentHashMap<>();
- public StickyRoundRobin(List<String> servers) {
- this.servers = servers;
- }
- public String getServer(String clientId) {
- return clientToServer.computeIfAbsent(clientId,
- k -> servers.get(index.getAndIncrement() % servers.size()));
- }
- }
复制代码 3 加权轮询 (Weighted Round-Robin)
加权轮询是标准轮询算法的增强版本,它允许管理员为每个服务实例分配不同的权重值。权重越高的实例处理越多的请求,从而实现更精细的负载分配。
它的特点是:
- 权重分配:每个服务实例都有对应的权重值
- 比例分配:请求按权重比例分配到不同实例
- 动态调整:权重可以动态修改以适应不同场景
示例代码:- private static Map<String, Integer> serverMap = new ConcurrentHashMap<>();
- //记录服务器权重总和
- private static int totalWeight = 0;
- public static String weightRandom() {
- //获取服务器数量
- int serverCount = serverMap.size();
- //如果没有可用的服务器返回null
- if (serverCount == 0) {
- return null;
- }
- //在此处为避免多线程并发操作造成错误,在方法内部进行锁操作
- synchronized (serverMap) {
- //计算服务器权重总和
- for (Map.Entry<String, Integer> entry : serverMap.entrySet()) {
- totalWeight += entry.getValue();
- }
- //生成一个随机数
- int randomWeight = new Random().nextInt(totalWeight);
- //遍历服务器列表,根据服务器权重值选择对应地址
- for (Map.Entry<String, Integer> entry : serverMap.entrySet()) {
- String serverAddress = entry.getKey();
- Integer weight = entry.getValue();
- randomWeight -= weight;
- if (randomWeight < 0) {
- return serverAddress;
- }
- }
- }
- //默认返回null
- return null;
- }
- public class WeightRandomLoadBalancer implements LoadBalancer {
- private List<String> servers = new ArrayList<>();
- private Map<String, Integer> weightMap = new HashMap<>();
- public WeightRandomLoadBalancer(Map<String, Integer> servers) {
- this.servers.addAll(servers.keySet());
- for (String server : servers.keySet()) {
- int weight = servers.get(server);
- weightMap.put(server, weight);
- }
- }
- @Override
- public String chooseServer() {
- int weightSum = weightMap.values().stream().reduce(Integer::sum).orElse(0);
- int randomWeight = ThreadLocalRandom.current().nextInt(weightSum) + 1;
- for (String server : servers) {
- int weight = weightMap.get(server);
- if (randomWeight <= weight) {
- return server;
- }
- randomWeight -= weight;
- }
- return null;
- }
- }
复制代码 6 最快响应时间 (Least Response Time)
最快响应时间(Least Response Time,LRT)是一种智能动态负载均衡算法,它通过选择当前响应时间最短的服务器来处理新请求,从而优化整体系统性能。
LRT 算法基于以下核心判断标准:
- 实时性能监控:持续跟踪每台服务器的历史响应时间
- 动态路由决策:新请求总是分配给响应最快的可用服务器
- 自适应学习:根据服务器性能变化自动调整流量分配
示例代码:- import java.util.List;
- import java.util.zip.CRC32;
- public class SourceIPHashLoadBalancer {
- private final List<String> servers;
-
- public SourceIPHashLoadBalancer(List<String> servers) {
- this.servers = servers;
- }
-
- public String getServer(String clientIP) {
- if (servers.isEmpty()) {
- return null;
- }
-
- // 计算IP的哈希值
- long hash = calculateHash(clientIP);
-
- // 取模确定服务器索引
- int index = (int) (hash % servers.size());
-
- return servers.get(Math.abs(index));
- }
-
- private long calculateHash(String ip) {
- CRC32 crc32 = new CRC32();
- crc32.update(ip.getBytes());
- return crc32.getValue();
- }
- }
复制代码 来源:豆瓜网用户自行投稿发布,如果侵权,请联系站长删除 |