[haproxy和nginx的区别]HAProxy千万级并发问题解决方案

更新时间：2019-11-20 来源：nginx 手机版 字体：大中小

【www.bbyears.com--nginx】

HAProxy特别适用于那些负载特大的web站点，这些站点通常又需要会话保持或七层处理。HAProxy运行在当前的硬件上，完全可以支持数以万计的并发连接。并且它的运行模式使得它可以很简单安全的整合进您当前的架构中，同时可以保护你的web服务器不被暴露到网络上。

1.问题描述

RMI上线后，现网的接口总是报告异常。

2.问题分析

通过对RMI源码的理解，这个是在RMI客户端那边没有可用的连接时，需要创建一个新的连接，但是连接失败。

网络问题一般抓包可以定位，于是通过抓包发现失败的连接有个共同的现象，就是在5秒钟被HAProxy主动关闭，考虑到HAProxy的配置有个connectTimeout参数为5秒，应该是HAProxy连接后端的RMI服务器时失败。

通过抓包也验证了这一点，因为在5秒钟内，并没有搜到从HAProxy发起的对后端的SYN报文(除了check导致的握手)。

于是大胆怀疑问题出在HAProxy这边，否则至少HAProxy应该发起主动连接才对。

此时猜测HAProxy没有拿到可用的服务器。

3.HAProxy定位

3.1 connect(...)

刚开始怀疑是HAProxy没有拿到可用的服务器，那么从哪里入手解决问题呢?

考虑到如果HAProxy如果需要对远程服务器建立连接的话，肯定需要调用connect(...)这个C语言的API,所以全文搜索connect(....)

在函数

中可以看到调用了connect(...)

3.2 tcpv4_connect_server的指定

查看tcpv4_connect_server的调用栈

上面这个代码是在event_accept函数中，也就是说在session中的client建立时，指定session的server端的connect函数，然后后面某个地方触发了tcpv4_connect_server函数。

3.3 tcpv4_connect_server的调用

到这里就很清楚了，通过调用connect_server函数，然后根据之前指定的连接函数来触发之，由于我们在3.2中指定了 tcpv4_connect_server函数，所以触发它，tcpv4_connect_server函数中又调用了connect函数，所以需要跟踪 connect_server函数。

3.4 connect_server的调用

查看调用栈，

通过类似的调用机制，尝试定位问题。

更详细的调用栈就不一一列出。

3.4 修改源码添加自定义日志

为了定位问题的准确性，修改HAProxy【1.4.23】源码，在每一个session创建和后续行为都添加了自己的日志，同时每个日志行都添加了session的唯一ID.

这样就可以跟踪每个会话的具体行为。

日志格式如下：

3.5 srv_dynamic_maxconn

通过日志，我们发现，其实并不是HAProxy拿不到可用的服务器，而是拿到了之后，通过这个函数动态计算这个服务器当前的动态maxconn.

跟踪下代码:

unsigned int srv_dynamic_maxconn(const struct server *s,struct session* session)
{

unsigned int max;

if (s->proxy->beconn >= s->proxy->fullconn)
{
/* no fullconn or proxy is full */
max = s->maxconn;
}
else if (s->minconn == s->maxconn)
{
    /* static limit */
max = s->maxconn;
}
else
{
       max = MAX(s->minconn,
       s->proxy->beconn * s->maxconn / s->proxy->fullconn);
}

if ((s->state & SRV_WARMINGUP) &&
    now.tv_sec < s->last_change + s->slowstart &&
    now.tv_sec >= s->last_change) {
unsigned int ratio;
ratio = 100 * (now.tv_sec - s->last_change) / s->slowstart;
max = MAX(1, max * ratio / 100);
}
return max;
}