打开65k以上的文件(TCP连接)

我有一个要求我的Ubuntu 14.04.3 LTS服务器有> 65k客户端通过TCP连接到它。 虽然我有内存和CPU,我无法获得超过65K的客户端连接。 我怀疑这是一个开放的文件限制问题,但是我已经遵循了许多现有的解决scheme,以改变打开的文件数量的限制,但我仍然达到极限。 我做了以下更改

在/etc/security/limits.conf

* soft nofile 500000 * hard nofile 500000 root soft nofile 500000 root hard nofile 500000 

/etc/pam.d/common-session

 session required pam_limits.so 

/etc/pam.d/common-session-noninteractive

 session required pam_limits.so 

/etc/sysctl.conf中

 fs.file-max = 500000 

当我检查ulimit它看起来是正确更新,你可以看到下面…

 :~$ ulimit -a core file size (blocks, -c) 0 data seg size (kbytes, -d) unlimited scheduling priority (-e) 0 file size (blocks, -f) unlimited pending signals (-i) 30038 max locked memory (kbytes, -l) 64 max memory size (kbytes, -m) unlimited open files (-n) 500000 pipe size (512 bytes, -p) 8 POSIX message queues (bytes, -q) 819200 real-time priority (-r) 0 stack size (kbytes, -s) 8192 cpu time (seconds, -t) unlimited max user processes (-u) 30038 virtual memory (kbytes, -v) unlimited file locks (-x) unlimited :~$ cat /proc/1739/limits Limit Soft Limit Hard Limit Units Max cpu time unlimited unlimited seconds Max file size unlimited unlimited bytes Max data size unlimited unlimited bytes Max stack size unlimited unlimited bytes Max core file size 0 unlimited bytes Max resident set unlimited unlimited bytes Max processes 30038 30038 processes Max open files 500000 500000 files Max locked memory 65536 65536 bytes Max address space unlimited unlimited bytes Max file locks unlimited unlimited locks Max pending signals 30038 30038 signals Max msgqueue size 819200 819200 bytes Max nice priority 0 0 Max realtime priority 0 0 Max realtime timeout unlimited unlimited us 

不幸的是,在服务器打开65,589个打开的文件并拒绝打开其他文件(tcp连接)的情况下,似乎还有一些限制,以防止额外的客户端被添加。

 :~$ sudo ls /proc/1739/fd | wc -l 65589 

有没有其他的设置在Ubuntu / Linux需要改变?

更新

vm.max_map_count似乎已经通过设置sudo sysctl vm.max_map_count=16777216并将vm.map_map_count条目添加到/etc/sysctl.conf

如你看到的…

 :~$ sudo ls /proc/2391/fd | wc -l 73609 :~$ netstat -an | grep ESTABLISHED | wc -l 73561 

我将不得不小心将打开文件的数量设置为与所需的内存使用量相对应的限制。 closures链接@ sysadmin1138提供了另一个页面推荐每个地图的内存16K(打开TCP套接字),这似乎是一个很好的起点。 尽pipe现在我看到了一个不同的症状,当服务器尝试向连接的客户端发布消息时,打开的文件/套接字的数量会发生波动。 所以这需要进一步的调查。

在Linux上 ,每个最大的套接字数量 ,sysctlvariablesvm.max_map_count可能在这里使用。

您可能会遇到16位端口(65536)的限制。

正如其他人所说的,你可能会达到单个接口允许的最大端口数。

你可能可以添加一个接口alice绑定你的应用程序在该IP上,并开始服务来自新IP的请求。