91网首页-91网页版-91网在线观看-91网站免费观看-91网站永久视频-91网站在线播放

一個(gè)服務(wù)端進(jìn)程能同時(shí)連接多少個(gè) Socket？

要理解一個(gè)服務(wù)端進(jìn)程能同時(shí)支持多少個(gè)連接，首先我們需要明確一個(gè) socket 連接 的表示方式。一個(gè)連接由四個(gè)部分組成：[LocalIP:LocalPort:RemoteIP:RemotePort]。對(duì)于服務(wù)端進(jìn)程來說，LocalIP 和 LocalPort 是固定的，而 RemoteIP 和 RemotePort 則是可以變化的。思考一下，RemoteIP 可以有多少種可能？RemotePort 又可以有多少種可能？這兩者組合起來，理論上能夠支持多少個(gè)連接呢？

從理論上講，組合的可能性為：

• (RemoteIP) 2^32 * (RemotePort) 2^16 = 2^48

這意味著，理論上一個(gè)服務(wù)端進(jìn)程可以支持 2^48 個(gè)連接。然而，實(shí)際中，連接數(shù)通常會(huì)受到其他系統(tǒng)資源的限制。

是否受端口數(shù)限制？

首先需要明確的是，服務(wù)端監(jiān)聽一個(gè)端口時(shí)僅占用一個(gè)端口。與客戶端建立連接并不會(huì)占用服務(wù)端的端口。端口數(shù)量限制的是客戶端，每個(gè)客戶端在建立連接時(shí)才會(huì)占用一個(gè)本地端口。

服務(wù)端的連接數(shù)不受端口數(shù)量的影響。

不受端口限制，那它受什么限制呢？

服務(wù)端支持的連接數(shù)主要受文件描述符的限制。每個(gè) socket 連接都需要占用一個(gè)文件描述符，Linux 系統(tǒng)，一個(gè)用戶進(jìn)程默認(rèn)的文件描述符數(shù)量通常是 1024。如果連接數(shù)超過這個(gè)值，應(yīng)用程序就會(huì)報(bào)錯(cuò)，提示“文件描述符不足”。

幸運(yùn)的是，文件描述符的數(shù)量是可以調(diào)整的，根據(jù)需求，可以將其設(shè)置為 10 萬個(gè)或更多，完全可以滿足大多數(shù)應(yīng)用的需求。

下面改到100w

* soft nofile 1000000
* hard nofile 1000000
// /etc/sysctl.conf

fs.file-max = 1000000

文件描述符是什么？它占用什么資源？

文件描述符是操作系統(tǒng)用來標(biāo)識(shí)打開的文件或 socket 連接的一個(gè)“標(biāo)識(shí)符”。本身并不占用太多資源，它只是操作系統(tǒng)內(nèi)部的一種管理方式。

那么，socket 占用服務(wù)器的哪些資源呢？

1）內(nèi)存

每個(gè) socket 連接在內(nèi)核空間會(huì)分配接收和發(fā)送緩沖區(qū)。假設(shè)每個(gè)緩沖區(qū)默認(rèn)大小為 128KB，如果服務(wù)端要管理 10 萬個(gè)連接，那么所需的內(nèi)存就是：

• 10 萬 * 256KB = 24.41GB 內(nèi)存

如果服務(wù)器內(nèi)存不足 24GB，但仍需要支持 10 萬個(gè)連接，可以通過調(diào)整系統(tǒng)的緩沖區(qū)配置來減少每個(gè)連接所需的內(nèi)存。

例如，可以修改以下內(nèi)核參數(shù)來調(diào)整 TCP 緩沖區(qū)的大小：

# 默認(rèn)配置 
# 內(nèi)核會(huì)根據(jù)實(shí)際的網(wǎng)絡(luò)情況自動(dòng)調(diào)整緩沖區(qū)的大小，在最小值和最大值間浮動(dòng)
net.ipv4.tcp_rmem = 4096 131072 6291456

• 4096：最小值
• 131072：默認(rèn)值
• 6291456：最大值

可以將其都改成4096，也就是4KB。這樣10萬個(gè)連接，只占用781.25MB

2）線程

服務(wù)端進(jìn)程需要使用線程來處理接收和發(fā)送的數(shù)據(jù)。現(xiàn)代的服務(wù)端大多使用 NIO（非阻塞 I/O）模型，在該模型中，一個(gè) worker 線程可以管理多個(gè) socket 連接。通過 select 或 epoll 等機(jī)制，NIO 模型可以高效地選擇需要處理的 socket 連接。

通常，worker 線程的數(shù)量是固定的，并不需要太多，20 個(gè)左右就足夠。這些 worker 線程負(fù)責(zé)處理接收到的數(shù)據(jù)包，然后將完整的數(shù)據(jù)包交給應(yīng)用層的線程池，后者負(fù)責(zé)執(zhí)行實(shí)際的業(yè)務(wù)邏輯。

連接數(shù) ≠ 并發(fā)量：一個(gè)服務(wù)端進(jìn)程能應(yīng)付多少個(gè) socket 通信？

實(shí)際應(yīng)用中，連接數(shù)并不等于并發(fā)量。并發(fā)量指的是同一時(shí)刻正在進(jìn)行數(shù)據(jù)交換的連接數(shù)，而連接數(shù)指的是總的連接數(shù)。

一個(gè)服務(wù)端進(jìn)程可以管理大量的 socket 連接，但如果每個(gè)連接的通信頻率較低（例如，物聯(lián)網(wǎng)設(shè)備的定時(shí)數(shù)據(jù)上報(bào)、偶爾發(fā)送指令等），那么即使連接數(shù)很高，系統(tǒng)也可以輕松應(yīng)對(duì)。

例如，在一個(gè)物聯(lián)網(wǎng)平臺(tái)中，設(shè)備定期上報(bào)數(shù)據(jù)，偶爾發(fā)送異常報(bào)告或接收指令，這種應(yīng)用場景下，服務(wù)端能管理的連接數(shù)和通信量通常沒有太大壓力。

然而，如果應(yīng)用的客戶端和服務(wù)端之間頻繁通信且實(shí)時(shí)性要求較高（例如，實(shí)時(shí)數(shù)據(jù)傳輸、低延遲處理等），則需要考慮更多因素。此時(shí)，NIO 模型是否會(huì)導(dǎo)致延遲？單個(gè)服務(wù)節(jié)點(diǎn)是否能夠支持如此頻繁的連接？是否需要分散負(fù)載，使用多個(gè)服務(wù)節(jié)點(diǎn)來提高并發(fā)能力？

題外話：為什么NIO會(huì)有延遲？

NIO的設(shè)計(jì)特點(diǎn)是一個(gè)Worker線程負(fù)責(zé)管理多個(gè)Socket連接的通信。假設(shè)一個(gè)Worker線程同時(shí)處理10個(gè)Socket連接，當(dāng)這10個(gè)Socket同時(shí)收到數(shù)據(jù)包時(shí)，處理順序就會(huì)依賴于它們的到達(dá)順序。在這種情況下，最后一個(gè)接收到數(shù)據(jù)包的Socket必須等待前面9個(gè)數(shù)據(jù)包的解析和分發(fā)，因此會(huì)有一定的延遲。

然而，在大多數(shù)實(shí)際業(yè)務(wù)場景中，多個(gè)Socket同時(shí)接收數(shù)據(jù)的情況并不常見。而且，即使存在延遲，它通常也不會(huì)對(duì)業(yè)務(wù)產(chǎn)生顯著影響，延遲水平通常在可接受的范圍內(nèi)。

總結(jié)

一個(gè)服務(wù)端進(jìn)程能同時(shí)連接的 socket 數(shù)量不僅取決于端口數(shù)，而是受文件描述符、內(nèi)存、線程等資源的限制。通過調(diào)整系統(tǒng)配置和優(yōu)化架構(gòu)，服務(wù)端可以高效地管理大量連接。但在高頻繁通信的場景下，可能需要進(jìn)一步考慮架構(gòu)優(yōu)化，例如使用 NIO 處理延遲，或通過分布式架構(gòu)分散負(fù)載，確保系統(tǒng)能夠承載高并發(fā)的連接。

轉(zhuǎn)自https://www.cnblogs.com/longfurcat/p/18615422