服务器接受的链接过多，该怎么处理

江东橘子 2011-06-17 05:01:12

加精

每当客户端有一个请求链接时，服务器就accept，然后建立一个线程;但是服务器新建的线程有上限，例如1000;
当同时有1500个请求链接时，服务器只能处理1000个请求，产生1000个线程，这1000个线程都处于忙碌状态;那么剩下的500的服务器改怎么处理？
方法：建立一个列队来存储这500个请求可以吗？我担心在等待服务器出现空闲线程时，等待时间过长，链接断开了

各位有什么好的方法来处理这个情况吗

...全文

1998 62 打赏收藏转发到动态举报

写回复

用AI写文章

62 条回复

切换为时间正序

请发表友善的回复…

发表回复

江东橘子 2011-07-28

打赏
举报

谢谢各位大侠的回复！！
分数不够，不能都拿到，谅解谅解 huhuu

favan 2011-07-04

打赏
举报

学习一下

a0solo 2011-06-30

打赏
举报

server load balancing

qq120848369 2011-06-30

打赏
举报

瓶颈在于线程个数有限制..

用epoll检测监听套接字与已连接套接字,将新的连接套接字加入到集合里,将已连接套接字的数据到来作为一个task加入到全局队列里,唤醒一个线程去处理.

传统的都是一个客户对应一个线程,始终占有直到客户端断开连接.

现在是一个请求对应一个线程,处理结束便放掉了线程,所以一个线程已经不是在对应一个客户了,而是对应千千万万客户的千千万万个请求.

你应该知道线程里死循环,阻塞在条件变量上的,只有主线程给予通知才能唤醒,一旦唤醒,那么由于死循环检测缘故,如果我们只有1000个线程,而来了8000个请求,主线程不管3721,将8000个请求都加入队列,并且唤醒8000次,而实际唤醒1000次就唤醒了所有线程,而每个线程都是轮训检测的,所以将最终取完并处理所有在全局队列里的请求.

这就是一个线程对应多个客户,线程的工作周期不是和客户生命周期一样,而是随每一次请求而运作的.

ak_kay 2011-06-30

打赏
举报

我也觉得对，使用epoll来做的话，那就是对着的是千千万万个请求的问题，而不是接受连接的问题了。

1：master+worker 处理，主进程负责创建监听 sockfd，子进程负责epoll处理各个事件发生，检测到各个事件是读写事件或accept 进入不同队列。

2：各个进程对于处理accept事件接入时，使用锁来防止发生群惊，这样也会使得各个进程负载均匀。

3：各个子进程里面维护的是各自其accept上来的 sockfd, 那么这就会，即使其中一个子进程退出了，也不至于全部client退出，并且主进程可以通过信号来检测得到哪个子进程非正常退出了，然后重新建立进程。

看你业务需要，不是文件大信息类型的服务器，应该不用一条线程一个用户也处理的过来吧？

树先生 2011-06-29

打赏
举报

线程池+epoll
可开50个线程每个线程使用epoll管理30个socket

wany2032 2011-06-29

打赏
举报

这个肯个人觉得一般的程序超过30个线程那就是不可以接受的 linux 下epoll不错，另外使用一下AIO

nut_free 2011-06-28

打赏
举报

学习ing

li304464743 2011-06-28

打赏
举报

同问啊啊啊啊!!!!

aXen 2011-06-28

打赏
举报

建立线程池，线程处理完任务后，由线程池回收，交给下一个任务。

luketty 2011-06-28

打赏
举报

不能每个连接单开个线程啊，这样服务器会死的很惨
如上面说的，用高并发的网络模型
linux上 epoll
win上 iocp
性能都很不错

一只牛_007 2011-06-28

打赏
举报

用ACE的Reactor，单线程多客户端。

一只牛_007 2011-06-28

打赏
举报

[Quote=引用 5 楼 delphiwcdj 的回复:]

对于那种有大量连接的可以考虑采用epoll模型
[/Quote]

今天腾讯面试，提到了，我说我没用过，哎。

极地_雪狼 2011-06-28

打赏
举报

应该是考虑客户端怎么处理吧？

君望永远 2011-06-28

打赏
举报

返回客户端排队~ 再心跳

hotspring110 2011-06-28

打赏
举报

可以用listen 建立一个队列，队列大小最小>1500，有连接请求是就会建立连接，在系统内核当中他会把所需要连接的请求分为2部分，一部分为已连接队列，另一部分就是未连接队列，当已连接队列为空时就会阻塞，在未连接队列中的队头就会建立TCP 3次握手连接，加入到已连接队列中。随后进行处理，所以没必要担心现成会在空闲的时等待时间过长断开连接。希望这些对你有帮助

zz4180645 2011-06-28