为什么我看到“连接被对等方重置”错误？

Question

我正在macosx10.5上使用python 2.6.1测试cogen。我有一个简单的echo服务器和客户机pumper，可以创建10000个客户机连接作为测试。1000、5000等都工作得很出色。然而，在大约10000个连接时，服务器开始丢弃随机客户机—客户机看到“由对等机重置连接”。

我在这里缺少一些基本的网络背景知识吗？

注意，我的系统被配置为处理打开的文件（launchctl limit、sysctl（maxfiles等）和ulimit-n都是有效的；如果有，就这样做）。另外，我已经证实了cogen选择在幕后使用kqueue。

如果我给客户端添加一点延迟，那么-connect（）调用一切正常。因此，我的问题是，在短时间内连接频率很高的情况下，压力下的服务器为什么会让其他客户机宕机？还有人碰到过这个吗？

为了完整起见，这是我的代码。

这是服务器：

# echoserver.py

from cogen.core import sockets, schedulers, proactors
from cogen.core.coroutines import coroutine
import sys, socket

port = 1200

@coroutine
def server():
    srv = sockets.Socket()
    srv.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
    addr = ('0.0.0.0', port)
    srv.bind(addr)
    srv.listen(64)
    print "Listening on", addr
    while 1:
        conn, addr = yield srv.accept()
        m.add(handler, args=(conn, addr))

client_count = 0

@coroutine
def handler(sock, addr):
    global client_count
    client_count += 1
    print "SERVER: [connect] clients=%d" % client_count
    fh = sock.makefile()
    yield fh.write("WELCOME TO (modified) ECHO SERVER !\r\n")
    yield fh.flush()
    try:
        while 1:
            line = yield fh.readline(1024)
            #print `line`
            if line.strip() == 'exit':
                yield fh.write("GOOD BYE")
                yield fh.close()
                raise sockets.ConnectionClosed('goodbye')
            yield fh.write(line)
            yield fh.flush()
    except sockets.ConnectionClosed:
        pass
    fh.close()
    sock.close()
    client_count -= 1
    print "SERVER: [disconnect] clients=%d" % client_count

m = schedulers.Scheduler()
m.add(server)
m.run()

这是客户：

# echoc.py

import sys, os, traceback, socket, time
from cogen.common import *
from cogen.core import sockets

port, conn_count = 1200, 10000
clients = 0

@coroutine
def client(num):
    sock = sockets.Socket()
    sock.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
    reader = None
    try:
        try:
            # remove this sleep and we start to see 
            # 'connection reset by peer' errors
            time.sleep(0.001)
            yield sock.connect(("127.0.0.1", port))
        except Exception:
            print 'Error in client # ', num
            traceback.print_exc()
            return
        global clients
        clients += 1
        print "CLIENT #=%d [connect] clients=%d" % (num,clients)
        reader = sock.makefile('r')
        while 1:
            line = yield reader.readline(1024)
    except sockets.ConnectionClosed:
        pass
    except:
        print "CLIENT #=%d got some other error" % num
    finally:
        if reader: reader.close()
        sock.close()
        clients -= 1
        print "CLIENT #=%d [disconnect] clients=%d" % (num,clients)

m = Scheduler()
for i in range(0, conn_count):
    m.add(client, args=(i,))
m.run()

谢谢你的消息！

Answer 1

Python的socket I/O有时会受到对等方重置连接的影响。这与全局解释器锁以及线程的调度方式有关。我在这方面有一些参考资料。

time.sleep(0.0001)似乎是推荐的解决方案，因为它调整了线程调度并允许套接字I/O完成。