http://www.cnblogs.com/coser/archive/2012/01/06/2315216.html
首先列一下,sellect、poll、epoll三者的区别
select
select最早于1983年出现在4.2BSD中,它通过一个select()系统调用来监视多个文件描述符的数组,当select()返回后,该数组中就绪的文件描述符便会被内核修改标志位,使得进程可以获得这些文件描述符从而进行后续的读写操作。
select目前几乎在所有的平台上支持,其良好跨平台支持也是它的一个优点,事实上从现在看来,这也是它所剩不多的优点之一。
select的一个缺点在于单个进程能够监视的文件描述符的数量存在最大限制,在Linux上一般为1024,不过可以通过修改宏定义甚至重新编译内核的方式提升这一限制。
另外,select()所维护的存储大量文件描述符的数据结构,随着文件描述符数量的增大,其复制的开销也线性增长。同时,由于网络响应时间的延迟使得大量TCP连接处于非活跃状态,但调用select()会对所有socket进行一次线性扫描,所以这也浪费了一定的开销。
poll
poll在1986年诞生于System V Release 3,它和select在本质上没有多大差别,但是poll没有最大文件描述符数量的限制。
poll和select同样存在一个缺点就是,包含大量文件描述符的数组被整体复制于用户态和内核的地址空间之间,而不论这些文件描述符是否就绪,它的开销随着文件描述符数量的增加而线性增大。
另外,select()和poll()将就绪的文件描述符告诉进程后,如果进程没有对其进行IO操作,那么下次调用select()和poll()的时候将再次报告这些文件描述符,所以它们一般不会丢失就绪的消息,这种方式称为水平触发(Level Triggered)。
epoll
直到Linux2.6才出现了由内核直接支持的实现方法,那就是epoll,它几乎具备了之前所说的一切优点,被公认为Linux2.6下性能最好的多路I/O就绪通知方法。
epoll可以同时支持水平触发和边缘触发(Edge Triggered,只告诉进程哪些文件描述符刚刚变为就绪状态,它只说一遍,如果我们没有采取行动,那么它将不会再次告知,这种方式称为边缘触发),理论上边缘触发的性能要更高一些,但是代码实现相当复杂。
epoll同样只告知那些就绪的文件描述符,而且当我们调用epoll_wait()获得就绪文件描述符时,返回的不是实际的描述符,而是一个代表就绪描述符数量的值,你只需要去epoll指定的一个数组中依次取得相应数量的文件描述符即可,这里也使用了内存映射(mmap)技术,这样便彻底省掉了这些文件描述符在系统调用时复制的开销。
另一个本质的改进在于epoll采用基于事件的就绪通知方式。在select/poll中,进程只有在调用一定的方法后,内核才对所有监视的文件描述符进行扫描,而epoll事先通过epoll_ctl()来注册一个文件描述符,一旦基于某个文件描述符就绪时,内核会采用类似callback的回调机制,迅速激活这个文件描述符,当进程调用epoll_wait()时便得到通知。
使用 select :
在python中,select函数是一个对底层操作系统的直接访问的接口。它用来监控sockets、files和pipes,等待IO完成(Waiting for I/O completion)。当有可读、可写或是异常事件产生时,select可以很容易的监控到。
select.select(rlist, wlist, xlist[, timeout]) 传递三个参数,一个为输入而观察的文件对象列表,一个为输出而观察的文件对象列表和一个观察错误异常的文件列表。第四个是一个可选参数,表示超时秒数。其返回3个tuple,每个tuple都是一个准备好的对象列表,它和前边的参数是一样的顺序。下面,主要结合代码,简单说说select的使用。
Server端程序:
1、该程序主要是利用socket进行通信,接收客户端发送过来的数据,然后再发还给客户端。
2、首先建立一个TCP/IP socket,并将其设为非阻塞,然后进行bind和listen。
3、通过select函数获取到三种文件列表,分别对每个列表的每个元素进行轮询,对不同socket进行不同的处理,最外层循环直到inputs列表为空为止
4、当设置timeout参数时,如果发生了超时,select函数会返回三个空列表。
代码如下(代码中已经有很详细的注释,这里就不过多解释了):
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
|
''' Created The one TCP/IP @author: ''' import select import socket import Queue #create server = socket.socket(socket.AF_INET,socket.SOCK_STREAM) server.setblocking( False ) #set server.setsockopt(socket.SOL_SOCKET, 1 ) server_address = ( '192.168.1.102' , 10001 ) server.bind(server_address) server.listen( 10 ) #sockets inputs = [server] #sockets outputs = [] #Outgoing message_queues = {} #A timeout = 20 while inputs: print "waiting readable = select.select(inputs, # if not (readable or writable or exceptional) print "Time break ; for s in readable if s is server: # connection, = s.accept() print " , connection.setblocking( 0 ) inputs.append(connection) message_queues[connection] = Queue.Queue() else : data = s.recv( 1024 ) if data print " , "from ,s.getpeername() message_queues[s].put(data) # if s not in outputs: outputs.append(s) else : #Interpret print " , if s in outputs outputs.remove(s) inputs.remove(s) s.close() #remove del message_queues[s] for s in writable: try : next_msg = message_queues[s].get_nowait() except Queue.Empty: print " , 'queue outputs.remove(s) else : print " , " , s.send(next_msg) for s in exceptional: print " , #stop inputs.remove(s) if s in outputs: outputs.remove(s) s.close() #Remove del message_queues[s] |
Client端程序:
Client端创建多个socket进行server链接,用于观察使用select函数的server端如何进行处理。
代码如下(代码中已经有很详细的注释,这里就不过多解释了):
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
|
''' Created The with starts @author: ''' import socket messages = [ "This , "It , "in ] print "Connect server_address = ( "192.168.1.102" , 10001 ) #Create socks = [] for i in range ( 10 ): socks.append(socket.socket(socket.AF_INET,socket.SOCK_STREAM)) for s in socks: s.connect(server_address) counter = 0 for message in messages #Sending for s in socks: counter + = 1 print " % (s.getpeername(),message + " + str (counter)) s.send(message + " + str (counter)) #Read for s in socks: data = s.recv( 1024 ) print " % (s.getpeername(),data) if not data: print "closing ,s.getpeername() s.close() |
使用Poll:
Server端:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
|
''' Created The But @author: ''' import socket import select import Queue # server = socket.socket(socket.AF_INET, server.setblocking( False ) server.setsockopt(socket.SOL_SOCKET, 1 ) server_address = ( "192.168.1.102" , 10001 ) print "Starting % server_address server.bind(server_address) server.listen( 5 ) message_queues = {} #The timeout = 1000 # READ_ONLY = ( READ_WRITE = (READ_ONLY|select.POLLOUT) # poller = select.poll() poller.register(server,READ_ONLY) #Map fd_to_socket = {server.fileno():server,} while True : print "Waiting events = poller.poll(timeout) print "*" * 20 print len (events) print events print "*" * 20 for fd in events: s = fd_to_socket[fd] if flag if s is server # connection = s.accept() print " , connection.setblocking( False ) fd_to_socket[connection.fileno()] = connection poller.register(connection,READ_ONLY) #Give message_queues[connection] = Queue.Queue() else : data = s.recv( 1024 ) if data: # print " % (data, message_queues[s].put(data) poller.modify(s,READ_WRITE) else : # print " , # poller.unregister(s) s.close() del message_queues[s] elif flag #A print " , "(HUP)" poller.unregister(s) s.close() elif flag #Socket try : next_msg = message_queues[s].get_nowait() except Queue.Empty: # print s.getpeername() " poller.modify(s,READ_ONLY) else : print " % (next_msg s.send(next_msg) elif flag #Any print " , poller.unregister(s) s.close() del message_queues[s] |