现在的位置: 首页 > 综合 > 正文

套接字I/O模型-完成端口IOCP

2013年11月05日 ⁄ 综合 ⁄ 共 5510字 ⁄ 字号 评论关闭

“完成端口”模型是迄今为止最为复杂的一种I/O模型。然而,假若一个应用程序同时需要管理为数众多的套接字,那么采用这种模型,往往可以达到最佳的系统性能!但不幸的是,该模型只适用于Windows NT和Windows 2000操作系统。因其设计的复杂性,只有在你的应用程序需要同时管理数百乃至上千个套接字的时候,而且希望随着系统内安装的CPU数量的增多,应用程序的性能也可以线性提升,才应考虑采用“完成端口”模型。要记住的一个基本准则是,假如要为Windows NT或Windows 2000开发高性能的服务器应用,同时希望为大量套接字I/O请求提供服务(Web服务器便是这方面的典型例子),那么I/O完成端口模型便是最佳选择!

从本质上说,完成端口模型要求创建一个windows完成端口对象,该对象通过指定数量的线程,对重叠I/O进行管理,以便为已完成的重叠I/O请求提供服务。要注意的是,所谓完成端口,实际上是windows采用的一种I/O构造机制,除套接字句柄之外,还可以接受其他东西。

使用这种模型之前,首先要创建一个I/O完成端口对象,用它面向任意数量的套接字句柄,管理多个I/O请求,要做到这一点,首先调用函数:

  1. HANDLE CreateIoCompletionPort( 
  2.   HANDLE FileHandle, 
  3.   HANDLE ExistingCompletionPort, 
  4.   DWORD CompletionKey, 
  5.   DWORD NumberOfConcurrentThreads 
  6. ); 

首先注意该函数实际用于两个截然不同的两个目的:

1.用于创建一个完成端口对象

2.将一个句柄同完成端口关联在一起

最开始创建完成端口时,我们唯一感兴趣的是NumberOfConccurrentThreads,前三个参数不太重要。 NumberOfConccurrentThreads定义了在一个完成端口上,同时允许执行的线程数量。若将该参数设为0,则告诉系统安装了多少个处理器,则允许同时运行多少个线程,可用如下代码创建一个I/O完成端口:

  1. CompletionPort = CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, 0, 0); 

该语句的作用是返回一个句柄,在为完成端口分配了一个套接字句柄后,用来对那个端口进行标识。

 

工作器线程与完成端口

成功创建一个完成端口后,便可开始将套接字句柄与对象关联到一起。但在关联套接字之前,首先必须创建一个或多个工作器线程,以便在套接字的I/O请求投递给完成端口后,为完成端口提供服务。

假如事先预计到线程有可能暂时处于阻塞状态,那么最好能够创建比CreateIoCompletionPort的NumberOfConccurrentThreads值更多的线程。以便到时候充分发挥系统的潜力。

一旦在完成端口上拥有足够多的工作器线程来为I/O请求提供服务,便可着手将套接字句柄同完成端口关联在一起。需要在一个完成端口上调用CreateIoCompletionPort函数,同时为前三个参数FileHandle,ExistingCompletionPort和CompletionKey提供套接字信息。其中,FileHandle参数指定一个要同完成端口关联在一起的套接字句柄,ExistingCompletionPort参数标识的是一个现有的完成端口套接字句柄已经与他关联在一起。CompletionKey参数标识的是要与某个特定套接字句柄关联在一起的单句柄数据;在这个参数中,应用程序可保持与一个套接字对应的任意类型信息。之所以叫它单句柄数据,是由于它代表了与套接字句柄关联在一起的数据。可将它作为指向一个数据结构的指针;在这个结构中,同时包含了套接字的句柄,以及与该套接字有关的其他信息。为完成端口提供服务的线程的例程可通过这个参数,取得与套接字句柄有关的信息。

下面示例阐述了如何使用完成端口模型,来开发一个回应服务器应用程序,这个程序基本按照如下步骤进行:

1.创建一个完成端口,第四个参数为0,它指定完成端口上每个处理器一次只允许执行一个工作器线程

2.判断系统内有多少个处理器

3.创建工作器线程,根据步骤2得到的处理器信息,在完成端口上为已完成的I/O请求提供服务。在这个简单的例子中,我们为每个处理器只创建一个工作器线程。调用CreateThread函数时,必须同时提供一个工作器例程,由线程在创建好后执行

4.准备好一个监听套接字,在端口上监听传入的连接

5.使用accept接收入站的连接请求

6.创建一个数据结构,用于容纳单句柄数据,同时在结构中存入接收的套接字句柄

7.调用CreateIoCompletionPort,将自accept返回的新套接字句柄同完成端口关联在一起。通过 CompletionKey 参数,将单句柄数据结构传递给CreateIoCompletionPort

8.开始在已结束的连接上进行I/O操作,在此,我们希望通过重叠I/O机制,在新建套接字投递一个或多个WSARecv或WSASend请求。这些I/O请求完成后,工作器线程会为I/O请求提供服务,同时继续处理以后的I/O请求

9.重复步骤5~8,直到服务器终止

  1. HANDLE CompletionPort; 
  2. WSADATA wsd; 
  3. SYSTEM_INFO SystemInfo; 
  4. SOCKADDR_IN addr; 
  5. SOCKET Listen; 
  6. int i; 
  7. typedef struct _PER_HANDLE_DATA 
  8.     SOCKET Socket; 
  9.     SOCKADDR_STORAGE ClientAddr; 
  10.     //将和这个句柄关联的其他信息  
  11. }PER_HANDLE_DATA, *LPPER_HANDLE_DATA; 
  12.  
  13. //加载Winsock 
  14. StartWinsock(MAKEWORD(2,2), &wsd); 
  15.  
  16. //第一步 
  17. //创建一个I/O完成端口 
  18. CompletionPort = CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, 0, 0); 
  19.  
  20. //第二步 
  21. //确定系统有多少个处理器 
  22. GetSystemInfo(&SystemInfo); 
  23.  
  24. //第三步 
  25. //基于系统中可用的处理器数量创建工作器线程 
  26. //对这个例子,为每个处理器创建一个工作器线程 
  27. for(i=0; i<SystemInfo.dwNumberOfProcessors; i++) 
  28.     HANDLE ThreadHandle; 
  29.      
  30.     //创建一个服务器的工作线程,并将完成端口传递到该线程 
  31.     ThreadHandle = CreateThread(NULL, 0, ServerWorkerThread,  
  32.                                 CompletionPort, 0, NULL); 
  33.     //关闭线程句柄 
  34.     CloseHandle(ThreadHandle);  
  35. }   
  36.  
  37. //第四步 
  38. //创建一个监听套接字 
  39. Listen = WSASocket(AF_INET,SOCK_STREAM,0,NULL,0,WSA_FLAG_OVERLAPPED); 
  40. addr.sin_family = AF_INET; 
  41. addr.sin_port = htons(5050); 
  42. addr.sin_addr.s_addr = htonl(INADDR_ANY); 
  43. bind(Listen, (PSOCKADDR)&addr, sizeof(SOCKADDR_IN)); 
  44. listen(Listen, 5); 
  45.  
  46. while(TRUE) 
  47.     PER_HANDLE_DATA *PerHandleData = NULL; 
  48.     SOCKADDR_IN saRemote; 
  49.     SOCKET Accept; 
  50.     int RemoteLen; 
  51.      
  52.     //第五步 
  53.     //接收连接,并分配到完成端口 
  54.     RemoteLen = sizeof(SOCKADDR_IN); 
  55.     Accept = WSAAccept(Listen, (SOCKADDR*)&saRemote, &RemoteLen); 
  56.      
  57.     //第六步 
  58.     //创建用来和套接字关联的单句柄数据信息结构 
  59.     PerHandleData  = (LPPER_HANDLE_DATA)GlobalAlloc(GPTR,sizeof(PER_HANDLE_DATA)); 
  60.     printf("Socket Number %d connected\n",Accept); 
  61.     PerHandleData->Socket = Accept; 
  62.     memcpy(&PerHandleData->ClientAddr,&saRemote,RemoteLen); 
  63.      
  64.     //第七步 
  65.     //将接收套接字和完成端口关联起来 
  66.     CreateIoCompletionPort((HANDLE)Accept, 
  67.                            CompletionPort, 
  68.                            (DWORD)PerHandleData, 
  69.                            0); 
  70.      
  71.     //第八步 
  72.     //开始在接受套接字上处理I/O 
  73.     //使用重叠I/O,在套接字上投递一个或多个WSASend或WSARecv调用 
  74.     WSARecv(...);              
  75. }  
  76.  
  77. DWORD WINAPI ServerWorkerThread(LPVOID lpParam) 
  78.     //工作器线程 
  79.     return 0;  

 

完成端口和重叠I/O

将套接字句柄与一个完成端口关联在一起后,便能以套接字句柄为基础,投递重叠发送与接收请求,开始对I/O请求进行处理,之后可开始依赖完成端口,接收有关I/O操作完成情况通知。从本质上说,完成端口模型利用了Windows重叠I/O机制。在这种机制中,类似WSASend和WSARecv这样的WindowsAPI调用会立即返回。此时,需要由应用程序负责在以后的某个时间,通过OVERLAPPED结构来检索调用的结果。在完成端口模型中,想要做到这一点需要使用GetQueuedCompletionStatus函数,让一个或多个工作器线程在完成端口上等待:

  1. BOOL GetQueuedCompletionStatus( 
  2.   HANDLE CompletionPort, 
  3.   LPWORD lpNumberOfBytesTransferred, 
  4.   PULONG_PTR lpCompletionkey, 
  5.   LPOVERLAPPED * lpOverlapped, 
  6.   DWORD dwMilliseconds 
  7. ); 

其中,CompletionPort对应与线程所在的完成端口。lpNumberOfBytesTransferred参数负责在完成一次I/O操作后,接收实际传输的字节数。lpCompletionkey参数为原先传递到CreateIoCompletionPort函数的套接字返回单句柄数据。如前所述,大家最好将套接字句柄保持在这个键中。lpOverlapped参数用于接收已完成的I/O操作的WSAOVERLAPPED结构。因为可用它获取每个I/O操作的数据,所有这实际上也是一个相当重要的参数。dwMilliseconds用于指明调用者等待一个完成数据包在完成端口上出现时,希望等候的毫秒数。假如将其设为INFINITE,调用会无休止的等待下去。

 

单句柄数据和单I/O操作数据

当一个工作器线程从GetQueuedCompletionStatus这个API调用中接收到I/O完成通知后,在lpCompletionKey和lpOverlapped参数中,会包含一些必要的套接字信息。利用这些信息,可通过完成端口,继续在一个套接字上进行I/O处理。通过这些参数,可获得两种重要的套接字数据类型:单句柄数据和单I/O操作数据。

因为在一个套接字首次与完成端口关联到一起的时候,单句柄数据便与一个特定的套接字句柄对应起来了,所有lpCompletionKey参数也包含了单句柄数据。这些数据真是在进行CreateIoCompletionPort调用的时候,通过CompletionKey参数传递的。通常情况下,应用程序会将与I/O请求有关的套接字句柄保存在这里。

lpOverlappde则包含了一个OVERLAPPED结构,在它后面跟随单I/O操作数据。工作器线程处理一个完成数据包时(回应数据,接受连接以及投递另一个线程等),这些信息是它必须知道的。单I/O操作数据是包含在一个结构内的,任意数量的字节,这个结果本身也包含了一个OVERLAPPED结构,假如一个函数要求用到一个OVERLAPPED结构,我们便必须将这样的一个结构传递进去,以满足它的要求。要想做到这一点,一个简单的方法是定义一个结构,然后将OVERLAPPED结构作为新结构的第一个元素使用,举个例子:

抱歉!评论已关闭.