UDT协议-基于UDP的可靠数据传输协议

1. 介绍随着网络带宽时延产品(BDP)的增加，通常的TCP协议开始变的低效。这是因为它的AIMD（additive increase multiplicative decrease）算法彻底减少了TCP拥塞窗口，但不能快速的恢复可用带宽。理论上的流量分析表明TCP在BDP增加到很高的时候比较容易受包损失攻击。另外，继承自TCP拥塞控制的不公平的RTT也成为在分布式数据密集程序中的严重问题。拥有不同RTT的并发TCP流将不公平地分享带宽。尽管在小的BDP网络中使用通常的TCP实现来相对平等的共享带宽，但在拥有大量BDP的网络中，通常的基于TCP的程序就必须承受严重的不公平的问题。这个RTT基于的算法严重的限制了其在广域网分布式计算的效率，例如：internet上的网格计算。一直到今天，对标准的TCP的提高一直都不能在高BDP环境中效率和公平性方面达到满意的程度（特别是基于RTT的问题）。例如：TCP的修改，RFC1423（高性能扩展），RFC2018（SACK）、RFC2582（New Reno）、RFC2883（D-SACK）、和RFC2988（RTO计算）都或多或少的提高了点效率，但最根本的AIMD算法没有解决。HS TCP（RFC 3649）通过根本上改变TCP拥塞控制算法来在高BDP网络中获得高带宽利用率，但公平性问题仍然存在。考虑到上面的背景，需要一种在高BDP网络支持高性能数据传输的传输协议。我们推荐一个应用程序级别的传输协议，叫UDT或基于UDP的数据传输协议并拥有用塞控制算法。本文描述两个正交的部分，UDP协议和UDT拥塞控制算法。一个应用层级别的协议，位于UDP之上，使用其他的拥塞算法，然而这些本文中描述的算法也可以在其他协议中实现，例如：TCP。一个协议的参考实现叫UDT；详细的拥塞控制算法的性能分析在GHG04中可以找到。2. 设计目标UDT主要用在小数量的bulk源共享富裕带宽的情况下，最典型的例子就是建立在光纤广域网上的网格计算，一些研究所在这样的网络上运行他们的分布式的数据密集程序，例如，远程访问仪器、分布式数据挖掘和高分辨率的多媒体流。UDT的主要目标是效率、公平、稳定。单个的或少量的UDT流应该利用所有高速连接提供的可用带宽，即使带宽变化的很剧烈。同时，所有并发的流必须公平地共享带宽，不依赖于不同的带宽瓶劲、起始时间、RTT。稳定性要求包发送速率应该一直会聚可用带宽非常快，并且必须避免拥塞碰撞。UDT并不是在瓶劲带宽相对较小的和大量多元短文件流的情况下用来取代TCP的。UDT主要作为TCP的朋友，和TCP并存，UDT分配的带宽不应该超过根据MAX-MIN规则的最大最小公平共享原则。（备注，最大最小规则允许UDT在高BDP连接下分配TCP不能使用的可用带宽）。我们3. 协议说明3.1. 概述UDT是双工的，每个UDT实体有两个部分：发送和接收。发送者根据流量控制和速率控制来发送（和重传）应用程序数据。接收者接收数据包和控制包，并根据接收到的包发送控制包。发送和接收程序共享同一个UDP端口来发送和接收。接收者也负责触发和处理所有的控制事件，包括拥塞控制和可靠性控制和他们的相对机制，例如RTT估计、带宽估计、应答和重传。UDT总是试着将应用层数据打包成固定的大小，除非数据不够这么大。和TCP相似的是，这个固定的包大小叫做MSS（最大包大小）。由于期望UDT用来传输大块数据流，我们假定只有很小的一部分不规则的大小的包在UDT session中。MSS可以通过应用程序来安装，MTU是其最优值（包括所有包头）。UDT拥塞控制算法将速率控制和窗口（流量控制）合并起来，前者调整包的发送周期，后者限制最大的位被应答的包。在速率控制中使用的参数通过带宽估计技术来更新，它继承来自基于接收的包方法。同时，速率控制周期是估计RTT的常量，流控制参数依赖于对方的数据到达速度，另外接收端释放的缓冲区的大小。3.2. 包结构UDT有两种包：数据包和控制包。他们通过包头的第一位来区分（标志位）。如果是0，表示是数据包，1表示是控制包。3.2.1. 数据包数据包结构如下显示：0 1 3 40 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 10包序号应用数据包序号是UDT数据包头中唯一的内容。它是一个无符号整数，使用标志位后的31位，UDT使用包基础的需要，例如，每个非重传的包都增加序号1。序号在到达最大值231-1的时候覆盖。紧跟在这些数据后面的是应用程序数据。3.2.2. 控制包控制包结构如下：0 1 3 40 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 11类型保留ACK序号控制信息字段有6种类型的控制包在UDT中，bit1-3表示这些信息。前32位在包头中必须存在。控制信息字段包括0（例如，它不存在）或者多个32位无符号整数，这由包类型决定。UDT使用应答子序号的方法。每个ACK/ACK2包有一个无符号的16位序号，它独立于数据包需要。它使用位16-31。应答需要从0到（216-1）。位16-31在其他控制包中没有定义。类型说明控制信息000协议连接握手132位 UDT版本232位 内部顺序号332位 MSS（字节）432位 最大流量窗口大小（字节）001保活没有010应答，位16-31是应答序号132位包序号，先前接收到的包序号232位，RTT（微秒）332位，RTT 变量或者RTTVar (微秒)432位，流量窗口大小（包的数量）532位，连接容量估计（每秒包的数量）011Negative应答（NAK）丢失信息的32位整数数组，见3.9节100保留这种类型的控制信息保留作为拥塞警告使用，从接收到发送端。一个拥塞警告能被ECN或包延迟增加趋势的度量方法触发。101关闭110应答一个应答（ACK2）16-31位，应答序号。1114-15的解释保留将来使用注意，对于数据和控制包来说，可以从UDP协议头中得到实际的包大小。包大小信息能被用来得到有效的数据负载和NAK包中的控制信息字段大小。3.3. 定时器UDT在接收端使用4个定时器来触发不同的周期事件，包括速率控制、应答、丢失报告（negative应答）和重传/连接维护。UDT中的定时器使用系统时间作为源。UDT接收端主动查询系统时间来检查一个定时器是否过期。对于某个定时器T来说，其拥有周期TP，将定变量t用来记录最近T被设置或复位的时间。如果T在系统时间t0（t= t0）被复位，那么任何t1（t1-t=TP）是T过期的条件。四个定时器是：RC定时器、ACK定时器、NAK定时器、EXP定时器。他们的周期分别是：RCTP、ATP、NTP、ETP。RC定时器用来触发周期性的速率控制。ACK定时器用来触发周期性的有选择的应答（应答包）。RCTP和ATP是常量值，值为：RCTP=ATP=0.01秒。NAK被用来触发negative应答（NAK包）。重传定时器被用来触发一个数据包的重传和维护连接状态。他们周期依赖于对于RTT的估计。ETP值也依赖于连续EXP时间溢出的次数。推荐的RTT初始值是0.1秒，而NTP和ETP的初始值是：NTP=3*RTT，ETP=3*RTT+ATP。在每次bounded UDP接收操作（如果收到一个UDP包，一些额外的必须的数据处理时间）时查询系统时间来检查四个定时器是否已经过期。推荐的周期粒度是微秒。UDP接收时间溢出值是实现的一个选择，这依赖于循环查询的负担和事件周期精确度之间的权衡。速率控制事件更新包发送周期，UDT发送端使用STP来安排数据包的发送。假定一个在时间t0被发送，那么下一次包发送时间是（t0+ STP）。换句话说，如果前面的包发送花费了t时间，发送端将等待（STP-t）来发送下一个数据包（如果STP-t 16)并且自上次从对方接收到一个包以来的总时间超过3秒，或者这个时间已经超过3分钟了，这被认为是连接已经断开，关闭UDT连接。D如果没有数据，也就没有应答，发送一个保活包给对端，否则将所有未应答包的序号放入发送丢失列表中。E 更新exp-count为：exp-count= exp-count+1F 更新ETP为：ETP=exp-count*（RTT+4*RTTVar）+ATP。3.5.6. 收到应答包A 更新最大的应答序号B 更新RTT和RTTVar为：RTT = rtt， RTTVar = rv；rtt和rv是ACK包中的RTT和RTTVar值。C 更新NTP和ETP为：NTP=RTT+4*RTTVar；ETP=exp-count*（RTT+4*RTTVar）+ATP。D 更新连接容量估计：B=（B*7+b）/8，b是ACK包带的值。E 更新流量窗口大小为ACK中的值。F 发送ACK2包，并设置与ACK序号相同的应答号到对端G 复位EXP定时器3.5.7. 当收到NAK包的时候A 将所有NAK包中带的序号放入发送方的丢失列表中B 通过速率控制来更新STP（见3.6）C 复位EXP定时器3.5.8. 当收到ACK2包 在ACK历史窗口中根据接收到的ACK2序列号查找行营的ACK包。 更新曾经被应答的最大应答号 根据ACK2的到达时间和ACK离开时间计算新的rtt值，并且更新RTT和RTTVar值为：RTTVar = (RTTVar *3 +abs(rtt-RTT)/4RTT = (RTT *7+rtt)/8RTT和RTTVar的初始值是0.1秒和0.05秒。 更新NTP和ETP为：NTP = RTT；ETP = (exp-count +1)* RTT+ATP3.5.9. 当收到保活包的时候什么也不做3.5.10. 当收到连接握手和关闭包的时候见3.8节3.6. 速度控制算法3.6.1. 速率控制快启动STP被初始为最小的时间精度（1个CPU周期或1毫秒）。这是在快启动阶段，一般收到一个ACK包其携带的估计带宽大于0这个阶段就停止了。包的发送周期被设置为1/W，W是ACK携带的流量窗口的大小。快启动阶段仅仅在开始一个UDT连接的时候发生，且不会在UDT连接的以后再出现。在快启动阶段之后，下面的算法就要工作了。3.6.2. 当RC定时器时间到1 如果在上一个RCTP时间内，没有收到一个ACK，停止2 计算在上个RCTP时间内的丢失率，计算方法是根据总共发送的包与NAK反馈中总共丢失包的数量。如果丢失率大于0.1%，停止。3 下个RCTP时间内发送包的增加数量如下计算：(inc)If (B=C) inc = 1/MSSElse inc = max (10(ceil(log10(B-C)*MSS*8)*Beta/MSS,1/MSS)B是连接容量估计，C是当前的发送速度。两个都计算为每秒多少个包。MSS是以字节计算的；Beta是值为0.0000015的常量。4 更新STP：STP=（STP*RCTP）/（STP*inc + RCTP）5 计算真正的数据发送周期（rsp），从SND PKT历史窗口中得到，如果（STP0.5 *rsp）设置STP为（0.5 * rsp）。6 如果（STP0，流量窗口大小更新为应答包的总数量。2 否则，如果（AS0），W更新为：（AS是包的到达速度）W= ceil (W *0.875+AS* (RTT +ATP) *0.125)3 限制W到对方最大流量窗口大小。3.8. 连接建立和关闭一个UDT实体首先作为一个SERVER启动，当一个客户端需要连接的时候其发送握手包。客户端在从服务端接收到一个握手响应包或时间溢出之前，应该每隔一段时间发送一个握手包（时间间隔由响应时间和系统overhead来权衡）。握手包有如下信息：1 UDT版本：这个值是兼容的目的。当前的版本是22 初始序号：这是发送这个UDT实体将来用于发送数据包的起始序号。它必须是一个在1到（231-1）之间的随机值。另外，建议这个值在合理的时间历史窗口中不应该重复。3 MSS：数据包的大小（通过IP有效负载来度量）4 最大的流量窗口大小：这是接收到握手信息的UDT实体允许的最大流量窗口大小，窗口大小通常限制为接收端的数据结构大小。服务器接收到一个握手包之后，比较MSS值和他自己的值并设置它自己的值为较小的值。结果值也在握手响应中被发送到客户端，另外还有服务器的版本信息，初始序列号，最大流量窗口大小。版本字段用来检查两端的兼容性。初始序列号和最大流量窗口大小用于初始化接收到这个握手包的UDT实体参数。服务器在第一步完成以后就准备发送或接收数据。然而，只要从同一个客户端接收任何握手包，其应该发送响应包。客户端一旦得到服务器的一个握手响应其就进入发送和接收数据状态。设置它自己的MSS为握手响应包中的值并初始化相应的参数为包中的值（序列号、最大流量窗口）。如果收到任何其他的握手信息，丢掉它。如果其中的UDT实体要关闭，它将发送一个关闭信息到对端；对方收到这个信息以后将自己关闭。这个关闭信息通过UDP传输，仅仅发送一次，并不保证一定收到。如果消息没有收到，对方将根据时间溢出机制来关闭连接。3.9. 丢失信息的压缩方案NAK包中携带的丢失信息是一个32-bit整数的数组。如果数组的中数字是一个正常的序号（第1位是0），这意味着这个序号的包丢失了，如果第1位是1，意味着从这个号码开始（包括该号码）到下一个数组中的元素（包括这个元素值）之间的包（它的第1位必须是0）都丢失。例如，下面的NAK中携带的信息：0x00000002, 0x80000006, 0x0000000B, 0x0000000E上面的信息表明序号为：2，6，7，8，9，10，11，14的包都丢了。4. 效率和公平性UDT能够充分利用当前有线网络的独立于连接容量的可用带宽 、RTT、后台共存流、给定的连接比特错误率。UDT在没有数据包丢失的情况下从0bits/s到90%带宽需要一个常量时间，这个时间是7.5秒。UDT并不适合无线网络。UDT的确满足单瓶劲网络拓扑的最大-最小公平性。在多个瓶劲情况下，根据最大最小原则它能保证较小瓶劲连接或者至少一半的平等共享(it guarantees that flows over smaller bottleneck links obtain at least half of their fair share according to max-min rule)。RTT对公平性都一点影响。当和大块的TCP流共存的时候，TCP能占用比UDT更多的带宽，除了三种情况：1 网络BDP非常大，TCP不能利用他们的公平共享带宽。这种情况下，UDT将占用TCP不能利用的带宽。2 连接容量是如此的小，从而导致UDT的带宽估计技术不能最有的工作；模拟显示这个极限连接容量大约是100kb/s。3 在使用FIFO队列作为网络路径的网络中，如果队列大小大于BDP，TCP的共享带宽随着队列大小的增加而降低。然而，抵达UDT的共享带宽是，队列大小通常超过实际路由器/交换机提供的数量。当短（timewise）类似web的TCP流和小的并发UDT流共存的时候，UDT在TCP流上的效果非常小。更多的分析在GHG03。5. 安全考虑UDT并没有使用特定的安全机制，相反，它依赖于应用程序提供的授权和底层提供的安全机制。然而，由于UDP是无连接的，UDT实现应该检查所有达到的包是否是预期的来源。这是从socket的API连接概念中继承而来，其连接只是接收指定来源的数据。 6.UDT SOURCE CODE LINK15 / 15