流水线性能指标

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,一、,吞吐率（,TP, Though put rate,）,二、加速比（,S,，,Speedup ratio,）,三、,效率,(E,，,Efficiency),四、,吞吐率、加速比和效率之间的关系,五、流水线最佳段数的选择,第三节,线性流水线的性能分析,一、吞吐率（,TP, Though put rate,）,1.,吞吐率的定义,流水线的吞吐率是指在单位时间内流水线所完成的任务数量或输出的结果数量。即：,TP = n /,T,k,式中：,n,为任务数，,T,k,是处理完成,n,个任务所用的时间，（,3.1,）式是计算流水线吞吐率最基本公式。,2.,流水线各段的执行时间相等的吞吐率,若有一条,k,段的线性流水线，各段的执行时间相等，均为,t,。当,n,个任务是连续的理想情况下输入到流水线，流水线的时空图如图所示。,空间,S,4,1 2 3 n-1 n,S,3,1 2 3 n-1 n,S,2,1 2 3 n-1 n,S,1,1 2 3 n-1 n,时间,kt,（,n-1,）,t,nt,（,k-1,）,t,T,k,各段执行时间均相等的流水线时空图,流水线完成,n,个任务所需要的总时间可从两方面来分析。一是从流水线的输出端看，用,k,个,t,输出第一任务，即,kt,为“装入时间”，其余,n-1,个任务，每个,t,输出一个任务，即用,n-1,个时期周期输出,n-1,个任务。二是从流水线的输入端看，用,n,个,t,向流水线输入,n,个任务，另外还要用,k-1,个,t,作为流水线的“排空时间”。因此，流水线完成,n,个任务需要的总时间为：,T,k,=,（,n + k -1,）,t,代入式得到流水线各段时间均相等，连续输入,n,个任务的一条,k,段线性流水线的实际吞吐率为：,n,TP =,（,n + k -1,）,t,3.,流水线各段的执行时间不相等的吞吐率,若有一条,k,段的线性流水线，各段的执行时间不相等，且分别为,t,1,、,t,2,、,、,t,k,，,即流水线中存在,“,瓶颈,”,流水段，连接图如图,3.16,所示，相应的时空图如图,3.17,所示。那么，除第一个任务外，其余（,n-1,）,个任务必须按,“,瓶颈,”,流水段的时间间隔,max,t,1,、,t,2,、,、,t,k,连续流入流水线。因此，流水线存在,“,瓶颈,”,流水段时，连续输入,n,个任务的一条,k,段线性流水线的实际吞吐率为：,S,2,S,1,S,4,S,3,输入,输出,t 3t t,t,1 2 3 n,1 2 3 ,n,1 2 3, n,1 2 3 ,n,S,4,S,3,S,2,S,1,时间,(n-1)t2,Tk,4.,流水线,“,瓶颈,”,问题的两种解决方法,（,1,）分离,“,瓶颈,”,流水段将流水线的,“,瓶颈,”,功能段部分再细分，分解成几个独立的子功能段，消除执行时间不相等而带来的,“,瓶颈,”,段。例如，把图,3.16,所示的第二个流水段再细分为三个子流水段，分别为,S,2-1,、,S,2-2,和,S,2-3,，,如图所示。这样，每个流水段及子流水段的延迟时间均为,t,。,（,2,）,重复设置,“,瓶颈,”,流水段,如果由于结构等方面的原因，瓶颈流水段难以再细分，则可以通过重复设置瓶颈流水段，让多个瓶颈流水段并行工作，消除执行时间不相等而带来的“瓶颈” 段。例如，把图所示的第二个流水段重复设置，流水线连接图如图所示。但是，采用瓶颈流水段重复设置的方法，其控制逻辑比较复杂。,S,1,S,2-2,S,2-3,S,3,S,4,S,2-1,S,2-1,S,2-2,S,2-3,S,4,S,3,S,1,1 2 3 4 5 6 7 8 9 n-2 n-1 n,1 2 3 4 5 6 7 8 9 n-2 n-1n,1 4 7 n-2,2 5 8 n-1,3 6 9 n,1 2 3 4 5 6 7 8 9 n-2n-1 n,1.,加速比的定义,流水线的加速比是指完成同样一批任务，不使用流水线即顺序执行所用的时间与使用流水线所用的时间之比。如果不使用流水线所用的时间为,T,0,，,使用流水线的执行时间为,T,k,，,则流水线的加速比为：,S = T,0,/,T,k,是计算流水线加速比的基本公式。,二、加速比（,S,，,Speedup ratio,）,2.,流水线各段的执行时间相等的加速比,3.,流水线各段的执行时间不相等的加速比,三、效率,(E,，,Efficiency),1.,效率的定义,流水线的效率是指流水线的设备利用率。在时空图上，流水线的效率定义为,n,个任务占用的时空区与,k,个流水段占用的总时空区之比。即：,E=n,个任务占用的时空区,/k,个流水段占用的总时空区,式是计算流水线效率的基本公式，其分母是,n,个任务所用的时间与,k,个流水段所围成的时空总面积，分子是,n,个任务实际上占用的有效时空面积。因此，流水线的效率包含时间和空间两方面的因素，通过时空图来计算流水线的效率非常方便。,2.,流水线各段的执行时间相等的效率,各段的执行时间相等，均为,t,的,k,段的线性流水线，完成,n,个连续任务所需要的时间见式，每个功能段在这段时间内都被占用，则时空图的总面积为,。一个任务占用的时空区为,，,n,个任务实际占用的有效面积为,各段的执行时间相等的流水线效率为：,相应的流水线的最大效率为：,从式中可以看出，当,n,k,时，流水线的效率达到最大值,1,。这时，流水线的各段均处于忙碌状态。从时空图中看，每一块都是有效的。,3.,流水线各段的执行时间不相等的效率,四、吞吐率、加速比和效率之间的关系,说明流水线的效率是流水线实际加速比,S,与它的最大加速比,Smax,=k,之比。只有当流水线的效率达到其最大值，即,E=1,时，才能使实际加速比达到最大，即,S=k,。,各段的执行时间不相等时，即流水线中存在“瓶颈”流水段，那么，除了瓶颈流水段一直处于忙碌状态之外，其他各个流水段都有空闲时间，这些流水段的效率没有得到充分发挥。因此，整个流水线的吞吐率、加速比和效率也比较低。采用两种提高流水线吞吐率的方法，由于能够使流水线中的各个流水段始终处于忙碌状态，没有空闲时间。因此，流水线的吞吐率、加速比和效率也就显著提高了。,五、流水线最佳段数的选择,假设在非流水线的机器上采用顺序执行方式完成一个任务所需要的时间为,t,，那么，在同等速度的有,k,段流水线的机器上执行一个任务需要的时间为：,t/k+d,，其中,d,为锁存器的延迟时间。流水线的最大吞吐率为：,TP=1/(t/k+d),。又粗略地估计流水线的总价格为：,C=,a+bk,。其中，,a,为所有流水段的总价格，,b,为每个锁存器的价格。流水线的性能价格比,PCR,定义为：,k,0,=,目前,一般处理机中的流水线段数在,2,段至,10,段之间,极少有超过,15,段的流水线,一般把,8,段或超过,8,段的流水线称为超流水线。,