提高通信操作速度的一些措施

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,国防科学技术大学并行与分布处理重点实验室,提高通信操作速度的一些措施,数据分解与分批传输（以超立方体为例）,一对多广播：将要广播的数据量分成,p,份，再用分散与多对多广播，则在,LogP,模型上的通信时间为：,2 ,log p (L+2o-b)+(m - m/p)b，,前面的时间为,log p (L+2o-b)+mpb，,当数据量很大时，通信时间得以大幅减少。,多对一归约：与一对多广播类似，将每个进程上的数据进行分解后，先进行多对多归约，再进行收集。,2024/9/20,1,提高通信操作速度的一些措施(续),多进程归约：分解为多对多归约、收集、分散、多对多广播，收集与分散互为逆操作，所以简化为先多对多归约、再多对多广播，,LogP,上的通信时间为,2 ,log p (L+2o-b)+(m - m/p)b,.,前面的时间为,log p ( L+2o-b + mb) ，,当数据量很大时，通信时间得以大幅减少。,2024/9/20,2,提高通信操作速度的一些措施(续),多端口通信,每个结点可能有多个通信端口,环与带环二维网格上，端口数为常数，不可能从量阶上改进通信时间,多端口超立方体上，一对多广播、多对多广播、多对多私有通信时通信时间公式中,b,前面的系数都会只有单端口通信时的1 /,log p。,2024/9/20,3,提高通信操作速度的一些措施(续),多端口通信时很难编程；,只有数据量足够大到可以有效将数据分解到各条链路上，才能真正加快通信速度，但许多并行算法中通信时间所占比重少，改进不会很明显；,只有在能足够快地访问存储器时，才能使得多端口通讯持续高效地进行。,例如，在多端口超立方体上，结点的存储带宽至少应该为单通道通信带宽的,log p,倍。,2024/9/20,4,超立方体上各种基本通信操作的时间,2024/9/20,5,