第9章存储器层次设计CACHE和虚拟存储器课件

第第9 9章章存储器层次设计-CACHE和虚拟存储器本章主要内容本章主要内容高速缓冲存储器（高速缓冲存储器（CacheCache）n高速缓存的基本运行原理高速缓存的基本运行原理n高速缓存的高速缓存的3 3种映像方式种映像方式n高速缓存使用中的几个问题高速缓存使用中的几个问题虚拟存储器虚拟存储器n虚拟存储器概述虚拟存储器概述n段式存储管理段式存储管理n页式存储管理页式存储管理2微电子技术发展趋势微电子技术发展趋势CPUCPU与与DRAMDRAM性能比较性能比较3程序的局部性原理程序的局部性原理程序在一定时间段内通常只访问较小的地址空间程序在一定时间段内通常只访问较小的地址空间两种局部性：两种局部性：时间局部性时间局部性和和空间局部性空间局部性n时间局部性：最近被访问的信息很可能还要被访问。时间局部性：最近被访问的信息很可能还要被访问。w将最近被访问的信息项装入到将最近被访问的信息项装入到CacheCache中。中。n空间局部性：最近被访问的信息临近的信息也可能被访问。空间局部性：最近被访问的信息临近的信息也可能被访问。w将最近被访问的信息项临近的信息一起装入到将最近被访问的信息项临近的信息一起装入到CacheCache中。中。地址空间访问概率4高速缓冲存储器（高速缓冲存储器（CacheCache）用途：用途：设置在设置在 CPU CPU 和和 主存储器之间，实现与主存储器之间，实现与 CPU CPU 之间的高速信息交换，尽量避免之间的高速信息交换，尽量避免 CPU CPU不必要不必要地多次直接访问慢速的主存储器，从而提高计算地多次直接访问慢速的主存储器，从而提高计算机系统的运行效率。机系统的运行效率。实现：实现：这是一个存储容量很小，但读写速度更快这是一个存储容量很小，但读写速度更快的，以的，以 关联存储器方式关联存储器方式 运行、用静态存储器芯运行、用静态存储器芯片实现的存储器系统。片实现的存储器系统。要求：要求：有足够高的命中率，即当有足够高的命中率，即当 CPU CPU需用主存中需用主存中的数据时，多数情况可以直接从的数据时，多数情况可以直接从CACHECACHE中得到，称中得到，称二者之比为命中率。二者之比为命中率。5CACHECACHE的基本运行原理的基本运行原理CacheCache存储单元的组成部分存储单元的组成部分n数据字段数据字段：保存从主存单元复制过来的数据：保存从主存单元复制过来的数据n标志字段标志字段：保存相应主存单元的地址信息：保存相应主存单元的地址信息n有效位字段有效位字段：标识：标识数据字段数据字段和和标志字段标志字段是否有效是否有效提高提高CacheCache性能，降低成本性能，降低成本nCacheCache单元的大小：块，单元的大小：块，cache line sizecache line size（几个主存（几个主存字，减少标志位位数，减少字，减少标志位位数，减少CacheCache总容量）总容量）nCacheCache与主存交换数据的单位：块，与主存交换数据的单位：块，cache line cache line sizesize（充分利用空间局部性）（充分利用空间局部性）nCacheCache单元与主存单元的对应关系，例如：单元与主存单元的对应关系，例如：w完全随意对应、一对多硬性对应和多对多有限随意对应完全随意对应、一对多硬性对应和多对多有限随意对应nCacheCache的容量、分层组织、接入方式等方面的容量、分层组织、接入方式等方面6CACHECACHE的基本运行原理的基本运行原理MEMORY CACHE CONTROL数数据据总总线线译码选一单元译码选一单元比较选一行比较选一行读读过过程程为为例例地址总线地址总线ADDR DATA CACHE CPU 7CACHECACHE的的3 3种映像方式种映像方式地址映像地址映像：把一主存单元的数据复制到：把一主存单元的数据复制到CACHECACHE中时，中时，还要把该主存单元的地址，经过某种函数关系处还要把该主存单元的地址，经过某种函数关系处理后写进理后写进CACHECACHE的标志字段，这一过程被称为的标志字段，这一过程被称为CACHECACHE的地址映像。的地址映像。地址变换地址变换：在程序执行时，还要把主存地址变换：在程序执行时，还要把主存地址变换为访问为访问CACHECACHE的地址，这一过程被叫做的地址，这一过程被叫做CACHECACHE的地的地址变换。址变换。CACHECACHE存储器通常使用存储器通常使用3 3种映像方式，它们是全相种映像方式，它们是全相联映像方式、直接映像方式、多路组相联映像方联映像方式、直接映像方式、多路组相联映像方式，式，3 3种映像方式有各自的优缺点。种映像方式有各自的优缺点。8全相联映像方式全相联映像方式全相联映像方式：是指主存的任何一个字块可以全相联映像方式：是指主存的任何一个字块可以映像到整个映像到整个CACHECACHE的任何一个字块中。的任何一个字块中。全相联映像方式特点：全相联映像方式特点：n主存的字块可以和主存的字块可以和CacheCache的任何字块对应，利用率高，的任何字块对应，利用率高，方式灵活。方式灵活。n标志位较长，比较电路的成本太高。如果主存空间有标志位较长，比较电路的成本太高。如果主存空间有2 2m m块，则标志位要有块，则标志位要有m m位。同时，如果位。同时，如果CacheCache有有n n块，则需块，则需要有要有n n个比较电路。个比较电路。使用成本太高使用成本太高9全相联映像方式全相联映像方式C P U数数据据主存字块标记主存字块标记有有效效位位主主存存储储器器CACHE比比较较译码译码标志标志数据数据主存字块标记主存字块标记块内地址块内地址主存地址主存地址10全相联硬件实现举例全相联硬件实现举例11直接映像方式直接映像方式直接映像方式：是指主存的一个字块只能映像到直接映像方式：是指主存的一个字块只能映像到CACHECACHE的一个确定的字块中。的一个确定的字块中。设设j j是是cachecache的字块号，的字块号，i i是主存的字块号，是主存的字块号，cachecache共有共有2 2c c个个字块，则字块，则j=i mod 2j=i mod 2c c直接映像方式特点：直接映像方式特点：n主存的字块只可以和固定的主存的字块只可以和固定的CacheCache字块对应，方式直接，字块对应，方式直接，利用率低。利用率低。n标志位较短，比较电路的成本低。如果主存空间有标志位较短，比较电路的成本低。如果主存空间有2 2m m块，块，CacheCache中字块有中字块有2 2c c块，则标志位只要有块，则标志位只要有m-cm-c位。且仅需要位。且仅需要比较一次。比较一次。利用率低，命中率低，效率较低利用率低，命中率低，效率较低12直接映像方式直接映像方式C P U数数据据有有效效位位主主存存储储器器CACHE比比较较译码译码译译码码cache字块地址主存字块标记标志标志数据数据主存字块主存字块标记标记块内块内地址地址主存地址主存地址cache字块字块地址地址13直接映像硬件实现举例直接映像硬件实现举例14多路组相联映像方式多路组相联映像方式多路组相联映像方式：多路组相联映像方式：多路组相联映像方式：多路组相联映像方式：是介于全相联映像和直接映像之间的一种折衷的处理方案。既不在主是介于全相联映像和直接映像之间的一种折衷的处理方案。既不在主是介于全相联映像和直接映像之间的一种折衷的处理方案。既不在主是介于全相联映像和直接映像之间的一种折衷的处理方案。既不在主存和存和存和存和CACHECACHECACHECACHE之间实现字块的完全随意对应，也不在主存和之间实现字块的完全随意对应，也不在主存和之间实现字块的完全随意对应，也不在主存和之间实现字块的完全随意对应，也不在主存和CACHECACHECACHECACHE之间实现之间实现之间实现之间实现字块的多对一的硬性对应，而是实现一种有限度的随意对应。字块的多对一的硬性对应，而是实现一种有限度的随意对应。字块的多对一的硬性对应，而是实现一种有限度的随意对应。字块的多对一的硬性对应，而是实现一种有限度的随意对应。即即即即将将将将CACHECACHECACHECACHE分为若干组，每组包括多个字块，主存中的任何一个字块只能映分为若干组，每组包括多个字块，主存中的任何一个字块只能映分为若干组，每组包括多个字块，主存中的任何一个字块只能映分为若干组，每组包括多个字块，主存中的任何一个字块只能映射到一个特定的组，但可以映射到该组的任何一个字块。射到一个特定的组，但可以映射到该组的任何一个字块。射到一个特定的组，但可以映射到该组的任何一个字块。射到一个特定的组，但可以映射到该组的任何一个字块。设设设设j j j j是是是是cachecachecachecache的字块号，的字块号，的字块号，的字块号，i i i i是主存的字块号，是主存的字块号，是主存的字块号，是主存的字块号，cachecachecachecache共分为共分为共分为共分为2 2 2 2c c c c个个个个组，每组有组，每组有组，每组有组，每组有2 2 2 2r r r r个字块，则个字块，则个字块，则个字块，则j=(i mod 2j=(i mod 2j=(i mod 2j=(i mod 2c c c c)*2)*2)*2)*2r r r r+k+k+k+k，0k20k20k20k2r r r r-1-1-1-1多路组相联映像方式的特点：多路组相联映像方式的特点：多路组相联映像方式的特点：多路组相联映像方式的特点：n n折衷方案。组间为直接映像，组内为全相连映像。折衷方案。组间为直接映像，组内为全相连映像。折衷方案。组间为直接映像，组内为全相连映像。折衷方案。组间为直接映像，组内为全相连映像。n n集中了两个方式的优点。成本也不太高。集中了两个方式的优点。成本也不太高。集中了两个方式的优点。成本也不太高。集中了两个方式的优点。成本也不太高。最常用的最常用的CACHECACHE映像方式映像方式15组地址两路组相联映像方式两路组相联映像方式C P U数数据据有有效效位位主主存存储储器器CACHE译码译码比较比较比较比较译码译码译码译码标志标志数据数据主存地址主存字块标记块内地址组地址主存字块标记0组组1组组2组组3组组16多路组相联硬件实现举例多路组相联硬件实现举例17三种映像方式比较三种映像方式比较全相联映射全相联映射全相联映射全相联映射n n主存中的一块可以映射到主存中的一块可以映射到主存中的一块可以映射到主存中的一块可以映射到CacheCacheCacheCache中任何一个位置中任何一个位置中任何一个位置中任何一个位置直接映像直接映像直接映像直接映像n n主存中的一块只能映射到主存中的一块只能映射到主存中的一块只能映射到主存中的一块只能映射到CacheCacheCacheCache中唯一的一个位置中唯一的一个位置中唯一的一个位置中唯一的一个位置n n定位时，不需要判断，只需替换定位时，不需要判断，只需替换定位时，不需要判断，只需替换定位时，不需要判断，只需替换多路组相联映射多路组相联映射多路组相联映射多路组相联映射n n主存中的一块可以选择映射到主存中的一块可以选择映射到主存中的一块可以选择映射到主存中的一块可以选择映射到CacheCacheCacheCache中多个位置中多个位置中多个位置中多个位置全相联映射和多路组相联映射的失效处理全相联映射和多路组相联映射的失效处理全相联映射和多路组相联映射的失效处理全相联映射和多路组相联映射的失效处理n n从主存中取出新块从主存中取出新块从主存中取出新块从主存中取出新块n n为了腾出为了腾出为了腾出为了腾出CacheCacheCacheCache空间，需要替换出一个空间，需要替换出一个空间，需要替换出一个空间，需要替换出一个CacheCacheCacheCache块块块块n n不唯一，则需要判断应替出哪块不唯一，则需要判断应替出哪块不唯一，则需要判断应替出哪块不唯一，则需要判断应替出哪块18CACHECACHE使用中的几个问题使用中的几个问题CACHECACHECACHECACHE的重要技术指标：的重要技术指标：的重要技术指标：的重要技术指标：命中率命中率命中率命中率n n设设设设CACHECACHECACHECACHE的访问时间为的访问时间为的访问时间为的访问时间为t t t tc c c c,存储器的访问时间为存储器的访问时间为存储器的访问时间为存储器的访问时间为t t t tm m m m,CACHE,CACHE,CACHE,CACHE命中率为命中率为命中率为命中率为h h h hc c c c,则访问存储器的平均时间为：则访问存储器的平均时间为：则访问存储器的平均时间为：则访问存储器的平均时间为：t=ht=ht=ht=hc c c ct t t tc c c c+(1-h+(1-h+(1-h+(1-hc c c c)(t)(t)(t)(tc c c c+t+t+t+tm m m m)=t)=t)=t)=tc c c c+(1-h+(1-h+(1-h+(1-hc c c c)t)t)t)tm m m m影响影响影响影响 CACHE CACHE CACHE CACHE 命中率的因素命中率的因素命中率的因素命中率的因素n nCACHE CACHE CACHE CACHE 的容量，大一些好的容量，大一些好的容量，大一些好的容量，大一些好n nCACHE CACHE CACHE CACHE 与主存储器每次交换信息的单位量与主存储器每次交换信息的单位量与主存储器每次交换信息的单位量与主存储器每次交换信息的单位量(Cache Line(Cache Line(Cache Line(Cache Line Size)Size)Size)Size)适中适中适中适中n nCACHE CACHE CACHE CACHE 不同的组织方式，多路组相联更好不同的组织方式，多路组相联更好不同的组织方式，多路组相联更好不同的组织方式，多路组相联更好n nCACHE CACHE CACHE CACHE 的多级组织可提高命中率的多级组织可提高命中率的多级组织可提高命中率的多级组织可提高命中率n nCACHE CACHE CACHE CACHE 装满后的替换算法装满后的替换算法装满后的替换算法装满后的替换算法19cachecache的容量与命中率的关系的容量与命中率的关系 Cache Size in KBHit Rate20cache line sizecache line size与缺失率的关系与缺失率的关系 21多级多级cachecache结构与命中率的关系结构与命中率的关系 为增加计算机系统中的为增加计算机系统中的为增加计算机系统中的为增加计算机系统中的cachecachecachecache容量，通常可以在已有的容量，通常可以在已有的容量，通常可以在已有的容量，通常可以在已有的cachecachecachecache存储器系统之外，再增加一个容量更大的存储器系统之外，再增加一个容量更大的存储器系统之外，再增加一个容量更大的存储器系统之外，再增加一个容量更大的cachecachecachecache。此。此。此。此时原有时原有时原有时原有cachecachecachecache为第一级为第一级为第一级为第一级cachecachecachecache（例如奔腾机微处理机芯片内（例如奔腾机微处理机芯片内（例如奔腾机微处理机芯片内（例如奔腾机微处理机芯片内的的的的cachecachecachecache），新增加的），新增加的），新增加的），新增加的cachecachecachecache则成为第二级的则成为第二级的则成为第二级的则成为第二级的cachecachecachecache。第二级第二级第二级第二级cachecachecachecache的容量比第一级的容量比第一级的容量比第一级的容量比第一级cachecachecachecache的容量要大得多，在第的容量要大得多，在第的容量要大得多，在第的容量要大得多，在第一级一级一级一级cachecachecachecache中保存的信息也一定保存在第二级中保存的信息也一定保存在第二级中保存的信息也一定保存在第二级中保存的信息也一定保存在第二级cachecachecachecache中，但中，但中，但中，但第二级第二级第二级第二级cachecachecachecache中除保存有第一级中除保存有第一级中除保存有第一级中除保存有第一级cachecachecachecache中的信息之外，还包中的信息之外，还包中的信息之外，还包中的信息之外，还包含其它更多的信息。当含其它更多的信息。当含其它更多的信息。当含其它更多的信息。当CPUCPUCPUCPU访问第一级访问第一级访问第一级访问第一级cachecachecachecache出现缺失情况出现缺失情况出现缺失情况出现缺失情况时，就去访问第二级时，就去访问第二级时，就去访问第二级时，就去访问第二级cachecachecachecache。若第一级、第二级若第一级、第二级若第一级、第二级若第一级、第二级cachecachecachecache的命中率为的命中率为的命中率为的命中率为90%90%90%90%，则它们合起来后，则它们合起来后，则它们合起来后，则它们合起来后的命中率为的命中率为的命中率为的命中率为-（-90-90-90-90）（-90-90-90-90）=99=99=99=99，而不会，而不会，而不会，而不会是是是是81818181。22CacheCache替换算法替换算法随机替换（随机替换（随机替换（随机替换（RAND,randomRAND,randomRAND,randomRAND,random）n n随机找一个随机找一个随机找一个随机找一个CacheCacheCacheCache块进行替换，比较盲目。块进行替换，比较盲目。块进行替换，比较盲目。块进行替换，比较盲目。先进先出算法（先进先出算法（先进先出算法（先进先出算法（FIFO,first in first outFIFO,first in first outFIFO,first in first outFIFO,first in first out）n n将最早调入将最早调入将最早调入将最早调入CacheCacheCacheCache的字块替换出去，采用循环电路容易的字块替换出去，采用循环电路容易的字块替换出去，采用循环电路容易的字块替换出去，采用循环电路容易实现，开销小。实现，开销小。实现，开销小。实现，开销小。最近最少使用算法（最近最少使用算法（最近最少使用算法（最近最少使用算法（LRU,least recently usedLRU,least recently usedLRU,least recently usedLRU,least recently used）n n把最近最少使用的块替换掉，需要计算字块的使用次数，把最近最少使用的块替换掉，需要计算字块的使用次数，把最近最少使用的块替换掉，需要计算字块的使用次数，把最近最少使用的块替换掉，需要计算字块的使用次数，开销大，但平均命中率比开销大，但平均命中率比开销大，但平均命中率比开销大，但平均命中率比FIFOFIFOFIFOFIFO要高。要高。要高。要高。23改写主存储器的策略改写主存储器的策略若若若若 CPU CPU CPU CPU 改写了改写了改写了改写了 Cache Cache Cache Cache 一单元内容（写命中）但一单元内容（写命中）但一单元内容（写命中）但一单元内容（写命中）但未改写主存相应单元内容，则出现数据不一致性。未改写主存相应单元内容，则出现数据不一致性。未改写主存相应单元内容，则出现数据不一致性。未改写主存相应单元内容，则出现数据不一致性。有两种解决办法：有两种解决办法：有两种解决办法：有两种解决办法：n n写透（写透（写透（写透（Write ThroughWrite ThroughWrite ThroughWrite Through）：在写）：在写）：在写）：在写CACHECACHECACHECACHE的同时写主存相应的同时写主存相应的同时写主存相应的同时写主存相应单元，单元，单元，单元，简便易行，数据一致性容易保证，但可能带来系简便易行，数据一致性容易保证，但可能带来系简便易行，数据一致性容易保证，但可能带来系简便易行，数据一致性容易保证，但可能带来系统运行效率不高的问题，统运行效率不高的问题，统运行效率不高的问题，统运行效率不高的问题，CacheCacheCacheCache对写操作没有提高性能。对写操作没有提高性能。对写操作没有提高性能。对写操作没有提高性能。n n写回（写回（写回（写回（Write BackWrite BackWrite BackWrite Back）：只写）：只写）：只写）：只写CacheCacheCacheCache不写主存，不写主存，不写主存，不写主存，只有当只有当只有当只有当CacheCacheCacheCache中的数据块要被替换掉时，或者有另外的设备要中的数据块要被替换掉时，或者有另外的设备要中的数据块要被替换掉时，或者有另外的设备要中的数据块要被替换掉时，或者有另外的设备要读该内容过时的主存单元时，才将相应读该内容过时的主存单元时，才将相应读该内容过时的主存单元时，才将相应读该内容过时的主存单元时，才将相应CacheCacheCacheCache单元写回单元写回单元写回单元写回主存。控制复杂些，但可以提供更高的系统运行效率。主存。控制复杂些，但可以提供更高的系统运行效率。主存。控制复杂些，但可以提供更高的系统运行效率。主存。控制复杂些，但可以提供更高的系统运行效率。24CACHE CACHE 接入系统的体系结构接入系统的体系结构侧接法：像入出设备似的连接到总线上，优点是侧接法：像入出设备似的连接到总线上，优点是侧接法：像入出设备似的连接到总线上，优点是侧接法：像入出设备似的连接到总线上，优点是结构简单，成本低，缺点是不利于降低总线占用结构简单，成本低，缺点是不利于降低总线占用结构简单，成本低，缺点是不利于降低总线占用结构简单，成本低，缺点是不利于降低总线占用率。率。率。率。CPUMEMORYCACHEBus Master 1Bus Master 2总总线线25CACHE CACHE 接入接入系统的体系结构系统的体系结构隔断法：把原来的总线打断为两段，使隔断法：把原来的总线打断为两段，使隔断法：把原来的总线打断为两段，使隔断法：把原来的总线打断为两段，使 CACHE CACHE CACHE CACHE 处处处处在两段之间。优点是有利于提高总线利用率，支在两段之间。优点是有利于提高总线利用率，支在两段之间。优点是有利于提高总线利用率，支在两段之间。优点是有利于提高总线利用率，支持总线并发操作；缺点是结构复杂，成本较高。持总线并发操作；缺点是结构复杂，成本较高。持总线并发操作；缺点是结构复杂，成本较高。持总线并发操作；缺点是结构复杂，成本较高。CPUMEMORYBus Master 1Bus Master 2总总线线CACHE26本章主要内容本章主要内容高速缓冲存储器（高速缓冲存储器（高速缓冲存储器（高速缓冲存储器（CacheCacheCacheCache）n n高速缓存的基本运行原理高速缓存的基本运行原理高速缓存的基本运行原理高速缓存的基本运行原理n n高速缓存的高速缓存的高速缓存的高速缓存的3 3 3 3种映像方式种映像方式种映像方式种映像方式n n高速缓存使用中的几个问题高速缓存使用中的几个问题高速缓存使用中的几个问题高速缓存使用中的几个问题虚拟存储器虚拟存储器虚拟存储器虚拟存储器n n虚拟存储器概述虚拟存储器概述虚拟存储器概述虚拟存储器概述n n段式存储管理段式存储管理段式存储管理段式存储管理n n页式存储管理页式存储管理页式存储管理页式存储管理n n段页式存储管理段页式存储管理段页式存储管理段页式存储管理27虚拟存储器概述虚拟存储器概述虚拟存储器虚拟存储器虚拟存储器虚拟存储器是由主存储器和辅助存储器（外存）组成的存储系统，从是由主存储器和辅助存储器（外存）组成的存储系统，从是由主存储器和辅助存储器（外存）组成的存储系统，从是由主存储器和辅助存储器（外存）组成的存储系统，从整体看，其速度接近于主存的速度，其容量则接近于辅存的容量，而整体看，其速度接近于主存的速度，其容量则接近于辅存的容量，而整体看，其速度接近于主存的速度，其容量则接近于辅存的容量，而整体看，其速度接近于主存的速度，其容量则接近于辅存的容量，而每位平均价格也接近于廉价的辅存平均价格。每位平均价格也接近于廉价的辅存平均价格。每位平均价格也接近于廉价的辅存平均价格。每位平均价格也接近于廉价的辅存平均价格。虚拟存储器虚拟存储器虚拟存储器虚拟存储器用磁盘的存储空间来弥补主存空间的不足，使得程序人员用磁盘的存储空间来弥补主存空间的不足，使得程序人员用磁盘的存储空间来弥补主存空间的不足，使得程序人员用磁盘的存储空间来弥补主存空间的不足，使得程序人员能够使用比主存实际空间更大的存储空间来编写程序，该存储空间称能够使用比主存实际空间更大的存储空间来编写程序，该存储空间称能够使用比主存实际空间更大的存储空间来编写程序，该存储空间称能够使用比主存实际空间更大的存储空间来编写程序，该存储空间称为为为为虚存空间，虚存空间，虚存空间，虚存空间，其对应的地址称为其对应的地址称为其对应的地址称为其对应的地址称为虚地址或逻辑地址；虚地址或逻辑地址；虚地址或逻辑地址；虚地址或逻辑地址；而实际的主存空而实际的主存空而实际的主存空而实际的主存空间称为间称为间称为间称为实存空间实存空间实存空间实存空间，其对应的地址称为，其对应的地址称为，其对应的地址称为，其对应的地址称为实地址或物理地址实地址或物理地址实地址或物理地址实地址或物理地址。根据根据根据根据“程序运行的局部性原理程序运行的局部性原理程序运行的局部性原理程序运行的局部性原理”，只把一小段时间内用到的程序和数据，只把一小段时间内用到的程序和数据，只把一小段时间内用到的程序和数据，只把一小段时间内用到的程序和数据装入主存；其他程序和数据在操作系统的支持下，在磁盘和主存之间装入主存；其他程序和数据在操作系统的支持下，在磁盘和主存之间装入主存；其他程序和数据在操作系统的支持下，在磁盘和主存之间装入主存；其他程序和数据在操作系统的支持下，在磁盘和主存之间按程序运行的需要自动成批量地完成交换。按程序运行的需要自动成批量地完成交换。按程序运行的需要自动成批量地完成交换。按程序运行的需要自动成批量地完成交换。虚拟存储器经常使用三种基本管理技术，核心问题都在于处理数据的虚拟存储器经常使用三种基本管理技术，核心问题都在于处理数据的虚拟存储器经常使用三种基本管理技术，核心问题都在于处理数据的虚拟存储器经常使用三种基本管理技术，核心问题都在于处理数据的存放与调度。存放与调度。存放与调度。存放与调度。n n段式存储管理段式存储管理段式存储管理段式存储管理n n页式存储管理页式存储管理页式存储管理页式存储管理n n段页式存储管理段页式存储管理段页式存储管理段页式存储管理28段式存储管理段式存储管理段段是程序模块化设计的结果，即把程序中是程序模块化设计的结果，即把程序中逻辑上相对独立、功能相对完整的部分设逻辑上相对独立、功能相对完整的部分设计为不同的段，再经过连接程序连接成更计为不同的段，再经过连接程序连接成更大的程序。此时用段作为信息调入主存的大的程序。此时用段作为信息调入主存的单位是合适的，以段为单位分配与管理主单位是合适的，以段为单位分配与管理主存储器被称为存储器被称为段式存储管理段式存储管理。段式存储管理的核心问题在于设立和管理段式存储管理的核心问题在于设立和管理段表段表；段表也是主存中的可再定位的一段；段表也是主存中的可再定位的一段信息，用于变换程序中的信息，用于变换程序中的虚地址（逻辑地虚地址（逻辑地址）址）为主存单元的为主存单元的实地址（物理地址）实地址（物理地址）。29段式存储管理段式存储管理30段表段表内容内容及其管理及其管理段号段号 段内地址段内地址+逻辑地址逻辑地址段起始地址段起始地址 段长段长 装入装入位位段段表表主存实际地址主存实际地址段表基地址段表基地址0段段1段段2段段3段段31段式存储管理段式存储管理提高性能的方法提高性能的方法提高性能的方法提高性能的方法n n使用段地址寄存器，保存一段的起始地址，以后使用段地址寄存器，保存一段的起始地址，以后使用段地址寄存器，保存一段的起始地址，以后使用段地址寄存器，保存一段的起始地址，以后使用这一段的数据不必再查段表，直接计算主存使用这一段的数据不必再查段表，直接计算主存使用这一段的数据不必再查段表，直接计算主存使用这一段的数据不必再查段表，直接计算主存地址地址地址地址段式存储管理的特点段式存储管理的特点段式存储管理的特点段式存储管理的特点n n优点：段的分界与程序的自然分界对应，段的优点：段的分界与程序的自然分界对应，段的优点：段的分界与程序的自然分界对应，段的优点：段的分界与程序的自然分界对应，段的 逻辑独立性使它易于编译、修改和保护，逻辑独立性使它易于编译、修改和保护，逻辑独立性使它易于编译、修改和保护，逻辑独立性使它易于编译、修改和保护，也便于多道程序共享。也便于多道程序共享。也便于多道程序共享。也便于多道程序共享。n n缺点缺点缺点缺点:段长不确定，主存分配和管理不便，段长不确定，主存分配和管理不便，段长不确定，主存分配和管理不便，段长不确定，主存分配和管理不便，容易在段间形成难以利用的碎片。容易在段间形成难以利用的碎片。容易在段间形成难以利用的碎片。容易在段间形成难以利用的碎片。32页式存储管理页式存储管理页页式存储管理是把虚拟空间和主存空间都式存储管理是把虚拟空间和主存空间都分成大小相同的页（为分成大小相同的页（为2 2的整数幂个字），的整数幂个字），并以页为单位进行辅存与主存间的信息交并以页为单位进行辅存与主存间的信息交换。此时虚存逻辑地址和主存物理地址分换。此时虚存逻辑地址和主存物理地址分别被分为别被分为“虚存页号虚存页号页内地址页内地址”和和“主主存页号存页号页内地址页内地址”，虚、实二页号虚、实二页号会不会不同，但使用相同的页内地址。同，但使用相同的页内地址。与段式存储管理不一样，页不是程序本身与段式存储管理不一样，页不是程序本身的结构特性，而是从管理的角度人为划分的结构特性，而是从管理的角度人为划分的结果。设置和管理好的结果。设置和管理好页表页表是页式存储管是页式存储管理的关键技术。理的关键技术。33页式存储管理页式存储管理34页表内容和页式管理页表内容和页式管理+（在内存中）控制位（在内存中）控制位 有效位有效位页页表表虚地址虚地址 (程序中给出程序中给出)实地址实地址 (读写内存用读写内存用)按按地地址址读读实页号实页号虚页号虚页号 页内地址页内地址实页号实页号 页内地址页内地址页表基地址页表基地址控制位：包括修改位、替换位控制位：包括修改位、替换位有效位：表示该页是否已装入主存有效位：表示该页是否已装入主存0 0页页1 1页页2 2页页3 3页页4 4页页5 5页页6 6页页35页式存储管理页式存储管理页式存储管理的特点页式存储管理的特点页式存储管理的特点页式存储管理的特点n n优点：只要有空白页新页就可以调入内存优点：只要有空白页新页就可以调入内存优点：只要有空白页新页就可以调入内存优点：只要有空白页新页就可以调入内存 只有程序的最后一页可能有零头浪费只有程序的最后一页可能有零头浪费只有程序的最后一页可能有零头浪费只有程序的最后一页可能有零头浪费n n缺点：页不是逻辑上的独立程序实体缺点：页不是逻辑上的独立程序实体缺点：页不是逻辑上的独立程序实体缺点：页不是逻辑上的独立程序实体 处理、保护和共享信息不如段式方便处理、保护和共享信息不如段式方便处理、保护和共享信息不如段式方便处理、保护和共享信息不如段式方便提高性能的方法提高性能的方法提高性能的方法提高性能的方法n n为了克服读取一次数据访问两次内存的问题，引入为了克服读取一次数据访问两次内存的问题，引入为了克服读取一次数据访问两次内存的问题，引入为了克服读取一次数据访问两次内存的问题，引入快快快快速页表（转换旁路缓冲器速页表（转换旁路缓冲器速页表（转换旁路缓冲器速页表（转换旁路缓冲器TLBTLBTLBTLB：translation translation translation translation lookaside bufferlookaside bufferlookaside bufferlookaside buffer）n nTLBTLBTLBTLB完全由快速硬件实现，但容量较小，采用类似于完全由快速硬件实现，但容量较小，采用类似于完全由快速硬件实现，但容量较小，采用类似于完全由快速硬件实现，但容量较小，采用类似于CacheCacheCacheCache的关联存储器方式进行访问的关联存储器方式进行访问的关联存储器方式进行访问的关联存储器方式进行访问36页表内容和页式管理页表内容和页式管理+（在内存中）控制位（在内存中）控制位 有效位有效位虚虚 页号页号 实实 页号页号慢慢表表虚地址虚地址 (程序中给出程序中给出)实地址实地址 (读写内存用读写内存用)快表快表(专设硬件专设硬件)比较比较(按内容选按内容选)按按地地址址读读实页号实页号虚页号虚页号 页内地址页内地址实页号实页号 页内地址页内地址页表基地址页表基地址37段页式存储管理段页式存储管理在在在在段页式虚拟存储器段页式虚拟存储器段页式虚拟存储器段页式虚拟存储器中，把程序按逻辑结构分段中，把程序按逻辑结构分段中，把程序按逻辑结构分段中，把程序按逻辑结构分段以后，再把每段分成固定大小的页。程序对主存以后，再把每段分成固定大小的页。程序对主存以后，再把每段分成固定大小的页。程序对主存以后，再把每段分成固定大小的页。程序对主存的调入调出是按页面进行的，但它又可以按段实的调入调出是按页面进行的，但它又可以按段实的调入调出是按页面进行的，但它又可以按段实的调入调出是按页面进行的，但它又可以按段实现共享和保护。因此它兼有页式和段式系统的优现共享和保护。因此它兼有页式和段式系统的优现共享和保护。因此它兼有页式和段式系统的优现共享和保护。因此它兼有页式和段式系统的优点。它的缺点是在地址映像过程中需要多次查表，点。它的缺点是在地址映像过程中需要多次查表，点。它的缺点是在地址映像过程中需要多次查表，点。它的缺点是在地址映像过程中需要多次查表，在这种系统中，虚地址转换为实地址是通过一个在这种系统中，虚地址转换为实地址是通过一个在这种系统中，虚地址转换为实地址是通过一个在这种系统中，虚地址转换为实地址是通过一个段表和一组页表来进行的。段表中的每个表目对段表和一组页表来进行的。段表中的每个表目对段表和一组页表来进行的。段表中的每个表目对段表和一组页表来进行的。段表中的每个表目对应一个段，每个表目有一个指向该段的页表的起应一个段，每个表目有一个指向该段的页表的起应一个段，每个表目有一个指向该段的页表的起应一个段，每个表目有一个指向该段的页表的起始地址（页号）及该段的控制保护信息。由页表始地址（页号）及该段的控制保护信息。由页表始地址（页号）及该段的控制保护信息。由页表始地址（页号）及该段的控制保护信息。由页表指明该段各页在主存中的位置以及是否已装入、指明该段各页在主存中的位置以及是否已装入、指明该段各页在主存中的位置以及是否已装入、指明该段各页在主存中的位置以及是否已装入、已修改等标志。已修改等标志。已修改等标志。已修改等标志。38段页式存储管理段页式存储管理段号段号段号段号虚页号虚页号虚页号虚页号页内偏移量页内偏移量页内偏移量页内偏移量段表段表段表段表+页表页表页表页表实页号实页号实页号实页号页内偏移量页内偏移量页内偏移量页内偏移量虚地址虚地址虚地址虚地址实地址实地址实地址实地址39虚拟存储器与高速缓冲存储器区别虚拟存储器与高速缓冲存储器区别CacheCache虚拟存储器虚拟存储器功能功能提高了主存储器提高了主存储器的速度的速度 扩大了主存储器扩大了主存储器的容量的容量 实现技术实现技术硬件硬件 以软件为主以软件为主 透明性透明性透明透明不透明不透明地址转换地址转换简单简单复杂、速度慢复杂、速度慢数据交换数据交换 频率高、数量少频率高、数量少 频率低、数量多频率低、数量多40思考题思考题1.1.简述多级结构存储器系统的组成和原理。简述多级结构存储器系统的组成和原理。2.2.CacheCache的存储单元由那些部分组成？各部分的作用的存储单元由那些部分组成？各部分的作用是什么？是什么？3.3.什么叫地址影像？什么叫地址变换？什么叫地址影像？什么叫地址变换？4.4.CACHECACHE存储器通常使用哪几种映像方式？简述各种存储器通常使用哪几种映像方式？简述各种映像方式的原理。映像方式的原理。5.5.常用的常用的CacheCache替换算法有哪些？替换算法有哪些？6.6.什么叫写透（什么叫写透（Write ThroughWrite Through）？）？什么叫写回什么叫写回（Write BackWrite Back）？）？7.7.设设CACHECACHE的访问时间为的访问时间为t tc c,存储器的访问时间为存储器的访问时间为t tm m,CACHECACHE命中率为命中率为h hc c,则访问存储器的平均时间为多少则访问存储器的平均时间为多少？41结束语当你尽了自己的最大努力时，失败也是伟大的，所以不要放弃，坚持就是正确的。When You Do Your Best,Failure Is Great,So DonT Give Up,Stick To The End感谢聆听不足之处请大家批评指导Please Criticize And Guide The Shortcomings演讲人：XXXXXX 时 间：XX年XX月XX日