《分布式文件系统》PPT课件.ppt

第九章分布式文件系统,主讲：陈志刚教授,2,2020/6/7,中南大学,9.1分布式文件系统的特点和基本要求,分布式文件系统的特点为整个网络上的文件系统资源提供了一个逻辑树结构，用户可以抛开文件的实际物理位置，仅通过一定的逻辑关系就可以查找和访问网络的共享资源。用户能够像访问本地文件一样，访问分布在网络中多个服务器上的文件。分布式文件系统的顾客、服务员和存储设备分散在各机器上，服务活动必须跨网完成。存储设备不是单一的集中数据存储器。分布式文件系统的具体配置和实现可以有很大的不同，有的服务员运行在专用的服务器上，有的机器既是服务员又是顾客。,3,2020/6/7,中南大学,9.1分布式文件系统的特点和基本要求,分布式文件系统的基本要求透明性位置透明性：服务员和存储器的多重性和分散性对顾客透明。移动透明性：用户意识不到资源的移动。性能透明性：当服务负载在一定范围内变化时，客户程序可以保持满意的性能。扩展透明性：文件服务可以扩充，以满足负载和网络规模的增长。性能分布式文件系统比常规文件系统类似（有时更好）的性能和可靠性,4,2020/6/7,中南大学,容错为了处理暂时的通信错误，容错设计可以基于最多一次性语义无状态的服务器:崩溃重启时不需恢复安全性身份验证，访问控制，安全通道效率：应提供比传统文件系统相同或更强的性能和可靠性,9.1分布式文件系统的特点和基本要求,5,2020/6/7,中南大学,9.2分布式文件系统中的命名,命名方案分布式文件系统中名字透明和位置透明：数据和位置分离为文件提供一个较好的抽象名字透明给用户共享数据提供了一个简便方法位置透明把命名结构从存储器结构和服务员见的结构分开,6,2020/6/7,中南大学,9.2分布式文件系统中的命名,命名方案分布式文件系统中用于文件和目录命名的方法有以下常见的3种：主机名+文件本地名，如/machine/path，它能保证唯一的系统范围内的名字将远程文件目录附加到本地名字空间中把所有个部分文件系统全部集成组合成一个在所有机器上看上去都一样的单个名字空间,7,2020/6/7,中南大学,9.2分布式文件系统中的命名,命名的实现技术常用的命名实现技术有：路径名翻译。正文名字到底层标识符的变换典型地都使用常规UNIX中的方法，即递归查找(recursivelookup)程序。,8,2020/6/7,中南大学,9.2分布式文件系统中的命名,命名的实现技术常用的命名实现技术有：有结构的标识符。实现透明的命名需要提供文件名到其位置的变换机制。提示(hint)。这是用于位置变换的另一个方法。一个提示是一份信息，能提高性能，如果它不正确也不会引起任何语义上的副作用。安装机制。为了创建一个全局名字结构而把远程文件系统连接起来，通常使用安装机制。,9,2020/6/7,中南大学,9.3共享语义,共享语义是评价分布式文件系统允许多个顾客共享文件的重要标准。它说明分布式文件系统的这样一个特性，即多个顾客同时访问共享文件的效果。特别是，这些语义应当说明被顾客修改的数据何时可以被远程顾客看到。在分布式系统中处理共享文件的四种方法,10,2020/6/7,中南大学,9.4缓存,文件的远程访问方法文件的远程访问方法有2种：远程服务在远程服务方法中，顾客把访问请求传送给服务员，服务员执行访问，结果回送给顾客。访问请求被变换成对服务员的报文，服务员的回答也打包成报文回送给顾客。缓存如果请求的数据不在本地，则从服务员处取来那些数据的复制件给顾客。通常取来的数据量比实际请求的要多得多，例如整个文件或几个页面，所以随后的访问可在顾客所在地的本地副本中进行。,11,2020/6/7,中南大学,9.4缓存,文件的远程访问方法缓存方案的设计需要考虑的问题：缓存的单位问题存储部分文件的位置如何决定各个顾客缓存中的数据是否一致,12,2020/6/7,中南大学,9.4缓存,缓存的粒度和地点缓存的粒度：如果数据单元(即粒度)愈大，则下次访问的数据在顾客方的本地找到的可能性愈大，但传送数据的时间和一致性问题也增加了。反之，粒度太小，通信的开销也随之增加。缓存的地点在一个各自有主存和磁盘的客户-服务器系统中，有四个地方可以用来存储文件或存储部分文件：服务器磁盘、服务器主存、客户磁盘（如果可用的话）或者客户主存。,13,2020/6/7,中南大学,9.4缓存,缓存的粒度和地点存储所有文件最直接的地方是在服务器磁盘上，使用磁盘缓存具有可靠性的优点。但是使用主存作缓存器也有若干优点。首先，它可支持无盘工作站；其次，从主存缓存器中访问数据要比从磁盘缓冲器中访问数据要快；第三，服务员缓存器(用于加速磁盘输入输出操作)是设在主存中，如果顾客缓存器也使用主存，就可以构造一个单一的缓存机构，服务员和顾客均可使用。两种缓存地点强调的功能不一样，主存缓存器主要减少访问时间，磁盘缓存器主要提高可靠性和单个机器的自治性。,14,2020/6/7,中南大学,9.4缓存,更新策略、缓存有效性检验和一致性,15,2020/6/7,中南大学,9.4缓存,更新策略、缓存有效性检验和一致性判定本地缓存的数据副本是否与原本一致，有两个基本方法验证其有效性：顾客发动的方法。顾客与服务员联系，检查本地数据与原本是否一致。这个方法的关键是有效性检验的频度。服务员发动的方法。服务员为每个顾客登记被该顾客缓存的文件或文件的某个部分。当服务员检测出可能不一致时，必须做出反应。服务员发动方法的一个问题是违背顾客/服务员模型,16,2020/6/7,中南大学,9.4缓存,缓存和远程服务的比较两种方法的优缺点：选择缓存还是远程服务的问题本质上是选择改进性能的潜力还是选择简单性的问题。使用缓存时，大量的远程访问可由本地的缓存器有效地处理，大多数远程访问获得的服务速度和本地的一样快。使用缓存时，服务员负载和网络通信量都减少了，扩充能力加强了。而在使用远程服务方法时，每次远程访问都是跨过网络处理的，明显增加了网络通信量和服务员负载，引起性能下降。缓存时，传输大批数据的全部网络开销低于远程服务时传输一系列对具体请求的短的回答的网络开销。,17,2020/6/7,中南大学,9.4缓存,缓存和远程服务的比较缓存方案的主要缺点是一致性问题。在不经常写的访问模式中，缓存方法是优越的；但在有经常写的情况下，用于解决一致性问题的机制在性能、网络通信量和服务员负载方面产生重大开销。在用缓存作为远程访问方法的系统中，仿真集中式系统的共享语义是很困难的。使用远程服务时，服务员将所有访问串行化，因此能够实现任何集中的共享语义。远程服务风范仅仅是本地文件系统接口在网络上的扩充。这样，机间接口是本地顾客和文件系统之间的接口的映射。,18,2020/6/7,中南大学,9.5容错和可扩充性,无状态服务和有状态服务文件、目录和其他的服务器是否应该保留客户的状态信息。存在两种派别思想的对抗：当一个服务员在为其顾客请求进行服务的时候，如果它保存其顾客的有关信息时，称该服务员是有状态的(stateful)。如果服务员在为其顾客请求进行服务的时候不保存该顾客的任何信息，就称该服务员是无状态的(stateless)。,19,2020/6/7,中南大学,9.5容错和可扩充性,无状态服务和有状态服务比较,20,2020/6/7,中南大学,9.5容错和可扩充性,可用性与文件复制可恢复性：当对某个文件的操作失败，或由顾客夭折此操作时，如果文件能转换到原来的一致状态，则说此文件是可恢复的。坚定性：如果当某个存储器崩溃和存储介质损坏时某个文件能保证完好，则说此文件是坚定的。可用性：如果无论何时一旦需要就可访问，甚至在某个机器和存储器崩溃，或者在发生通信失效的情况下，某个文件仍然可被访问，则这种文件叫做是可用的。,21,2020/6/7,中南大学,9.5容错和可扩充性,可用性与文件复制文件复制：文件复制是一个冗余措施。这里指的是不同机器上的文件复制，而不是同一机器上不同介质上的文件复制(如镜像磁盘)。文件复制的原因通过对每个文件的独立备份来增加系统的可靠性。当一个文件服务器出现问题时，仍允许进行文件访问；将工作量分配到多个服务器上，避免运行性能上的瓶颈。,22,2020/6/7,中南大学,9.5容错和可扩充性,可用性与文件复制用户需要了解文件复制到何种程度吗？在文件复制进程中需要达到什么要求呢？文件复制的要求：应对用户隐匿复制细节。把一份复制件名字变换成指定的复制件是命名方案的任务。与复制件有关的主要问题是它们的更新。从用户观点看，文件的所有复制品代表同一逻辑实体，所以对任何复制件的更新必须反映到所有其他复制件。大多数情况下，不能放弃文件数据的一致性，因此使用复制来增加可用性时还要使用复杂的更新传播协议。,23,2020/6/7,中南大学,9.5容错和可扩充性,可扩充性设计大规模系统要考虑的问题：首先是有界资源(boundedresources)原理：“从系统的任何部分来的服务要求应该限于一个常数，此常数和系统中的节点数无关”。负载和系统规模成比例的任何服务员，一旦系统扩充到超过某一范围则必然阻塞，再增加资源也缓解不了这个问题。广播是一种使网络中的每个机器都参加的活动。在广播基础上建立的机构对超大型系统很明显不实际。网络拥挤和延迟是大规模系统的主要障碍。使用缓存和实施放松的共享语义，使跨机器的交互作用最少。,24,2020/6/7,中南大学,9.5容错和可扩充性,可扩充性设计大规模系统要考虑的问题：不应当使用集中控制方案和集中的资源建立可扩充的和容错的系统。分散化的一个重要方面是系统的管理。分配管理职责时，应有利于自治性和对称性，不干扰分布式系统的连贯性和一致性。将系统划分为若干半自治的小组。每个小组包括一些机器和一个专用的小组服务员。为了尽量减少跨越小组的文件访问，大多数时间，每个机器的请求应由其小组服务员满足。,25,2020/6/7,中南大学,9.5容错和可扩充性,用线程实现文件服务员单个进程服务员的缺点在于一旦有一个请求需要磁盘输入输出时，整个服务将被推迟到输入输出完成为止。每个顾客分配一个服务进程将导致CPU完成进程切换付出很大代价。使用线程服务员，同一个进程里的多个线程之间只有很少的非共享状态。线程的切换和线程的创建比起进程的切换和进程的创建要便宜得多。使用线程方案实现服务的优点有：一是一个输入输出请求仅推迟一个线程而不是整个服务；二是容易实现诸线程共享数据结构。,26,2020/6/7,中南大学,9.6安全性,分布式文件系统的安全性还包括保护和加密两个方面：保护方面：文件系统中的每个文件有一张小表格和文件相联系，在UNIX文件系统中，这个小表格称为inode，记录文件的所有者和分配的磁盘块。每个用户有一个用户标识符(UID)来访问文件。为了访问远程文件，有四种方法：所有远程用户想要访问处理机A上的文件，应该首先用A的本地用户名登录到A。,27,2020/6/7,中南大学,9.6安全性,任何用户可以不登录而访问任何处理机上的文件，除了具有对应于来宾(guest)或者其他公共访问名的UID的远程用户。操作系统提供UID间的映射，使本地处理机上UID为a的用户可以用它在远程处理机上的UIDb来访问远程处理机。分布式系统设计中，每个用户应当有一个确定且唯一的UID，这个UID在任何处理机上有效而且不需要映射。,28,2020/6/7,中南大学,9.6安全性,加密：主要作用是防止未经授权的数据发布和数据修改。这一机制的关键是协议的握手类型，每一方都要证明自己的身份。当前，多数系统使用下列两种不同的方法之一：一个认证服务器，它物理上安全地维护一个用户口令列表。SUN公司的网络文件系统(NFS)使用的公共密钥机制，维护一个以用户口令加密后的确认密钥的公共可读数据库。,29,2020/6/7,中南大学,9.7SUN网络文件系统,NFS概述通信服务员命名缓存和复制容错性安全性,30,2020/6/7,中南大学,NFS概述NFS(NetworkFileSystem)是一种分布式文件系统，允许网络中的安装不同操作系统的计算机间共享文件和外设。它是由SUN公司于1984年推出，使得可以像使用本地机一样地使用另一台联网计算机的文件和外设。NFS的基本思想是让任意组合的客户机和服务器共享一个公共的文件系统。NFS服务器输出目录，而客户机安装目录。,9.7SUN网络文件系统,31,2020/6/7,中南大学,9.7SUN网络文件系统,NFS的实现分为3层：顶层是系统调用层，处理open、read、close等调用；第二层虚拟文件系统(VFS)，解析调用参数并检查错误；第三层本地操作系统，翻译和准备VFS相应部分的调用。,32,2020/6/7,中南大学,9.7SUN网络文件系统,33,2020/6/7,中南大学,9.7SUN网络文件系统,NFS文件系统模型与UNIX系统提供的文件系统模型很类似文件是字节流，层次化组织在命名图中每个文件有文件句柄支持硬连接和符号链接,34,2020/6/7,中南大学,NFS支持的文件系统操作的不完全列表.,35,2020/6/7,中南大学,NFS中的通信NFS协议建立于RPC层之上，RPC层隐藏了不同操作系统及不同网络之间的差别。NFSv3一个请求对应一个RPC，而NFSv4多个请求可以对应一个RPC。前一种方案中，如果将NFS运行在广域网中，两个以上远程过程调用产生的延迟会导致性能的下降。后一种方案中，将多个远程过程调用组织到一个单一的请求中，成为一个复合过程。NFSv4的复合过程很明显可以减小延迟并且减少网络中的信息传输。,9.7SUN网络文件系统,36,2020/6/7,中南大学,NFS中的通信每个NFS操作都可以被实现为文件服务器的单一远程过程调用RPC，可以通过支持复合过程来提高性能，复合过程并不包含事务处理语义,9.7SUN网络文件系统,在NFSversion3中从文件读取数据在NFSversion4中使用复合过程从文件读取数据,37,2020/6/7,中南大学,9.5容错和可扩充性,NFS服务员在NFSversion3中NFS协议是无状态的，服务器不必保持关于它的客户端的任何协议状态信息。优点是简单，在失败的事件发生时，不需要进入回到原先状态的恢复阶段。缺点是客户端得不到任何关于请求是否执行的保证。在NFSversion4中NFS采用有状态方案的原因：无状态的模型难以实现文件锁某些身份验证需要服务器保留客户的状态需要高速缓存协议，这些协议与保留客户文件信息的服务器合作的最好（如租用）,38,2020/6/7,中南大学,9.7SUN网络文件系统,NFS中的命名NFS命名模型为客户提供完全透明的访问由服务器保存的远程文件系统的机制,NFS中装入（部分）远程文件系统.,39,2020/6/7,中南大学,9.7SUN网络文件系统,NFS中从多个服务器装入嵌套目录,40,2020/6/7,中南大学,NFS中的命名文件句柄(handle)：文件句柄：文件句柄是文件系统本身用来标识一个文件的，一个文件只有一个文件句柄。只要这个文件存在，它就一直存在。文件句柄的不变特性使得顾客能够使用名字查找该文件并在本地保存文件的文件句柄。顾客在本地保存所访问文件的文件句柄好处：第一个好处是能够改善性能，对文件进行一系列操作时，可以通过文件句柄对文件进行操作而不是通过名字，这样避免了对文件的每一个访问操作都要通过名字查找文件；另一个好处是对一个文件的访问可以不依赖于它当前的名字。,9.7SUN网络文件系统,41,2020/6/7,中南大学,NFS中的命名文件句柄(handle)：NFSv3中，顾客可以实际地安装一个远程文件系统，安装完成后，被安装的远程文件系统的根文件句柄被传递给顾客，这个根文件句柄就作为查找远程文件的起点。在NFSv4中，通过一个特殊的操作putrootfh告诉服务员对某个文件系统的根进行解析获得其文件句柄，从这个根文件句柄开始，就可以得到对应文件系统中的所有文件的文件句柄。这种方案的好处是不需要一个独立的安装协议，当一个顾客要求服务员对其上的某个文件系统的根对应的名字进行解析时，该文件系统就在顾客方安装了。,9.7SUN网络文件系统,42,2020/6/7,中南大学,NFS中的命名文件参数：一个NFS文件有一系列参数与其相对应。在NFSv3中，参数数目是固定的，每个NFS都期望支持这些参数。在NFSv4中，文件参数被分成三组：第一组是强制性的参数，所有的NFS实现必须支持这些参数；第二组是推荐参数，这组参数应该尽量得到支持；第三组参数是只被命名的参数，只被命名的参数随文件一起存储，NFS提供一些操作对这些参数进行读和写，然而这些参数和其对应的值的意义完全留给应用程序去解释。,9.7SUN网络文件系统,43,2020/6/7,中南大学,NFS中的命名NFS中的强制文件参数,9.7SUN网络文件系统,44,2020/6/7,中南大学,9.7SUN网络文件系统,NFS中的命名NFS中的推荐文件参数,45,2020/6/7,中南大学,9.7SUN网络文件系统,NFS中的文件封锁分布式文件系统中的文件一般来说需要被多个顾客共享，文件的共享需要有一致性的同步机构。在NFSv4以前的版本中，文件封锁是由一个附加的独立协议处理的，在NFS协议之外提供了一个有状态的锁管理员。在NFSv4中，文件封锁被集成到NFS的文件访问协议中，顾客使用这种封锁机制要比使用NFSv3中的封锁机制要简单。,46,2020/6/7,中南大学,9.7SUN网络文件系统,NFS中的文件封锁NFSversion4上关于文件锁定的操作,47,2020/6/7,中南大学,缓存和复制读操作缓存和写操作缓存（实现会话语义）同一机器上的多客户可以共享一个高速缓存,9.7SUN网络文件系统,48,2020/6/7,中南大学,缓存和复制NFSv4的两种缓存方案：简单方案和委派方案简单方案：当顾客打开一个文件时，就将该文件的数据取到本地的缓存中，然后对该文件的读和写操作就在该缓存中进行。当关闭该文件时，缓存中被修改过的数据要被传回给文件服务员，对文件服务员上文件的原本进行刷新。委派方案：允许NFS服务员将它的一部分权力委派给顾客。服务员在随后能够对其委派出的权利进行收回。,9.7SUN网络文件系统,49,2020/6/7,中南大学,缓存和复制,9.7SUN网络文件系统,使用NFSversion4回调机制撤销文件委派,50,2020/6/7,中南大学,缓存和复制复制：NFSv4最低限度地支持了文件复制，在NFSv4中，复制的单位是整个文件系统。文件复制是以参数FS_LOCATIONS的形式得到支持的，每个文件有一个参数FS_LOCATIONS，这个参数指出了包含此文件的文件系统在哪些地方有副本，该参数的值是一个位置表，表中的每个位置是一个DNS名字或者是一个IP地址。文件复制由特定的NFS实现提供实际的支持，NFSv4并未规定怎样实现文件复制。,9.7SUN网络文件系统,51,2020/6/7,中南大学,NFS中的容错,9.7SUN网络文件系统,处理重传的三种情况请求正在处理刚返回响应早已返回响应，但响应丢失,52,2020/6/7,中南大学,NFS中的容错出现故障的文件封锁顾客失效：在期限到达之前执行renew操作要考虑时钟同步消息的可靠性服务员失效：在NFSv4中，进入宽限期，服务员只接收来自顾客的重新声明的请求，拒绝普通的申请锁的请求。,9.7SUN网络文件系统,53,2020/6/7,中南大学,NFS中的容错出现故障的打开委派顾客失效：文件修改可能丢失，顾客只部分地负责文件恢复。服务员失效：恢复时要求顾客返回修改，撤销委派服务员的文件是最新修改的服务员再次完全控制了文件，可以将文件委派给其他用户,9.7SUN网络文件系统,54,2020/6/7,中南大学,NFS的安全性NFS的安全性主要表现在两个方面：一方面是通信的安全性，另一方面是服务员需要验证顾客的访问权限。在NFSversion4之前只支持身份验证：系统身份验证：客户向服务器以明文发送用户ID、组ID，服务器假设客户已通过登录过程，且信任客户所在的机器。安全NFS：使用Diffie-Hellman方法建立共享会话密钥；密钥太短(192位)Kerberos协议,9.7SUN网络文件系统,55,2020/6/7,中南大学,NFS的安全性在NFSv4中实现验证机制的方法：安全的RPCNFSversion4支持通用的安全框架RPCSEC_GSSRPCSEC_GSS不仅支持不同的身份验证系统，而且支持消息的机密性和完整性NFS安全设计为不仅支持自己的安全性机制，而且支持处理安全性的标准方法,9.7SUN网络文件系统,56,2020/6/7,中南大学,NFS的安全性,9.7SUN网络文件系统,NFSversion4中的安全RPC,9.7SUN网络文件系统,NFS访问控制的操作分类,58,2020/6/7,中南大学,9.7SUN网络文件系统,NFS中关于访问控制的各种用户和进程,59,2020/6/7,中南大学,9.8其他的分布式文件系统及其比较,