【Hadoop】FSDirectory 详解

简介

Namenode 最重要的两个功能之一就是维护整个文件系统的目录树（即命名空间 namesystem） 。
HDFS 文件系统的命名空间（namespace） ， 也就是以“/”为根的整个目录树， 是通过 FSDirectory 类来管理的。 FSNamesystem 也提供了管理目录树结构的方法。
FSNamesystem 中的方法多是调用 FSDirectory 类的实现。FSNamesystem 在 FSDirectory 类方法的基础上添加了 editlog 日志记录的功能。

FSDirectory 的操作则全部是在内存中进行的， 并不进行 editlog 的日志记录。

参数

常量

• INodeDirectory rootDir： 整个文件系统目录树的根节点， 是 INodeDirectory 类型的 。
• FSNamesystem namesystem： Namenode 的门面类， 这个类主要支持对数据块进行操作的一些方法， 例如 addBlock()。
• INodeMap inodeMap： 记录根目录下所有的 INode,并维护 INodeId ->INode 的映射关系。
• ReentrantReadWriteLock dirLock： 对目录树以及 inodeMap 字段操作的锁。
• NameCache nameCache： 将常用的 name 缓存下来， 以降低 byte[]的使用， 并降低 JVM heap 的使用。
• SortedSet protectedDirectories：使用 dfs.namenode.protected.directories 设置保护的一组目录。 这些目录不能被删除，除非它们是空的。
• FSEditLog editLog： 用于写 editlog 的类。
• HdfsFileStatus[] reservedStatuses： 待定。
• INodeAttributeProvider attributeProvider：用于实现权限管理。

操作类型

所有客户端的操作都是通过 FSNamesystem.java 的。FSNamesystem.java 会调用具体操作的实现类的。再实现类里面操作时会使用到 FSDirectory。

删除

接口：

boolean delete(String src, boolean recursive, boolean logRetryCache) throws IOException {}

简介

删除文件或者文件夹，如果删除文件夹参数 recursive 必须为 true。

实现逻辑

• 1、检查是否有写权限。具体可查看 checkOperation(OperationCategory.WRITE)；
• 2、加全局锁。
• 3、再次检查是否有写权限。
• 4、调用 FSDirDeleteOp.delete 删除目录或者文件。

toRemovedBlocks = FSDirDeleteOp.delete(this, pc, src, recursive, logRetryCache);

• 5、释放全局锁。
• 6、同步 editlog，并且记录审计日志。
• 7、将需要删除的块 toRemovedBlocks 添加到 markedDeleteQueue 队列里面，等待异步删除。

FSDirDeleteOp.delete 实现逻辑

• 检查权限：调用 FSDirectory 的函数 checkPermission 检查权限。
• 如果是非空的文件夹，检查是否有-r 参数。如果没有-r 参数则需要报错。
• 调用 deleteInternal，开始删除文件夹。核心删除代码如下：

List<INodeDirectory> snapshottableDirs = new ArrayList<>();
FSDirSnapshotOp.checkSnapshot(fsd, iip, snapshottableDirs);
ReclaimContext context = new ReclaimContext(
    fsd.getBlockStoragePolicySuite(), collectedBlocks, removedINodes,
    removedUCFiles);
// 更核心的删除代码再这个函数里面，会调用destroyAndCollectBlocks删除block,代码：targetNode.destroyAndCollectBlocks(reclaimContext);
if (unprotectedDelete(fsd, iip, context, mtime)) {
  filesRemoved = context.quotaDelta().getNsDelta();
  fsn.removeSnapshottableDirs(snapshottableDirs);
}
fsd.updateReplicationFactor(context.collectedBlocks()
                                .toUpdateReplicationInfo());
fsd.updateCount(iip, context.quotaDelta(), false);

• 删除 EditLog。
• 调用 incrDeletedFileCount 更新 metrics 信息。

创建文件

接口

HdfsFileStatus startFile(String src, PermissionStatus permissions,
      String holder, String clientMachine, EnumSet<CreateFlag> flag,
      boolean createParent, short replication, long blockSize,
      CryptoProtocolVersion[] supportedVersions, String ecPolicyName,
      String storagePolicy, boolean logRetryCache) throws IOException {
}

• 检查当前用户是否有写权限。

• 检查是否处于安全模式，如果处于安全模式，则不能进行当前操作。

• 检查是否对当前文件所在的目录是否有权限（开启权限管理的情况下）

• 调用 FSDirWriteFileOp.startFile 开始创建文件或者覆盖已有文件。

  • 对于已经存在的文件。在覆盖的场景下。主要核心代码如下，会将原来的文件删除。并且释放租约。

  List<INode> toRemoveINodes = new ChunkedArrayList<>();
  List<Long> toRemoveUCFiles = new ChunkedArrayList<>();
  long ret = FSDirDeleteOp.delete(fsd, iip, toRemoveBlocks,
                                  toRemoveINodes, toRemoveUCFiles, now());
  if (ret >= 0) {
    iip = INodesInPath.replace(iip, iip.length() - 1, null);
    FSDirDeleteOp.incrDeletedFileCount(ret);
    fsn.removeLeasesAndINodes(toRemoveUCFiles, toRemoveINodes, true);
  }
  

  • 对于不需要覆盖的场景下，需要重新刷新租约信息。

   fsn.recoverLeaseInternal(FSNamesystem.RecoverLeaseOp.CREATE_FILE, iip,
                                src, holder, clientMachine, false);
  

  • 对于父文件夹存在的时候，将文件添加到父文件夹下面。

  iip = addFile(fsd, parent, iip.getLastLocalName(), permissions,
      replication, blockSize, holder, clientMachine, shouldReplicate,
      ecPolicyName, storagePolicy);
  newNode = iip != null ? iip.getLastINode().asFile() : null;
  

• 添加租约信息。

fsn.leaseManager.addLease(
   newNode.getFileUnderConstructionFeature().getClientName(),
   newNode.getId());

• 返回文件信息。

待续。