You need to enable JavaScript to run this app.
导航
基础使用
最近更新时间:2025.04.01 20:13:39首次发布时间:2024.11.12 16:54:07
我的收藏
有用
有用
无用
无用

HDFS 操作命令

以下是 HDFS 常见的操作命令,包括 list、put、get、rm、mkdir 等文件的列举、上传、下载、删除、创建目录等。

  1. 使用环境变量。
sudo su emr

source ~/.profile
  1. 列出 HDFS 文件。
hdfs dfs -ls <path>
  1. 上传文件到 HDFS。
hdfs dfs -put <local file> <hdfs file>

#example:

hdfs dfs -put testFile /input/testFile

#把当前本地目录下的testFile文件上传到HDFS /input目录下,并命名为testFile
  1. 将 HDFS 中的文件复制到本地系统中。
hdfs dfs -get <hdfs file> <local file or dir>

本地文件(local file)和 HDFS 文件(hdfsfile)的名字不能相同,否则会提示文件已存在,没有重名的文件会被复制到本地。
如果需要将多个文件或目录拷贝到本地时,本地应为文件夹路径:

hdfs dfs -get <hdfs file or dir> ... <local dir>
  1. 删除文件。
hdfs dfs -rm <hdfs file>

hdfs dfs -rm -r <hdfs dir>
  1. 查看 HDFS 下的某个文件。
hdfs dfs -cat <hdfs file>
  1. 创建 HDFS 目录。
hdfs dfs -mkdir <hdfs path>

需要注意的是,待创建的子目录的父目录必须存在,如果父目录不存在的话使用这个命令会报错。
当使用以下命令创建目录时,如果父目录不存在,则会自动创建:

hdfs dfs -mkdir -p <hdfs path>
  1. 复制文件。
hdfs dfs -cp <hdfs file> <hdfs file>
  1. 移动文件。
hdfs dfs -mv <hdfs file> <hdfs file>
  1. 修改目录或者文件的权限。
hdfs dfs -chmod -R mode <hdfs file or dir>

#example:
hdfs dfs -chmod -R 777 /usr
  1. 查看文件或者目录的存储使用量。
hdfs dfs -du URI [URI …]

关于 HDFS 命令的更多详细介绍,请参见 Apache Hadoop 社区文档。