前言
最近接触了分布式文件存储系统FastDFS，但FastDFS是底层是用C语言写的，因此安装的时候还需要make，这一点很是不爽。自己之前研究过Hadoop，其中的hdfs就是一个分布式文件系统，而且Hadoop是用java语言编写的，因此考虑能否用hdfs来代替FastDFS。
经过反复实践，基本能够远程连接hdfs进行文件的操作了，直接上代码。本示例的前提是先启动hdfs文件系统，关于如何搭建hdfs文件系统请参考其他文章。
初始化
private static void init(String url) throws IOException {
Configuration config = new Configuration();
config.set("fs.defaultFS", url);
hdfs = FileSystem.get(URI.create(url), config);
}
其中url为远程hdfs地址，例如hdfs://127.0.0.1:9000
上传文件
public static void uploadFile2HDFS(String s, String d) throws IOException {
Path src = new Path(s);
Path dst = new Path(hdfs.getWorkingDirectory() + d);
hdfs.copyFromLocalFile(src, dst);
}
注：s为本地文件路径，d为远程文件保存的绝对路径，下同。
上传二进制内容，并保存成文件
public static void uploadFile2HDFS(byte[] data, String d) throws IOException {
FSDataOutputStream out = hdfs.create(new Path(hdfs.getWorkingDirectory() + d));
IOUtils.write(data, out);
out.close();
}
读取远程文件为二进制内容
public static byte[] readHDFSFile(String dst) throws Exception {
Path path = new Path(dst);
if (hdfs.exists(path)) {
FSDataInputStream is = hdfs.open(path);
FileStatus stat = hdfs.getFileStatus(path);
byte[] buffer = new byte[Integer.parseInt(String.valueOf(stat.getLen()))];
is.readFully(0, buffer);
is.close();
return buffer;
} else {
throw new Exception("the file is not found .");
}
}
删除文件或文件夹。当删除文件夹时，会同时删除子文件夹和文件。
public static boolean delete(String dst) throws IOException {
Path path = new Path(hdfs.getWorkingDirectory() + dst);
boolean isDeleted = hdfs.delete(path, true);
return isDeleted;
}
创建文件夹
public static void mkdirs(String dir) throws IOException {
System.out.println(hdfs.getWorkingDirectory() + dir);
hdfs.mkdirs(new Path(dir));
}
列出文件或文件夹(此方法未定义返回值，如有需要可自行修改)
public static void listAll(String dir) throws IOException {
FileStatus[] stats = hdfs.listStatus(new Path(hdfs.getWorkingDirectory() +dir));
for (int i = 0; i < stats.length; ++i) {
if (stats[i].isFile()) {
// regular file
System.out.println(stats[i].getPath().toString());
} else if (stats[i].isDirectory()) {
// dir
System.out.println(stats[i].getPath().toString());
} else if (stats[i].isSymlink()) {
// is s symlink in linux
System.out.println(stats[i].getPath().toString());
}
}
}
一个测试方法，仅供参考
public static void main(String[] args) throws Exception {
try {
init("hdfs://127.0.0.1:9000");
String localStr = "d:/t/pop.txt";
String dst = "/TestDirectory/hehe.txt";
uploadFile2HDFS(localStr, dst);
System.out.println("success");
hdfs.close();
} catch (Exception e) {
e.printStackTrace();
}
}
完毕。