栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 前沿技术 > 大数据 > 大数据系统

JAVA 通过数据流的方式上传文件到HDFS

JAVA 通过数据流的方式上传文件到HDFS

JAVA 通过数据流的方式上传文件到HDFS 源代码
import java.io.FileInputStream;
import java.io.FileOutputStream;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;

public class HDFSTest {
    public static void main(String[] args) throws Exception {
        //1 创建连接
        Configuration conf = new Configuration();
        //2 连接端口
        conf.set("fs.defaultFS", "hdfs://127.0.0.1:9000");
        //3 获取连接对象
        FileSystem fs = FileSystem.get(conf);
        //本地文件上传到 hdfs
        //  fs.copyFromLocalFile(new Path("/Users/zhangsf/bigdata/spark-2.4.7-bin-hadoop2.7/logs/spark-zhangsf-org.apache.spark.deploy.worker.Worker-1-ever.local.out"), 
        //                       new Path("/zhangvalue/input/1111local.out"));
        //  fs.close();
        //流上传文件
        //读取本地文件
        FileInputStream in = new FileInputStream(
                "/Users/zhangsf/bigdata/spark-2.4.7-bin-hadoop2.7/logs/spark-zhangsf-org.apache.spark.deploy.worker.Worker-1-ever.local.out");
        //在hdfs上创建路径
        FSDataOutputStream out = fs.create(new Path("/zhangvalue/input/1111local.out"));
        byte[] b = new byte[1024 * 1024];
        int read = 0;
        while ((read = in.read(b)) > 0) {
            out.write(b, 0, read);
        }
    }
}


HDFS中查看文件


转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/741912.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号