栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

用Java来模拟Hadoop

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

用Java来模拟Hadoop

import java.io.*;
import java.util.ArrayList;
import java.util.HashMap;
import java.util.Set;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

//使用java程序模拟hadoop切分文件,统计students文件中,姓名包含'白'汉字的人数。
public class HomeWork2 {
    public static void main(String[] args) {
        BufferedReader br = null;
        BufferedWriter bw = null;
        int index = 0;
        ArrayList list1 = null;
        int count = 0;
        String line = null;
        int rowNum = 0;
        try {
            br = new BufferedReader(new FileReader("data/students.txt"));
            bw = new BufferedWriter(new FileWriter("blocks/block---" + index));
            list1 = new ArrayList<>();
            while ((line = br.readLine()) != null) {
                list1.add(line);
                count++;
                if (count == 140) {
                    rowNum = 128 * index;
                    for (int i = rowNum; i <= rowNum + 127; i++) {
                        String s = list1.get(i);
                        bw.write(s);
                        bw.newLine();
                        bw.flush();
                    }
                    index++;
                    count = 12;
                    bw = new BufferedWriter(new FileWriter("blocks/block---" + index));
                }
            }
            for(int i = list1.size()-count;i
                String s = list1.get(i);
                bw.write(s);
                bw.newLine();
                bw.flush();
            }
            bw.close();
            br.close();
        } catch (FileNotFoundException e) {
            e.printStackTrace();
        } catch (IOException e) {
            e.printStackTrace();
        }
    }
}
class Map{
    public static void main(String[] args) {
        ExecutorService executorService = Executors.newFixedThreadPool(8);
        File blocks = new File("blocks");
        File[] files = blocks.listFiles();
        int index =0;
        for(File f:files){
            MapTask mapTask = new MapTask(f, index);
            executorService.submit(mapTask);
            index++;
        }
        executorService.shutdown();

    }

}
class MapTask implements Runnable{
    private  File file;
    private  int index;

    public MapTask() {
    }

    public MapTask(File file, int index) {
        this.file = file;
        this.index = index;
    }


    @Override
    public void run() {
        BufferedReader br =null;
        BufferedWriter bw =null;
        String line =null;
        HashMap map = new HashMap<>();
        try {
             br = new BufferedReader(new FileReader(file));
             bw = new BufferedWriter(new FileWriter("result/res--"+index));
             while((line=br.readLine())!=null){
                 String[] split = line.split(",");
                 String name =split[1];
                 if(name.contains("白")){
                     if (!map.containsKey("白")) {
                         map.put("白", 1);
                     } else {
                         //否则value值加1
                         map.put("白", map.get("白") + 1);
                     }
                 }
             }
            Set> entries = map.entrySet();
             for(java.util.Map.Entry m:entries){
                 String key = m.getKey();
                 Integer value = m.getValue();
                 bw.write("姓"+key+"的有"+value);
                 bw.newLine();
                 bw.flush();
             }
             br.close();
             bw.close();
        } catch (IOException e) {
            e.printStackTrace();
        }
    }
}
class Reduce{
    public static void main(String[] args) throws Exception {
        BufferedReader br =null;
        BufferedWriter bw =null;
        String line = null;
        HashMap hashMap = new HashMap<>();
        File result = new File("result");
        File[] files = result.listFiles();
        for(File f:files){
            br = new BufferedReader(new FileReader(f));
            while((line=br.readLine())!=null){
                String[] s = line.split("有");
                String s1 = s[0];
                String s2 = s[1];
                Integer i = Integer.valueOf(s2);
                if(!hashMap.containsKey(s1)){
                    hashMap.put(s1,i);
                }else{
                    hashMap.put(s1,hashMap.get(s1)+i);
                }
            }
            Set> entries = hashMap.entrySet();
            bw =new BufferedWriter(new FileWriter("result/total"));
            for(java.util.Map.Entry m:entries){
                String key = m.getKey();
                Integer value = m.getValue();
                String num = String.valueOf(value);
                bw.write(key+"有"+num+"人");
                bw.newLine();
                bw.flush();
            }
            br.close();
            bw.close();
        }
    }

}

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/931239.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号