跟我一起hadoop的（1）-hadoop2.6安装与使用_综合

转载地址：https://yq.aliyun.com/articles/38310?spm=5176.100239.blogcont38308.15.1pbgGY

伪分布式

Hadoop的的三种安装方式：

本地（独立）模式
伪分布式模式
完全分布式模式

安装之前需要

$ sudo apt-get install ssh （centos 安装命令并不是这个昂，详见os安装ssh）
$ sudo apt-get install rsync

详见：http ://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-common/SingleCluster.html

伪分布式配置

组态

修改下边：

等/ hadoop的/芯-site.xml中：

<结构><属性><名称> fs.defaultFS </名称><值> HDFS：//本地主机：9000 </值></属性>
</配置>

等/ hadoop的/ HDFS-site.xml中：

<结构><属性><名称> dfs.replication </名称><值> 1 </值></属性>
</配置>

配置SSH

  $ ssh-keygen -t dsa -P''-f?/ .ssh / id_dsa$ cat?/ .ssh / id_dsa.pub >>?/ .ssh / authorized_keys

如果想运行在纱上

需要执行下边的步骤：

配置参数如下：

等/ hadoop的/ mapred-site.xml中：

<结构><属性><名称> mapreduce.framework.name </名称><值>纱</值></属性>
</配置>

等/ hadoop的/纱-site.xml中：

<结构><属性><名称> yarn.nodemanager.aux服务</名称><值> mapreduce_shuffle </值></属性>
</配置>

启动ResourceManager守护进程和NodeManager守护进程：
```
  $ sbin / start-yarn.sh
```
浏览ResourceManager的Web界面; 默认情况下它可用于：
- ResourceManager - http：// localhost：8088 /
运行MapReduce作业。
当你完成后，停止守护进程：
```
  $ sbin / stop-yarn.sh
```

输入：

HTTP：//本地主机：8088 /

可以看到

启动纱后

格式化文件系统：
```
  $ bin / hdfs namenode -format
```
启动NameNode守护进程和DataNode守护进程：
```
  $ sbin / start-dfs.sh
```
hadoop守护进程日志输出写入$HADOOP_LOG_DIR目录（默认为$HADOOP_HOME /日志）。
浏览NameNode的Web界面; 默认情况下它可用于：
- NameNode - http：// localhost：50070 /

输入后得到：

然后执行测试

制作执行MapReduce作业所需的HDFS目录：

  $ bin / hdfs dfs -mkdir / user$ bin / hdfs dfs -mkdir / user / <username>

将输入文件复制到分布式文件系统中：
```
  $ bin / hdfs dfs -put etc / hadoop输入
```

运行一些提供的例子：

  $ bin / hadoop jar share / hadoop / mapreduce / hadoop-mapreduce-examples-2.6.0.jar grep input output'dfs [az。] +'

检查输出文件：
将输出文件从分布式文件系统复制到本地文件系统并检查它们：
```
  $ bin / hdfs dfs -get输出输出$ cat输出/ *
```
要么

查看分布式文件系统上的输出文件：
```
  $ bin / hdfs dfs -cat output / *
```

看运行的情况：

查看结果

测试执行成功，可以编写本地代码了。

日食hadoop2.6插件使用

下载源码：

git clone https://github.com/winghc/hadoop2x-eclipse-plugin.git

下载过程：

编译插件：

cd src / contrib / eclipse-plugin
ant jar -Dversion = 2.6.0 -Declipse.home = / usr / local / eclipse -Dhadoop.home = / usr / local / hadoop-2.6.0 //路径根据自己的配置

窗口 - >首选项 - > hadoop Map / Reduce - > Hadoop安装目录

配置Map / Reduce视图

窗口 - >打开透视 - >其他 - >地图/缩小 - >点击“确定”

窗口→显示视图→其他 - >地图/减少地点 - >点击“确定”

控制台会多出一个“Map / Reduce Locations”的标签页

在“Map / Reduce Locations”标签页中点击图标<大象+>或者在空白的地方右键，选择“New Hadoop location ...”，弹出对话框“New hadoop location ...”，配置如下内容：将ha1改为自己的Hadoop的用户

注意：MR Master和DFS Master配置必须和mapred-site.xml和core-site.xml等配置文件一致。

打开Project Explorer，查看HDFS文件系统。

新建的Map / Reduce任务

File-> New-> project-> Map / Reduce Project-> Next

编写字计数类：记得先把服务都起来

/ *** * / 
package com.zongtui;

/ *** ClassName：WordCount <br/>*功能：TODO ADD功能。<BR/><br/> * date：Jun 28，2015 5:34:18 AM <br/>** @作者zhangfeng* @version  * @自JDK 1.7* /

import java.io.IOException;
import java.util.Iterator;
import java.util.StringTokenizer;

import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapred.FileInputFormat;
import org.apache.hadoop.mapred.FileOutputFormat;
import org.apache.hadoop.mapred.JobClient;
import org.apache.hadoop.mapred.JobConf;
import org.apache.hadoop.mapred.MapReduceBase;
import org.apache.hadoop.mapred.Mapper;
import org.apache.hadoop.mapred.OutputCollector;
import org.apache.hadoop.mapred.Reducer;
进口org.apache.hadoop.mapred.Reporter;
import org.apache.hadoop.mapred.TextInputFormat;
import org.apache.hadoop.mapred.TextOutputFormat;

公共 类WordCount {公共 静态 类地图扩展 MapReduceBase 实现Mapper <LongWritable，文本，文本，IntWritable> {私人 最终 静态 IntWritable一= 新 IntWritable（1 ）;私人文字= 新文字（）;
public  void map（LongWritable key，Text value，OutputCollector <Text，IntWritable> 输出，Reporter记者）抛出IOException {
         String line = value.toString（）;StringTokenizer tokenizer = new StringTokenizer（line）;while （tokenizer.hasMoreTokens（））{
         word.set（tokenizer.nextToken（））;output.collect（word，one）;}}}
public  static  class Reduce extends MapReduceBase implements Reducer <Text，IntWritable，Text，IntWritable> {public  void reduce（Text key，Iterator <IntWritable> values，OutputCollector <Text，IntWritable> 输出，Reporter记者）抛出IOException {int sum = 0 ;while （values.hasNext（））{
         sum + = values.next（）。get（）;}output.collect（key，new IntWritable（sum））;}}
公共 静态 无效的主要（字符串[]参数）抛出异常{
         JobConf CONF = 新 JobConf（字计数。类）;conf.setJobName（ “wordcount” ）;
conf.setOutputKeyClass（文本类）;conf.setOutputValueClass（IntWritable 类）;
conf.setMapperClass（地图类）;conf.setReducerClass（降低。类）;
conf.setInputFormat（的TextInputFormat 类）;conf.setOutputFormat（TextOutputFormat 类）;
FileInputFormat.setInputPaths（conf，new Path（args [0 ]））;FileOutputFormat.setOutputPath（conf，new Path（args [1 ]））;
JobClient.runJob（CONF）;} }

用户/为admin123 /输入/ hadoop的是你上传在HDFS的文件夹（自己创建），里面放要处理的文件.ouput1放输出结果

将程序放在hadoop集群上运行：右键 - > Runas - >在Hadoop上运行，最终的输出结果会在HDFS相应的文件夹下显示。至此，ubuntu下hadoop-2.6.0 eclipse插件配置完成。

遇到异常

线程“main”中的异常org.apache.hadoop.mapred.FileAlreadyExistsException：输出目录hdfs：// localhost：9000 / output已存在 于org.apache.hadoop.mapred.FileOutputFormat.checkOutputSpecs（FileOutputFormat.java:132 ）在org.apache.hadoop.mapreduce.JobSubmitter.checkSpecs（JobSubmitter.java： 564 ）at org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:432)at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1296)at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1293)at java.security.AccessController.doPrivileged(Native Method)at javax.security.auth.Subject.doAs(Subject.java:415)at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1628)at org.apache.hadoop.mapreduce.Job.submit(Job.java:1293)at org.apache.hadoop.mapred.JobClient$1.run(JobClient.java:562)at org.apache.hadoop.mapred.JobClient$1.run(JobClient.java:557)at java.security.AccessController.doPrivileged(Native Method)at javax.security.auth.Subject.doAs(Subject.java:415)at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1628)at org.apache.hadoop.mapred.JobClient.submitJobInternal(JobClient.java:557)at org.apache.hadoop.mapred.JobClient.submitJob(JobClient.java:548)at org.apache.hadoop.mapred.JobClient.runJob(JobClient.java:833)at com.zongtui.WordCount.main(WordCount.java:83)

1、改变输出路径。

2、删除重新建。

运行完成后看结果：