centos6.5配置Hadoop环境,运行wordcount例子

  • 安装vmware12centos6.5(还是6.5好,稳定流畅,7界面好看但是虚拟机里面卡死了),删除自带openjdk下载安装jdk1.7
  • 配置环境变量 vim /etc/profile->最后加上下面这段

export JAVA_HOME=/usr/java/jdk1.7.0_79
exportCLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin

执行source/etc/profile使之生效

  • 安装hadoop,下载下载 hadoop-2.x.y.tar.gz这样类型的,64位电脑记得下载64位的
  • 执行tar -zxf ~/下载/hadoop-2.6.0.tar.gz -C /usr/local 释放hadoop到本地,修改一下名字mv hadoop-2.6.0 hadoop
  • 配置环境变量,/etc/profile下面加上这两行

export HADOOP_HOME=/usr/local/hadoop

export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin

  • 修改/usr/local/hadoop/etc/hadoop/下的 core-site.xml和hdfs-site.xml

core-site.xml:

<configuration>

    <property>

       <name>hadoop.tmp.dir</name>

       <value>file:/usr/local/hadoop/tmp</value>

       <description>Abase for other temporary directories.</description>

    </property>

    <property>

       <name>fs.defaultFS</name>

       <value>hdfs://localhost:9000</value>

    </property>

</configuration>

hdfs-site.xml:

<configuration>

    <property>

       <name>dfs.replication</name>

       <value>1</value>

    </property>

    <property>

       <name>dfs.namenode.name.dir</name>

       <value>file:/usr/local/hadoop/tmp/dfs/name</value>

    </property>

    <property>

       <name>dfs.datanode.data.dir</name>

       <value>file:/usr/local/hadoop/tmp/dfs/data</value>

    </property>

</configuration>

  • 执行./bin/hdfs namenode -format  进行 NameNode的格式化

成功的话,会看到successfully formattedExitting with status 0的提示,若为Exitting with status 1则是出错。

  • 接着开启 NaneNode 和 DataNode 守护进程:执行sbin/start-dfs.sh  开启守护进程
  • 2.x版本之后上传命令不一样了:hadoop fs -mkdir input改为hdfs dfs -mkdir -p
  • input目录创建完成之后,开始上传本地目录:

上传失败显示:mkdir: Cannot create directory /input. Name node is insafe mode.

通过执行bin/hadoop dfsadmin -safemode leave 来关闭safe mode

  • 上传文件报错:WARN hdfs.DFSClient: DataStreamer Exception,原因是防火墙未关闭,执行service iptables stop关闭防火墙
  • 若要停止hadoop进程,./sbin/stop_all.sh(注意:要先启动namenode然后再启动其他,否则也会报上面的错)
  • hadoop fs -mkdir /input创建input文件夹
  • hadoop fs -put 文件 /input(如:hadoop fs -put 1 /input是将当前目录的文件1上传至hdfs中的/input目录下)
  • hadoop jar hadoop-mapreduce-examples-2.5.1.jar wordcount /input/1 /input/output/1  运行wordcount程序
  • hadoop fs -cat /input/output/1查看生成的文件 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/553738.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Maven打包自动发布到nexus私服

通过命令 -f指定的pom文件 deploy打包发布 Intellij Idea中可以通过Run-EditConfigurations-""号-Maven新建一个自定义maven脚本&#xff0c;将刚才的发布命令填入Command line中保存即可 先设置pom文件里的build信息&#xff0c;可以是maven-compiler-plugin插件 ma…

搜狗浏览器热搜怎么关 热搜关闭方法详解

要说“搜狗浏览器”中最让人不满的地方&#xff0c;相信不少网友都会投该浏览器页面最下面的“搜狗搜索热搜”一票&#xff0c;毕竟其中经常出现一些用户曾经搜索过的或相关的词语!那么&#xff0c;搜狗浏览器中的热搜该怎么关闭呢?让我们通过下文一起来了解一下。 方法步骤 …

分布式服务框架Dubbo使用小结

介绍&#xff1a; Dubbo是一个被国内很多互联网公司广泛使用的开源分布式服务框架&#xff0c;致力于提供高性能和透明化的RPC远程服务调用方案&#xff0c;以及SOA 服务治理方案&#xff0c;每天为2,000个服务提供3,000,000,000次访问量支持&#xff0c;并被广泛应用于阿里巴巴…

Chrome浏览器图片不显示怎么样办 解决方法分享

图片无法正常显示的情况&#xff0c;相信不少经常上网的朋友都曾遇到过。值得一提的是&#xff0c;这种情况大部分都与浏览器本身的缓存文件过多有关!那么&#xff0c;该怎么解决这一问题呢?下面小编就以“Chrome浏览器图片”为例&#xff0c;介绍一下具体的解决方法。 方法步…

AngularJS小结

前段时间做AngularJS的经验总结&#xff0c;这里和大家分享一下&#xff1a; 使用AngularJS的目的是构建一个单页应用&#xff0c;一直是局部刷新&#xff0c;可以达到类似客户端的效果 指令主要参数&#xff1a; restrict : E(元素),A(属性),C(类名),M(注释)&#xff0c;默认为…

如何管理QQ浏览器的扩展工具 QQ浏览器扩展工具的管理方法

QQ的庞大安装量带动了腾讯系的所有产品的安装量&#xff0c;QQ浏览器作为腾讯旗下开发的浏览工具&#xff0c;也拥有不俗的装机量。QQ浏览器不仅是沾了QQ的光&#xff0c;其自身实力也有不俗的&#xff0c;QQ浏览器的应用中心与其他浏览器的扩展中心一般支持用户安装各种浏览器…

Java线程池ThreadPoolExecutor的实例

Java.util中的线程池和Spring框架对这个类的扩展 1.单独通过java里的ThreadPoolExecutor这个类&#xff0c;可以创建线程池&#xff0c;如果系统采用Spring框架设计&#xff0c;可以采用ThreadPoolTaskExecutor这个类来扩展控制&#xff0c;这个对维护线程池 最大值和最小值易扩…

win7系统电脑语言栏怎么更换输入法

我们在使用win7操作系统电脑的时候&#xff0c;有些情况下我们可能会想要更换自己的输入法&#xff0c;但是还是有很多小伙伴不知道应该怎么操作。那么对于这个问题小编觉得我们可以通过电脑键盘上面的快捷键来进行操作&#xff0c;也可以使用鼠标在任务栏唤出相关的设置选项即…

记一次生成唯一ID的问题

之前一直用new Date().getTime()作为ID一直没出现啥问题&#xff0c;但是在测试环境被测试人员发现问题了&#xff0c;最终定位到是一个循环体中多次循环所取到的ID竟然是一样的&#xff01;也就是说系统在1ms之内做了好几次sql操作&#xff01;好吧&#xff0c;万万没想到。。…

2345浏览器如何启用过滤弹窗广告

2345浏览器是一款非常便捷的浏览服务软件&#xff0c;有很多用户都会使用手机浏览更多的信息&#xff0c;随时都可以享受便捷的服务&#xff0c;使用过的用户都会知道&#xff0c;浏览器的资讯会有广告&#xff0c;其实在看视频的时候也会有广告&#xff0c;那么要怎么过滤弹窗…

Jersey中ContainerRequestFilter的使用

手头上有对所有请求做权限认证的需求&#xff0c;必须要在执行rest方法之前判断用户是否是登录状态&#xff0c;也就是要判断session存不存在&#xff0c;这里使用ContainerRequestFilter&#xff0c;从名字上也能看出来它是一个过滤器&#xff0c;会将所有请求拦截下来&#x…

手机腾讯视频软件如何开启护眼功能

今天给大家简单介绍一下&#xff0c;在手机腾讯视频中&#xff0c;如何开启护眼功能&#xff0c;具体步骤如下&#xff1a; 1、首先&#xff0c;打开手机苏宁易购app; 手机腾讯视频软件如何开启护眼功能 2、进入软件时先点击【跳过】广告页面&#xff0c;如图 手机腾讯视频…

XML解析-Dom4j的DOM解析方式更新XML

Dom4j工具,是非官方的&#xff0c;不在jdk中。 使用步骤&#xff1a; 1&#xff09;导入dom4j的核心包。 dom4j-1.6.1.jar 2&#xff09;编写Dom4j读取xml文件的代码 1、更新XML 1.1、写出内容到xml文档 package com.rk.xml.g_dom4j_write;import java.io.File; import java.io…

爱奇艺如何设置最小化显示在托盘

相信很多朋友都有在使用爱奇艺&#xff0c;那么大家对食物爱奇艺的过程当中如何设置最小化显示在托盘呢?关于这个问题小编就和大家分享一下我的经验&#xff0c;希望能够帮助到大家。 爱奇艺会员活动2020_爱奇艺如何设置最小化显示在托盘 1、首先点击电脑桌面中的爱奇艺&…

傲游浏览器怎么看网页源代码 网页源代码查看方法简述

网页源代码&#xff0c;顾名思义就是指在网页制作过程中需要用到的一些特殊的“语言”&#xff0c;设计人员向通过对这些“语言”进行组织编排制作出网页&#xff0c;再由浏览器进行“翻译”后才会出现用户最终看到的效果。那么&#xff0c;在傲游浏览器中该怎么看网页源代码呢…

Qt前端技术:5.QSS

这个是表示QFrame中的pushButton中的子类和它子类的子类都将背景变为red 写成大于的时候表示只有直接的子类对象才会变 这个图中的QGroupBox和QPushButton都是QFrame的直接的子类 这个中的QGroupBox是QFrame的直接的子类但是QPushButton 是QGroupBox的子类&#xff0c;QPushB…

Spring定时任务的几种实现

近日项目开发中需要执行一些定时任务&#xff0c;比如需要在每天凌晨时候&#xff0c;分析一次前一天的日志信息&#xff0c;借此机会整理了一下定时任务的几种实现方式&#xff0c;由于项目采用spring框架&#xff0c;所以我都将结合 spring框架来介绍。 一&#xff0e;分类 从…

搜狗高速浏览器主页被篡改怎么办 搜狗浏览器中恢复被篡改主页的方法

搜狗浏览器是一款还不错的浏览器&#xff0c;我们在使用搜狗浏览器的过程中发现主页被篡改怎么办呢?接下来我们一起往下看看搜狗浏览器中恢复被篡改主页的方法吧。 方法步骤 1、首先打开我的搜狗浏览器发现我的主页已经被篡改成hao123的主页了; 搜狗高速浏览器主页被篡改怎…

解决quartz的job无法注入spring对象

一般情况下&#xff0c;quartz的job中使用autowired注解注入的对象为空&#xff0c;这时候我们就要使用spring-quartz提供的AdaptableJobFactory类。 自定义一个类: [java] view plaincopy public class JobFactory extends AdaptableJobFactory { Autowired …

谷歌Chrome浏览器如何开启无痕模式 Chrome浏览器无痕模式开启方法

在访问一些特殊网站时&#xff0c;许多人都会开启浏览器自带的无痕模式&#xff0c;以免除一些不必要的麻烦。那么&#xff0c;谷歌Chrome浏览器要如何开启无痕模式呢?不清楚操作方法的朋友&#xff0c;不妨参考一下小编分享的Chrome浏览器无痕模式开启方法。 方法步骤 点击…