hbase 单机连接hadoop_Hadoop、Hbase单机环境安装

1. Hadoop安装

1.1 HDFS配置

fs.defaultFS

hdfs://localhost:9000

hadoop.tmp.dir

file:/home/local/data/hadoop/tmp

dfs.replication

1

dfs.namenode.name.dir

file:/home/local/data/hadoop/tmp/dfs/name

dfs.datanode.data.dir

file:/home/local/data/hadoop/tmp/dfs/data

编辑Hadoop下etc/hadoop/hadoop-env.sh,指定JAVA_HOME环境变量(可选)

#export JAVA_HOME=${JAVA_HOME}

export JAVA_HOME=/home/local/jdk1.8.0_231

1.2 HDFS启动

格式化文件系统,执行Hadoop下bin/hdfs

sh hdfs namenode -format

启动hdfs文件系统,执行Hadoop下sbin/start-dfs.sh

sh start-dfs.sh

1.3 HDFS验证

控制台输入jps,检查 DataNode、NameNode、SecondaryNameNode、NodeManager、ResourceManager这几个进程是否启动

18642 SecondaryNameNode

18793 Jps

1835 HMaster

18475 DataNode

18349 NameNode

打开Hadoop WebUI 默认端口50070后,访问该地址

firewall-cmd --zone=public --add-port=50070/tcp --permanent

firewall-cmd --reload

1.3 HDFS Yarn资源管理模块(可选)

mapreduce.framework.name

yarn

yarn.nodemanager.aux-services

mapreduce_shuffle

sh start-yarn.sh

打开Hadoop yarn 默认端口8088后,访问该地址

firewall-cmd --zone=public --add-port=8088/tcp --permanent

firewall-cmd --reload

2. HBase安装

hbase.rootdir

hdfs://localhost:9000/hbase

hbase.cluster.distributed

true

The mode the clusterwill be in. Possible values are

false: standalone and pseudo-distributedsetups with managed Zookeeper

true: fully-distributed with unmanagedZookeeper Quorum (see hbase-env.sh)

hbase.zookeeper.property.dataDir

/home/local/data/zookeeper

修改hbase conf目录下hbase-env.sh,使用hbase自己维护的 zookeeeper

# Tell HBase whether it should manage it's own instance of Zookeeper or not.

export HBASE_MANAGES_ZK=true

3. 配置环境变量

# 编辑/etc/profile文件,增加HBase配置

vim /etc/profile

# 增加以下配置

# hbase

export HBASE_HOME=/home/local/hbase-1.4.11

export PATH=$PATH:$HBASE_HOME/bin

# Hadoop

export HADOOP_HOME=/home/local/hadoop-2.7.7

export PATH=$PATH:$HADOOP_HOME/bin

4. 配置SSH的免key登陆

ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

chmod 0600 ~/.ssh/authorized_keys

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/328563.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

高效的SQLSERVER分页查询

Sqlserver数据库分页查询一直是Sqlserver的短板,闲来无事,想出几种方法,假设有表ARTICLE,字段ID、YEAR...(其他省略),数据53210条(客户真实数据,量不大),分页查询每页30条,查询第1500页&#xf…

Java中classLoader浅析

转载自 Java中classLoader浅析本文为在公司内部TD上写的一篇小文, 主要讲解java中classLoader基础知识, 现在拿来这里分享一下. 一、问题 请在Eclipse中新建如下类,并运行它: package java.lang;public class Long {public static void main(String[] …

微软BUG Bounty悬赏项目扩展至.NET Core和ASP.NET Core

微软宣布自 2016 年 9 月 1 日开始将 .NET Core 和 ASP.NET 纳入到 BUG Bounty 悬赏项目范围内,微软将会为 Windows 和 Linux 平台上的两个编程代码提供漏洞悬赏。 微软公布的细节中写道: 微软将会为、最新微软 .NET Core 和 ASP.NET Core 的最新 RTM 版…

计算字典的个数_[LeetCode] 440. 字典序的第K小数字

题目链接: https://leetcode-cn.com/problems/k-th-smallest-in-lexicographical-order难度:困难通过率:28.4%题目描述:给定整数 n 和 k,找到 1 到 n 中字典序第 k 小的数字。注意:1 ≤ k ≤ n ≤ 109。示例:**输入:**…

ASP.NET Core开发-Docker部署运行

ASP.NET Core开发Docker部署,.NET Core支持Docker 部署运行。我们将ASP.NET Core 部署在Docker 上运行。 大家可能都见识过Docker ,今天我们就详细了解一下Docker的用途,以及真实的应用场景。 Docker源于PaaS,PaaS的应用场景即是D…

java异常捕获的一点感悟

转载自 java异常捕获的一点感悟 class Annoyance extends Exception {} class Sneeze extends Annoyance {} class Human { public static void main(String[] args) throws Exception { try { try { throw new Sneeze(); } catch ( Annoyance a ) { System.out…

android修改机型cpu,mac,androidid....

https://blog.csdn.net/yyy_bbb_lll/article/details/80734881 android 改机,抹机工具开发 一 2018年06月19日 16:43:40 阅读数:865 本工具以Xposed框架为基础,实现了改机软件所需的大部分功能。先贴界面图: 设备基本信息的显示…

data layui table 排序_浅谈layui中table的sort排序

table模块是layui框架最核心的组成之一,它用于对表格进行一些列功能和动态化数据操作,本文介绍了layui中table的sort排序,解决了在我们使用sort排序时可能遇到的一些问题。今天来谈谈table sort的那点事。预告一下,目的是做到前台…

gRPC C#学习

前些天gRPC 发布1.0 版本,代表着gRPC 已经正式进入稳定阶段。 今天我们就来学习gRPC C# 。而且目前也已经支持.NET Core 可以实现完美跨平台。 传统的.NET 可以通过Mono 来实现跨平台调用。 GitHub: https://github.com/grpc/grpc gRPC 简单介绍&#x…

Java日期及时间库插件 -- Joda Time.

转载自 Java日期及时间库插件 -- Joda Time.来到新公司工作也有一个多月了, 陆陆续续做了一些简单的项目. 今天做一个新东西的时候发现了 Joda Time的这个东西, 因为以前用的都是JDK原生的时间处理API, 大家都知道Java原生的时间处理的API一直都是不太好用, 所以这个有必要去…

电商校招指导

https://www.imooc.com/article/19998 https://www.imooc.com/article/18998 鼓励大家多总结 有道笔记可以记录下来 多年总结的 平时要多总结 https://www.imooc.com/article/19094 温馨tips: 校招的要求会比社招低很多,大家要把握好机会。因为校招…

大咖开讲:一小时学会.NET MVC开发的那些事儿

许多ASP.NET开发人员开始接触MVC认为MVC与ASP.NET完全没有关系,是一个全新的Web开发,事实上ASP.NET是创建WEB应用的框架,而MVC是能够用更好的方法来组织并管理代码的一种更高级架构体系。我们可将原来的ASP.NET称为ASP.NET Webform&#xff0…

HashMap的实现原理及其特点

HashMap的实现原理及其特点 2018年03月15日 20:43:08 阅读数:11045更多 个人分类: Java基础知识点 版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/lovewebeye/article/details/79573702 1) Hash…

重写equals就必须重写hashCode的原理分析

转载自 重写equals就必须重写hashCode的原理分析因为最近在整理Java集合的源码, 所以今天再来谈谈这个古老的话题,因为后面讲HashMap会用到这个知识点, 所以重新梳理下。如果不被重写(原生Object)的hashCode和equals是…

mysql unique count_MySQL - Count Number of Unique Values

问题If I have three columns:orderNumber, name, emailand I would like to count how many unique emails are in the table how would I go about doing so?A statement like:SELECT count(email) FROM ordersgives me the total count.I tried SELECT DISTINCT count(emai…

如何在 ASP.NET MVC 中集成 AngularJS(2)

在如何在 ASP.NET MVC 中集成 AngularJS(1)中,我们介绍了 ASP.NET MVC 捆绑和压缩、应用程序版本自动刷新和工程构建等内容。 下面介绍如何在 ASP.NET MVC 中集成 AngularJS 的第二部分。 ASP.NET 捆绑和压缩 CSS 和 JavaScript 的捆绑与压缩功能是 ASP.NET MVC 最流…

bean交个spring和new比较区别

在spring的配置文件中我们要使用DataSource这个对吧 这个bean将会被多个bean引用 通过ref"dateSource"这个引用 当我们要修改这个只要修改引用就好了 不需要修改很多了 主要是解耦 比如你有一个A类 在好几个类里边要调用到A的方法 new的话就要在每个类里都new…

什么是中间件

转载自 什么是中间件什么是中间件? 中间件就是程序中可织入的,可重用的,与业务逻辑无关的各种组件。中间件( middleware )是基础软件的一大类,属于可复用软件的范畴。顾名思义,中 间件处于操作…

guid判断是否有效_让我们一起啃算法----有效的括号

有效括号(Valid-Parentheses)题干如下:给定一个只包括 ‘(‘,’)’,’{‘,’}’,’[‘,’]’ 的字符串,判断字符串是否有效。有效字符串需满足:1.左括号必须用…

小白科普:从输入网址到最后浏览器呈现页面内容,中间发生了什么?

转载自 小白科普:从输入网址到最后浏览器呈现页面内容,中间发生了什么? 1、前言 这篇文章是应网友之邀所写,主要描述一下我们访问网站时, 从输入网址到最后浏览器呈现内容,中间发生了什么。 之前写过两…