大数据开发环境的安装，配置（Hadoop）

1. 三台linux服务器的安装

1. 安装VMware

  • VMware虚拟机软件是一个“虚拟PC”软件，它使你可以在一台机器上同时运行二个或更多Windows、DOS、LINUX系统。与“多启动”系统相比，VMWare采用了完全不同的概念。

  • 我们可以通过VMware来安装我们的linux虚拟机，然后通过linux虚拟机来进行集群的安装，VMware的安装双击之后，一路下一步即可，尽量不要装在操作系统盘里面了，VMware的安装步骤省略

2. 通过Vmware安装第一台linux机器(种子机)

  • 我们通过Vmware可以安装第一台我们的linux机器，接下来我们来看如何通过VMWare创建linux虚拟机，并给我们的虚拟机挂载操作系统

1：双击Vmware打开之后，点击创建新的虚拟机

2：选择自定义安装配置

3：选择稍后安装操作系统

4：选择稍后安装操作系统

5：选择安装路径，==尽量不要放在系统盘(默认是C盘)，并且所在盘符的剩余空间尽量大些==

6：CPU核数，默认即可

7：虚拟机内存根据自身windows电脑进行调整

例如如果windows是8GB内存，那么每台虚拟机内存给2048M内存，如果windows是16GB没存，那么每台虚拟机可以给3072M内存即可

8：网络配置一定要选择NAT

9：磁盘大小尽量给40GB

注意：千万==不要==勾选“立即分配所有磁盘空间”

10：完成

3. 为我们创建的linux虚拟机挂载操作系统

  • 我们现在已经有了一台虚拟电脑了，就类似我们刚刚买了一台电脑回来，只不过不同的是我们这台虚拟电脑还没有操作系统我们需要为这台电脑挂在操作系统出来

1：通过设置来挂载操作系统

2：直接回车开始安装

用键盘的方向键，选中“Install CentOS 7”,然后按回车，开始安装

再按回车键

3：设置键盘为英文键盘

4：接下来配置这三项

（1）设置①时区为Asia/Shanghai

（2）设置②INSTALATION DESTINATION

（3）设置③NETWORK & HOST NAME

5：设置root用户密码

6：安装完成之后重启reboot即可

此过程稍长，耐心等待

4. 为我们的linux虚拟机设置网络配置

  • 我们的linux虚拟机已经创建并挂载好了操作系统，接下来我们可以为我们的第一台虚拟机来设置网络地址了，设置网络地址比较麻烦，尽量一步步的操作

1：设置虚拟机的网段

2：查看==NAT模式==的网关，子网IP以及子网掩码

3：设置window当中的VMNet8网络地址

4：设置linux当中的网络

编辑配置文件

vi /etc/sysconfig/network-scripts/ifcfg-ens33

添加联网四要素

IPADDR=192.168.51.100
NETMASK=255.255.255.0
GATEWAY=192.168.51.1
DNS1=8.8.8.8

具体参考下图

更改完成配置，重启网络服务

systemctl restart network

安装一些常用的软件

yum -y install vim
yum -y install net-tools

关机

init 0

5. 克隆第一台机器--->种子机要处于关机状态

  • 现在我们已经有了种子机器了，我们可以通过种子机器进行复制或者克隆出三台机器

  • 关闭linux种子机器，然后准备进行克隆

选择创建完整克隆

6. 更改克隆机器的IP地址(跟咱们的网关，子网IP，ip地址，种子机IP，前三位保持一致，最后一位，各不相同)

  • 三台机器的ip地址分别是192.168.51.100、192.168.51.110、192.168.51.120

  • 克隆出来的机器IP地址与种子的ip地址一样，我们将第二台机器的IP地址更改为192.168.51.110即可

  • 启动虚拟机，并通过root用户，密码123456来进行登录，然后来更改linux机器的IP地址

vi /etc/sysconfig/network-scripts/ifcfg-ens33
IPADDR=192.168.51.110
NETMASK=255.255.255.0
GATEWAY=192.168.51.1
DNS1=8.8.8.8

  • 依照上面步骤，接着克隆第三台机器，并将第三台机器的IP地址设置为

    192.168.51.120

建议：三台机器准备好后，打个快照，便于出错后恢复

systemctl restart network

2. 安装大数据集群前的环境准备
1. 三台虚拟机关闭防火墙

三台机器执行以下命令（root用户来执行） 

systemctl stop firewalld   
systemctl disable firewalld
systemctl status firewalld

2. 三台机器关闭selinux

三台机器执行以下命令关闭selinux

vi /etc/sysconfig/selinux
SELINUX=disabled

3. 三台机器更改主机名

三台机器执行以下命令更改主机名

vi /etc/hostname

第一台机器更改内容

node01.itheima.com

第二台机器更改内容

node02.itheima.com

第三台机器更改内容

node03.itheima.com

4. 三台机器做主机名与IP地址的映射

三台机器执行以下命令更改主机名与IP地址的映射

vi /etc/hosts

192.168.51.100 node01.itheima.com node01
192.168.51.110 node02.itheima.com node02
192.168.51.120 node03.itheima.com node03

==注意：根据自己的实际情况，修改ip地址==

5. 三台机器时钟同步
第一种同步方式：通过网络进行时钟同步

通过网络连接外网进行时钟同步,必须保证虚拟机连上外网

三台机器都安装ntpdate

yum -y install ntpdate

阿里云时钟同步服务器

ntpdate ntp4.aliyun.com

三台机器定时任务

crontab -e

添加如下内容

*/1 * * * * /usr/sbin/ntpdate ntp4.aliyun.com;
第二种同步方式：内网某机器作为时钟同步服务器(推荐)

以下操作都在root用户下面执行，通过su root切换到root用户

以192.168.51.100这台服务器的时间为准进行时钟同步

第一步:三台机器确定是否安装了ntpd的服务

三台机器确认是否安装ntpdate时钟同步工具

rpm -qa | grep ntpdate

如果没有安装,三台机器执行以下命令可以进行在线安装

yum -y install ntpdate

node01安装ntp

yum -y install ntp

三台机器，执行以下命令，设置时区为中国上海时区

timedatectl set-timezone Asia/Shanghai
第二步：node01启动ntpd服务

我们需要启动node01的ntpd服务，作为服务端，对外提供同步时间的服务

启动ntpd的服务

#启动ntpd服务
systemctl start ntpd#设置ntpd服务开机启动
systemctl enable ntpd

第三步：修改node01服务器配置

修改node01这台服务器的时钟同步配置，允许对外提供服务

vim /etc/ntp.conf

添加以下两行内容

# 同意192.168.51.0网段（修改成自己的网段）的所有机器与node01同步时间
restrict 192.168.237.0 mask 255.255.255.0 nomodify notrap
server 127.127.1.0

注释掉以下这四行内容

#server 0.centos.pool.ntp.org iburst
#server 1.centos.pool.ntp.org iburst
#server 2.centos.pool.ntp.org iburst
#server 3.centos.pool.ntp.org iburst

修改完成之后，重启node01的ntpd服务

systemctl restart ntpd

至此，ntpd的服务端已经安装配置完成，接下来配置客户端与服务端进行同步

第四步：配置node02与node03同步node01的时间

客户端node02与node03设置时区与node01保持一致Asia/Shanghai

node02与node03修改配置文件，保证每次时间写入硬件时钟

vim /etc/sysconfig/ntpdate
SYNC_HWCLOCK=yes

node02与node03修改定时任务，定时与node01同步时间

[root@node03 hadoop]# crontab -e

增加如下内容

*/1 * * * * /usr/sbin/ntpdate node01

6. 三台机器添加普通用户

三台linux服务器统一添加普通用户hadoop，并给以sudo权限，用于以后所有的大数据软件的安装

并统一设置普通用户的密码为 ==123456==

useradd hadoop
passwd hadoop

普通用户的密码设置为123456

三台机器为普通用户添加sudo权限

visudo

增加如下内容

## Allow root to run any commands anywherehadoop    ALL=(ALL)       ALL
7. 三台定义统一目录

定义三台linux服务器软件压缩包存放目录，以及解压后安装目录，三台机器执行以下命令，创建两个文件夹，一个用于存放软件压缩包目录，一个用于存放解压后目录

mkdir -p /itheima/soft   # 软件压缩包存放目录
mkdir -p /itheima/install # 软件解压后存放目录
chown -R hadoop:hadoop /itheima  # 将文件夹权限更改为hadoop用户

权限高的用户完全可以操作权限低的用户所拥有的的目录或者文件

创建hadoop用户之后，我们三台机器都通过hadoop用户来进行操作，以后再也不需要使用root用户来操作了

三台机器通过 su hadoop命令来切换到hadoop用户

su hadoop

8. 三台机器hadoop用户免密码登录

重启下3个linux虚拟机，让主机名生效

重启命令：reboot -h now

第一步：三台机器在相同用户下执行以下命令生成公钥与私钥

ssh-keygen -t rsa

执行上述命令之后，按三次Enter键即可生成了

第二步：三台机器在相同用户下，执行命令拷贝公钥到node01,node02,node03服务器

ssh-copy-id node01
ssh-copy-id node02
ssh-copy-id node03

第三步：验证；从任意节点是否能免秘钥登陆其他节点；如node01免密登陆node02

ssh node02

注意：如果免密登录失败，三台机器：(1)root用户下，cd /root/.ssh (2)hadoop用户下，进入到 cd /home/hadoop/.ssh/，删除.ssh目录下的所有文件,重新生成公钥私钥，重新分发公钥

9. 三台机器关机重启

三台机器在hadoop用户下执行以下命令，实现关机重启

sudo reboot -h now
su root

10. 三台机器安装jdk

  • 使用hadoop用户来重新连接三台机器，然后使用hadoop用户来安装jdk软件

  • 上传压缩包到第一台服务器的/itheima/soft下面，然后进行解压，配置环境变量即可，三台机器都依次安装即可

  • 上传下载rz sz安装：yum -y install lrzsz 压缩包大于40G的话，可能没法用rz上传。

cd /itheima/soft/
tar -zxvf jdk-8u141-linux-x64.tar.gz -C /itheima/install/
sudo vim /etc/profile
#添加以下配置内容，配置jdk环境变量
export JAVA_HOME=/itheima/install/jdk1.8.0_141
export PATH=$PATH:$JAVA_HOME/bin

让修改马上生效

source /etc/profile

建议：三台机器准备好后，打个快照，便于出错后恢复

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mzph.cn/diannao/81012.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

多模态大语言模型arxiv论文略读（四十九）

多模态大语言模型arxiv论文略读（四十九）

When Do We Not Need Larger Vision Models? ➡️ 论文标题：When Do We Not Need Larger Vision Models? ➡️ 论文作者：Baifeng Shi, Ziyang Wu, Maolin Mao, Xin Wang, Trevor Darrell ➡️ 研究机构: UC Berkeley、Microsoft Research ➡️ 问题背…
阅读更多...
【深度学习与大模型基础】第14章-分类任务与经典分类算法

【深度学习与大模型基础】第14章-分类任务与经典分类算法

Part 1：什么是分类任务？ 1.1 分类就是“贴标签” 想象你有一堆水果，有苹果🍎、橘子🍊、香蕉🍌，你的任务是让机器学会自动判断一个新水果属于哪一类——这就是分类（Classification&…
阅读更多...
LeetCode 2906 统计最大元素出现至少K次的子数组（滑动窗口）

LeetCode 2906 统计最大元素出现至少K次的子数组（滑动窗口）

给出一个示例： 输入：nums [1,3,2,3,3], k 2 输出：6 解释：包含元素 3 至少 2 次的子数组为：[1,3,2,3]、[1,3,2,3,3]、[3,2,3]、[3,2,3,3]、[2,3,3] 和 [3,3] 。该题也是一个比较简单的滑动窗口的题目，但是…
阅读更多...
使用 Spring Boot 进行开发

使用 Spring Boot 进行开发

✨ 使用 Spring Boot 进行开发 ✨ 📌 本节将深入介绍如何高效使用 Spring Boot，涵盖以下核心主题： 1️⃣ 🔧 构建系统 深入了解 Spring Boot 的项目结构和依赖管理 2️⃣ ⚙️ 自动配置 探索 Spring Boot 的自动化配置机制和原…
阅读更多...
Qt的WindowFlags窗口怎么选？

Qt的WindowFlags窗口怎么选？

Qt.Dialog: 指示窗口是一个对话框，这通常会改变窗口的默认按钮布局，并可能影响窗口框架的样式。Qt.Popup: 指示窗口是一个弹出式窗口（例如菜单或提示），它通常是临时的且没有任务栏按钮。Qt.Tool: 标识窗口作为一个工具…
阅读更多...
Redis高可用架构全解析：主从复制、哨兵模式与集群实战指南

Redis高可用架构全解析：主从复制、哨兵模式与集群实战指南

Redis高可用架构全解析：主从复制、哨兵模式与集群实战指南 引言 在分布式系统架构中，Redis作为高性能内存数据库的标杆，其高可用与扩展性设计始终是开发者关注的焦点。本文将深入剖析Redis的三大核心机制——主从复制、哨兵模式与集群架构&…
阅读更多...
音视频之H.265/HEVC网络适配层

音视频之H.265/HEVC网络适配层

H.265/HEVC系列文章： 1、音视频之H.265/HEVC编码框架及编码视频格式 2、音视频之H.265码流分析及解析 3、音视频之H.265/HEVC预测编码 4、音视频之H.265/HEVC变换编码 5、音视频之H.265/HEVC量化 6、音视频之H.265/HEVC环路后处理 7、音视频之H.265/HEVC熵编…
阅读更多...
element-plus(vue3)表单el-select下拉框的远程分页下拉触底关键字搜索实现

element-plus(vue3)表单el-select下拉框的远程分页下拉触底关键字搜索实现

一、基础内核-自定义指令 1.背景 2.定义 3.使用 4.注意 当编辑时需要回显，此时由于分页导致可能匹配不到对应label文本显示，此时可以这样解决 二、升级使用-二次封装组件 三、核心代码 1.自定义指令 定义 ----------------selectLoadMoreDirective.…
阅读更多...
大内存生产环境tomcat-jvm配置实践

大内存生产环境tomcat-jvm配置实践

话不多讲，奉上代码，分享经验，交流提高！ 64G物理内存,8核CPU生产环境tomcat-jvm配置如下： JAVA_OPTS-server -XX:MaxMetaspaceSize4G -XX:ReservedCodeCacheSize2G -XX:UseG1GC -Xms48G -Xmx48G -XX:MaxGCPauseMilli…
阅读更多...
C++函数模板基础

C++函数模板基础

1 函数模板 1.1 基础介绍 函数模板是一种特殊的函数定义，它允许你创建通用的函数，这些函数可以处理多种不同的数据类型，而不需要为每种数据类型都编写一个单独的函数。 在 C++ 里，函数模板的格式包含模板声明与函数定义两部分，其基本格式如下： template <typename…
阅读更多...
mangodb的数据库与集合命令，文档命令

mangodb的数据库与集合命令，文档命令

MongoDB的下载安装与启动&#xff0c; 一、MongoDB下载安装 1. 官网下载 打开官网&#xff1a;https://www.mongodb.com/try/download/community选择&#xff1a; 版本&#xff08;Version&#xff09;&#xff1a;选最新版或者根据需要选旧版。平台&#xff08;OS&#xff0…
阅读更多...
flink端到端数据一致性

flink端到端数据一致性

这里有一个注意点&#xff0c;就是flink端的精准一次 1.barrier对齐精准和一次非对齐精准一次 对比​​ ​​维度​​​​Barrier 对齐的精准一次​​​​Barrier 非对齐的精准一次​​​​触发条件​​需等待所有输入流的 Barrier 对齐后才能触发检查点 收到第一个 Barrier …
阅读更多...
4月29号

4月29号

级别越大,字体越小. CSS样式控制: 例如把日期设为灰色字体
阅读更多...
PHP代码-服务器下载文件页面编写

PHP代码-服务器下载文件页面编写

内部环境的服务资源下载页面有访问需求&#xff0c;给开发和产品人员编写一个简洁的下载页面提供资源下载。直接用nginxphp的形式去编写了&#xff0c;这里提供展示index.php文件代码如下&#xff1a; <?php // 配置常量 define(BASE_DIR, __DIR__); // 当前脚本所在目录作…
阅读更多...
MySQL基础关键_001_认识

MySQL基础关键_001_认识

目 录 一、概述 1.数据库&#xff08;DB&#xff09;分类 &#xff08;1&#xff09;关系型数据库 &#xff08;2&#xff09;非关系型数据库 2.数据库管理系统&#xff08;DBMS&#xff09; 3.SQL &#xff08;1&#xff09;说明 &#xff08;2&#xff09;分类 二、…
阅读更多...
Shell、Bash 执行方式及./ 执行对比详解

Shell、Bash 执行方式及./ 执行对比详解

Shell、Bash 执行方式及./ 执行对比详解 在 Linux 和 UNIX 系统的使用过程中&#xff0c;Shell 脚本是实现自动化任务、系统管理的重要工具。而在执行 Shell 脚本时&#xff0c;我们常常会用到bash命令以及./的执行方式&#xff0c;这两种执行方式看似相似&#xff0c;实则存在…
阅读更多...
P1494 [国家集训队] 小 Z 的袜子 Solution

P1494 [国家集训队] 小 Z 的袜子 Solution

Description 给定序列 a ( a 1 , a 2 , ⋯ , a n ) a(a_1,a_2,\cdots,a_n) a(a1​,a2​,⋯,an​)&#xff0c;有 q q q 次查询&#xff0c;每次查询给定 ( l , r ) (l,r) (l,r). 你需要求出 2 ∑ i ≤ i < j ≤ r [ a i a j ] ( r − l ) ( r − l 1 ) \dfrac{2\sum…
阅读更多...
解决vue3 路由query传参刷新后数据丢失的问题

解决vue3 路由query传参刷新后数据丢失的问题

前言&#xff1a;在页面刷新的时候&#xff0c;路由query数据会被清空&#xff0c;网上很多方法说query传参可以实现&#xff0c;反正我是没有实现 思路&#xff1a;将数据保存到本地&#xff0c;通过 “ &#xff1f;” 进行判断是否有数据&#xff0c;页面销毁的时候删除本地…
阅读更多...
IIC小记

IIC小记

SCL 时钟同步线&#xff0c;由主机发出。 当SCL为高电平&#xff08;逻辑1&#xff09;时是工作状态&#xff0c;低电平&#xff08;逻辑0&#xff09;时是休息状态。SCL可以控制通信的速度。 SDA 数据收发线 应答位&#xff1a;前八个工作区间是一个字节&#xff0c;在SCL…
阅读更多...
Linux[开发工具]

Linux[开发工具]

vim(多模式编辑器) vim是一个多模式的编译器!!命令模式是核心 vim 文件名 (数字)(进入编辑,光标处在第几行) esc切换模式 shift; >:(:wq保存并退出) 命令模式: 键盘的输入,默认被当做命令来看待 gg:光标快速定位到最开始 shiftgG:股那个表快速定位到最结尾 nshiftgG:光标…
阅读更多...
最新文章

Copyright @ 2022~2023