深入解析:大数据集群环境搭建(Ubantu)

news/2025/11/7 12:07:11/文章来源:https://www.cnblogs.com/gccbuaa/p/19199296

目录

单机、分布式、集群简介

单机模式

分布式模式

集群模式

负载均衡解释

集群架构

集群环境搭建

修改主机名和IP

主机名和IP映射配置

关闭防火墙服务

集群机器之间实现免密登录

集群时间同步


​​​​​​​单机、分布式、集群简介

单机模式

所有业务都集成在一台服务器上面。

分布式模式

多台不同的服务器中部署不同的服务模块,通过远程调用协同工作,对外提供服务。

(多台服务器集中在一起,每台服务器都实现总体中的不同业务。)

集群模式

多台不同的服务器中部署相同应用或服务模块,构成集群,通过负载均衡设备对外提供服务

(将分布式模式分出的单个业务又由多台服务器来做,多台服务器在一起做同样的事。)

负载均衡解释

将网络流量或计算任务合理地分配到多个服务器、进程或 资源上,以避免单一节点过载。解决集群模式的服务器分配问题,让用户的请求合理分配到不同服务器上。

集群架构

主从架构

主角色:master、leader

从角色:slave、follwer

主从角色各司其职,需要共同配合对外供应服务,常见一主多从

主备架构

主角色:active

备角色:standby

首要解决单点故障问题,保证业务的持续可用性,常见一主一备,也可一主多备

集群环境搭建

修改主机名和IP

为什么要这么做?

确保集群网络的稳定性和可管理性

注意:集群中的虚拟机都要设置,网关一致,DNS一致,静态IP网段必须一致但最后一段数字必须不一致。

ok,开始修改↓↓↓

修改主机名(命令修改只能临时生效,重启无效,需修改配置文件重启可永久生效)

sudo vim /etc/hostname

这里我的主机名分别为node1和node2

修改成静态IP
①进入到文件中

cd /etc/netplan/   (ubantu18以上)
sudo vim 01-network-manager-all.yaml

②修改成以下内容(严格缩进

network:version: 2renderer: networkd  # 或者使用 NetworkManager,图形界面下推荐使用 NetworkManagerethernets:ens33:  # 你的网卡名称,根据实际情况修改dhcp4: no  # 关闭 IPv4 动态分配,设置为静态addresses: [192.168.88.100/24]  # 你想要设置的静态 IP 地址和子网掩码,/24 表示子网掩码为 255.255.255.0,IP 地址要确保和局域网内其他设备不冲突gateway4: 192.168.88.2  # 网关地址,根据实际情况修改nameservers:addresses: [8.8.8.8, 114.114.114.114]  # DNS 服务器地址,可使用公共 DNS,也可以使用你所在网络提供的 DNS

③使配置生效并检查

sudo netplan apply  #让配置生效

查看网卡名称和ip地址(一个静态ip,一个动态ip):ip addr

查看网关地址:ip route

测试外部网络 DNS 解析和连通性:ping www.baidu.com

④结束集群中所有虚拟机的修改后,测试节点间的连通性

测试节点间通信:执行 ping 192.168.88.100(我的node2 的 IP)

主机名和IP映射配置

为什么要这么做?

集群节点间能依据主机名通信

没配置也能通过主机名通信?

手动配置 /etc/hosts 文件是一种通用且标准的做法,不受网络环境变化、虚拟机软件变动等因素影响。不管是在校园网、公司内网,还是其他网络环境下,只要在每台虚拟机的 /etc/hosts 文件中正确添加所有节点的主机名与 IP 映射,就能确保集群内节点始终可以通过主机名进行稳定通信。所以从稳定性和兼容性考虑,建议手动配置。

ok,开始配置↓↓↓

①进入记录中

sudo vim /etc/hosts

②添加主机名与 IP 映射(同样,集群中的虚拟机都得配置)

192.168.88.100 node2

192.168.88.101 node1

(通常添加在资料末尾)

③验证

ping node2   #ping 主机名

#④如果在Windows上做开发,也得修改hosts资料

目录C:\Windows\System32\drivers\etc下的hosts文件,添加主机名与IP映射(第②步)

(通常放在所有安装的最前面)

关闭防火墙服务

为什么要这么做?

关闭ufw:大数据集群(如 Hadoop、Spark)的节点间需要通过大量端口进行通信,而防火墙会默认拦截集群内节点间的端口通信,使通信受阻。

为了方便使用者快速搭建环境,避免因为防火墙拦截导致的网络通信问题,很多学习用途的镜像都会预先关闭防火墙,学习者不需要再操作。

关闭SElinux:SELinux 默认的安全策略可能会限制这些管理,导致组件无法正常访问所需的资源,进而使集群启动失败或者功能异常

不安装 SELinux 的,一般不需要专门去关闭它就是Ubantu系统 默认

ok,开始关闭↓↓↓

①查看防火墙状态

sudo ufw status   # ufw是ubantu常用防火墙工具

②彻底禁用防火墙服务(防止重启后自动开启)

#临时关闭(立即生效,重启后恢复),但我们暂时需要彻底关闭
sudo ufw disable

# 停止防火墙服务
sudo systemctl stop ufw
# 禁止开机自启
sudo systemctl disable ufw

集群机器之间实现免密登录

原理

操作(主机自己和自己也需要打通免密登录)

ssh 主机名

#yes

了解跳板机(堡垒机):作用是提高安全性

跨机远程拷贝文件

# 本地文件 拷贝到 远程机器
scp [本地文件路径] [远程用户]@[远程IP或主机名]:[远程目标路径]

# 远程资料 拷贝到 本地
scp [远程用户]@[远程IP或主机名]:[远程文件路径] [本地目标路径]

例:scp -r /home/hadoop/data hadoop@node2:/home/hadoop/ # 拷贝整个 data 目录

集群时间同步

为什么要这么做?

在大数据集群中,时间同步非常重点,因为很多组件的日志记录、任务调度等功能都依赖准确一致的时间。如果集群中各节点时间不一致,可能会导致数据不一致、任务调度失败等困难。
常用的时间同步工具是ntp(Network Time Protocol,网络时间协议)

ok,开始配置↓↓↓

①安装ntp服务

sudo apt-get update

sudo apt-get install ntp

②配置ntp服务器

#打开ntp的配置文件/etc/ntp.conf

sudo vim /etc/ntpsec/ntp.conf
#在文件中添加或修改server行,指定要同步的时间服务器,例如使用阿里云的公共 NTP 服务器

server ntp.aliyun.com iburst

③重启ntp服务

sudo systemctl restart ntp

④验证时间同步

#可以使用ntpq -p命令查看 ntp 服务器的连接状态和同步情况

ntpq -p

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/958711.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Unity Shader 入门教程:从零开始编写你的第一个 Shader

光照模型是 Shader 编程的核心部分,它决定了物体表面如何与光线交互,从而影响最终的视觉效果。在 Unity 中,常见的光照模型包括 Lambert 漫反射模型、Phong 高光反射模型 和 Blinn-Phong 模型。 本文将详细介绍这些…

中电金信​​:「AI智变」这个AI自动化工厂,助力模型高质效落地

智能化时代,AI如同“超级大脑” 能洞察趋势、提效流程、优化决策 但在实际部署中 它却常常像“孤岛上的天才” 能力很强,却难以落地某企业AI研发部门 临近模型产品交付上线 👇👇👇你们缺少的是一座“AI自动化工…

实用指南:Linux内核架构浅谈2- Linux内核与硬件交互的底层逻辑:硬件抽象层的作用

pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", …

2025年有机纯驼奶粉加工厂权威推荐榜单:初乳配方驼乳粉/全脂羊奶粉/绵羊奶粉源头厂家精选

随着健康消费理念的普及,驼奶作为营养价值较高的乳制品之一,近年来受到越来越多消费者的关注。全球驼奶市场规模预计从2023年的102.3亿美元增长至2033年的187.2亿美元,年复合增长率约为6.2%。在这一增长趋势下,有机…

2025年网络安全法要求下,主流项目管理工具如何选

在2025年《网络安全法》修订案正式落地的背景下,数据安全合规已成为企业选型项目管理工具的“生死线”——新规将关键信息基础设施运营者违规罚款上限提至1000万元,数据泄露等严重后果的处罚力度较此前提升10倍。本文…

转录组基因表达差异分析全流程:以GSE65682为例

在转录组分析中,差异分析是必不可少的一步。那什么是差异分析呢?差异分析的结果又该怎么解读?以《GEO数据库转录组芯片数据处理与R分析:以GSE65682为例》一文中的数据集(GSE65682)为例,今天就让我们一起来深入了…

英伟达DCGM说明和安装

1.显卡支持情况 查阅网站:https://docs.nvidia.com/datacenter/dcgm/latest/user-guide/feature-overview.html2.每个level所支持的测试内容 查阅网站:https://docs.nvidia.com/datacenter/dcgm/latest/user-guide/f…

阿卡德付费文章:让每个普通人的知识,都能变成真金白银

阿卡德付费文章:让每个普通人的知识,都能变成真金白银“我就会做点家常菜,这也能赚钱?”“我整理的考试笔记,真有人愿意花钱买?” 过去,很多普通人总觉得 “知识变现” 是专家、大 V 的专利,自己手里那些零散的…

Mysql杂志(三十)——索引失效情况 - 指南

Mysql杂志(三十)——索引失效情况 - 指南pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "…

84用python命令查看安装了那些库

import pkg_resourcesfor dist in pkg_resources.working_set:print(dist.project_name, dist.version)

84用python命令查看安装了那些库

import pkg_resourcesfor dist in pkg_resources.working_set:print(dist.project_name, dist.version)

使用NIFI 同步数据库表

使用NIFI 同步数据库表1.概述 我现在数据库发生变化后,希望实时同步到 另外的一个数据库库,当然能做数据库同步,也可以将数据同步到消息队列或其他的数据库进行备份。 2.实现过程 本次使用NIFI 组要使用了数据源 Ca…

2025年尖顶篷房生产厂家权威推荐榜单:球形篷房/多边形篷房/会展篷房源头厂家精选

在户外展览、体育赛事与工业仓储等领域,尖顶篷房凭借其灵活的结构与强环境适应性,已成为临时建筑空间的重要选择。行业数据显示,2024年国内篷房市场规模增长率稳定在15%左右,其中尖顶、球形与多边形等异形篷房需求…

手把手教你在unity中实现一个视觉小说系统(一)

本期基本功能- 打字机效果,单击后全部显示、第二次点击后出现下一句 - 分支跳转:Choice、JumpTo - log历史记录 - 自动播放auto与速度调节 - skip到下一个分歧点 - speaker高亮(非speaker半透明黑色显示)、清除立绘…

2025 年 1688 店铺代运营品牌最新推荐排行榜,专业机构实力测评及高性价比选择指南

引言 随着 B2B 电商市场渗透率突破 35%,1688 平台年交易额已超 4 万亿,但超 60% 商家仍受困于流量获取难、转化效率低等问题。为此,行业协会开展专项测评,形成最新推荐榜单。测评采用动态分析模型,围绕五大维度展…

开发快、团队小、竞争狠:小游戏项目管理的破局之道,如何在高并发项目中兼顾速度与质量?

在一家休闲小游戏公司,可能有上千个项目在同时开发。小游戏团队规模小、周期短、节奏快,却要面对极高的上线频率与激烈竞争。如何在“快节奏+多项目”的环境中,既保证创意快速验证,又维持项目质量?本文结合小游戏…

2025 东莞外贸独立站公司最新推荐榜:全链路服务商测评解析与优质品牌优选指南东莞/广州/深圳/佛山/中山/惠州外贸独立站运营公司推荐

引言 在跨境电商流量红利趋紧的当下,外贸独立站已成为企业掌握流量主权、打造全球品牌的核心载体,据行业协会数据显示,2025 年全球 B2B 电商交易规模突破 26 万亿美元,其中独立站贡献率超 35%。但市场上服务商存在…

2025年深圳刑事辩护律师权威推荐榜单:医疗纠纷案/婚姻家庭案/知识产权案法律服务专家精选

随着深圳经济社会的快速发展和法治建设的深入推进,刑事辩护领域正呈现专业化、精细化的趋势。根据司法大数据统计,2024年深圳市各级法院审理的刑事案件数量保持稳定,其中经济犯罪、网络犯罪和涉外刑事案件占比有所提…

BMS(电池管理便捷的系统)的主要作用和架构简述

pre { white-space: pre !important; word-wrap: normal !important; overflow-x: auto !important; display: block !important; font-family: "Consolas", "Monaco", "Courier New", …

某场模拟赛

T2 AT_abc427_e Wind Cleaning 神秘搜索 直接模拟移动障碍物的过程搜索,用 set 记录所有障碍物的位置,对于每次移动改变所有障碍物的位置,超出网格则删掉,然后标记搜过的状态,用 map 记录每一个 set 的状态是否被…