Lustre架构介绍的阅读笔记-基础知识

本文是在阅读Introduction to Lustre* Architecture的如下章节时的笔记。

  • Lustre – Fast, Scalable Storage for HPC
  • Lustre Scalable Storage
  • Lustre Building Blocks
  • Lustre Storage Scalability

Lustre software services are implemented entirely within the Linux kernel, as loadable modules.

Lustre作为Linux内核的模块,工作在内核态。
相对于其它存储软件,开发、调试、定位问题时,困难程度会大一些,对参与相关的业务的开发人员、运维人员的技能和经验有一定的要求。

A file in Lustre is comprised of a metadata inode object and one or more data objects.

在Lustre集群中,一个文件由一个元数据对象和多个数据对象组成。

Lustre is a client-server, parallel, distributed, network file system.

关键信息,如下:
CS模式,即客户端、服务端模式,由多个客户端和多个服务端组成。上层应用访问存储提供的服务时,需要集成客户端,通过客户端来访问存储服务器的实例。
并行,即多个应用、多个客户端可以和并行和存储服务器的实例通信,各个业务操作之间没有顺序的依赖。多个文件的访问操作、单个文件的不同部分的访问操作,均可以同时执行。
分布式系统,客户和存储服务器集群均可以水平扩容,具备分布式系统的优点和约束。
NFS,即网络文件系统,兼容POSIX规范。

Lustre separates metadata (inode) storage from block data storage (file content).

存储系统有三类职能:

  • 管理职能,管理集群的元数据和配置参数。
    • 集群的元数据,比如集群中各节点,服务端节点、客户端节点,存储节点的容量等。
    • 配置参数,比如命名空间、容量等。
  • 元数据服务,管理目录、文件的元数据。元比如:
    • 名称
    • 权限,比如uid/gid、UGO、ACL等
    • 属性,比如时间类的属性
      • crtime即文件的创建时间
      • ctime即文件的元数据的变更时间
      • mtime即文件的数据的变更时间
      • atime即文件的最近访问时间
    • 扩展属性
    • 数据的分布
  • 数据存储服务,管理文件的数据,文件被切割为对象,分布在集群中的多个存储服务节点上。

由上述分工可知,对于目录、文件的元数据的操作,均可由元数据服务实施,无需管理职能数据存储服务参与。

This is the key concept of Lustre’s
design – separate small, random, IOPS-intensive metadata traffic from the large, throughputintensive, streaming block IO.

Lustre的设计思路,将文件数据和文件元数据的访问操作隔离,由不同的组件处理。这两类数据有不同的访问特征。

  • 文件元数据的访问,随机、量小、时延敏感、IOPS要求高。
  • 文件数据的访问,流式、吞吐量敏感。

元数据服务和数据存储服务可以独立扩容,依据不同的业务场景配置不同的数量比例。

承担管理职能的服务,由MGS、MGT组成,MGS提供服务,MGT负责存储数据。
承担元数据服务的服务,由MDS、MDT组成,MDS提供服务,MDT负责存储数据。
承担数据存储服务的服务,由OSS、OST组成,OSS提供服务,OST负责存储数据。

Lustre的客户端,对客户应用提供兼容POSIX规范的API接口,因此客户应用无需改造即可访问存储在Lustre集群上的目录、文件。
Lustre的客户端,与存储服务端之间通信时

  • 使用私有协议 LNetLustre Network protocol
  • 支持网络技术包括OPA/IB/Ethernet

In order to ensure that failover is handled seamlessly, data modifications in Lustre are
asynchronous and transactional. The client software maintains a transaction log.

原文中的客户端,指的是部署在客户应用节点上的Lustre户端吗?

All Lustre server types (MGS, MDS and OSS) support failover.

Lustre集群中不存在单点故障,关键进程均有备份,遇到进程故障等现象时,均由后备接替服务,故障恢复时,实现客户应用无感知的效果。

MGT、MDT支持使用LDISKFS或者ZFS作为后端存储系统。
Lustre存储集群的技术规格项,如下:

  • 条带的数量
  • 条带的大小,包括最大值、最小值
  • 对象大小,最大值
  • 文件大小,最大值
  • 文件系统的容量,最大值
  • 单个目录支持的文件数量或者目录数量,最大值
  • 文件系统内支持的文件数量,最大值
  • 文件名的长度,最大长度
  • 文件的全路径的长度,最大长度

上述技术规格项的具体取值和后端存储的类型有关系。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/796622.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

瑞_Redis_商户查询缓存_添加Redis缓存缓存更新策略

文章目录 项目介绍1 短信登录2 商户查询缓存2.1 什么是缓存2.1.1 缓存的应用场景2.1.2 为什么要使用缓存2.1.3 Web应用中缓存的作用2.1.4 Web应用中缓存的成本 2.2 添加Redis缓存2.2.1 背景2.2.2 缓存模型和思路2.2.3 代码实现2.2.4 测试附:IDEA控制台输出自动换行设…

【动态规划】【01背包】Leetcode 416. 分割等和子集

【动态规划】【01背包】Leetcode 416. 分割等和子集 ---------------🎈🎈416. 分割等和子集 题目链接🎈🎈------------------- 给你一个 只包含正整数 的 非空 数组 nums 。请你判断是否可以将这个数组分割成两个子集&#xff0…

前端部署报错

1.node-sass node 版本和 node-sass 版本不兼容 https://www.npmjs.com/package/node-sass POSTCSS RECEIVED UNDEFINED INSTEAD OF CSS STRING odeJSSupported node-sass versionNode ModuleNode 209.0115Node 198.0111Node 188.0108Node 177.0, <8.0102Node 166.093Node…

txt和jpg或png数据的自动化导入和自动化生成输出随用随拿

提示&#xff1a;文章写完后&#xff0c;目录可以自动生成&#xff0c;如何生成可参考右边的帮助文档 文章目录 前言一、txt文件的自动化处理&#xff08;代码在上面链接&#xff09;二、txt文件自动化输出图片三、图片的自动化处理总结 前言 自动化导入和生成输出txt和jpg/pn…

泛型数组的赋值

ArrayList<String>[] arrayList new ArrayList[3];//不报错 ArrayList<String>[] arrayList new ArrayList<String>[3];//报错 泛型:编译期间检查&#xff0c;运行期间类型擦除 数组&#xff1a;运行期间检查 第一种情况允许的原因: 因为创建了一个未指…

Docker常用命令和高级操作

一、docker常用命令 1、安装命令 sudo apt install docker.io2、镜像管理 # 查看本地所有镜像 docker images # 移除指定镜像 docker image rm <image_name>:<tag>/<image_id># 其他命令 # dockerhub(https://hub.docker.com/)实在是太慢了 # 创建容器使用…

竞赛 交通目标检测-行人车辆检测流量计数 - 竞赛

文章目录 0 前言1\. 目标检测概况1.1 什么是目标检测&#xff1f;1.2 发展阶段 2\. 行人检测2.1 行人检测简介2.2 行人检测技术难点2.3 行人检测实现效果2.4 关键代码-训练过程 最后 0 前言 &#x1f525; 优质竞赛项目系列&#xff0c;今天要分享的是 &#x1f6a9; 毕业设计…

Python3 Ubuntu

一、安装中文输入法 1.sudo apt install ibus-sunpinyin 2.点击右上角输入法&#xff0c;然后点击加号&#xff0c;输入yin添加进来&#xff0c;最后选中输入法即可 二、安装截屏软件 1.sudo apt install gnome-screenshot 三、安装opencv-python 1.pip3 install --upgrade…

HTTP协议报文的结构的补充和from表单以及ajax表单

响应 状态码 表示了这次请求对应的响应,是什么样的状态(成功,失败,还是其他的情况.还有及其对应的原因&#xff09; 主要有这些类 成功状态码&#xff1a;其中200最常见&#xff0c;表示成功 重定向状态码&#xff1a;很多时候,页面跳转,就可以通过重定向来实现. 还有的时…

算法思想1. 分治法2. 动态规划法3. 贪心算法4. 回溯法

目录 递归和动态的区别:空间和时间复杂度之争 递归空间复杂度低;动态时间复杂度第低

智慧牧场数据 7

1 体征数据采集 需求:获取奶牛记步信息 三轴加速度测量&#xff1a;加速度测量计反应的加速向量与当前的受力方向是相反&#xff0c;单位为g 陀螺仪&#xff0c;是用来测量角速度的&#xff0c;单位为度每秒&#xff08;deg/s&#xff09; 2000deg/s 相当于1秒钟多少转 1.1…

小米汽车su7全色系展示源码

源码简介 小米汽车全色系展示源码&#xff0c;小米汽车su7全色系展示源码 安装教程 纯HTML&#xff0c;直接将压缩包上传网站目录解压即可 首页截图 源码下载 小米汽车su7全色系展示源码-小8源码屋源码简介 小米汽车全色系展示源码&#xff0c;小米汽车su7全色系展示源码 …

如何不编程用 ChatGPT 爬取网站数据?

敢于大胆设想&#xff0c;才能在 AI 时代提出好问题。 需求 很多小伙伴&#xff0c;都需要为研究获取数据。从网上爬取数据&#xff0c;是其中关键一环。以往&#xff0c;这都需要编程来实现。 可最近&#xff0c;一位星友在知识星球提问&#xff1a; 这里涉及到一些个人隐私&a…

ORACLE 12 C估算 用户历史上的CPU消耗

在使用ASH不能满足&#xff0c;需要从AWR&#xff0c;即HIST系列表估算每个用户的cpu消耗&#xff0c;只能进行大概估算 先计算各用户使用的cpu time计算出各用户占比将用户cpu time 与osstat的cpu 使用率相乘 with cpu_usage as (select snap_id,BUSY_TIME/(IDLE_TIMEBUSY…

Python 100万条数据到MySQL数据库逐步写出到多个Excel

Python插入100万条数据到MySQL数据库 步骤一:导入所需模块和库 首先,我们需要导入 MySQL 连接器模块和 Faker 模块。MySQL 连接器模块用于连接到 MySQL 数据库,而 Faker 模块用于生成虚假数据。 import mysql.connector # 导入 MySQL 连接器模块 from faker import Fake…

《机器学习在量化投资中的应用研究》目录

机器学习在量化投资中的应用研究 获取链接&#xff1a;机器学习在量化投资中的应用研究_汤凌冰著_北京&#xff1a;电子工业出版社 更多技术书籍&#xff1a;技术书籍分享&#xff0c;前端、后端、大数据、AI、人工智能... 内容简介 《机器学习在量化投资中的应用研究…

2024年150道高频Java面试题(十九)

37. HashSet 和 TreeSet 的区别是什么&#xff1f; HashSet 和 TreeSet 都是 Java 中 Set 接口的实现&#xff0c;用于存储不包含重复元素的集合。它们之间的主要区别在于性能、元素排序和使用的场景。 排序&#xff1a; HashSet&#xff1a;不保证元素的顺序。它使用哈希表来…

什么是MariaDB

2024年4月6日&#xff0c;周六晚上 今晚在Debian12上安装mysql时&#xff0c;运行后却发现是MariaDB MariaDB是一个开源的关系型数据库管理系统&#xff08;RDBMS&#xff09;&#xff0c;它是MySQL的一个分支和替代品。MariaDB由MySQL的原始开发者之一Michael "Monty&qu…

Redission--布隆过滤器解决缓存穿透问题

布隆过滤器在缓存穿透问题中的使用 布隆过滤器的核心是一个位数组 布隆过滤器的误判 使用Redission的布隆过滤器步骤 添加 Redission 依赖&#xff1a;首先需要将 Redission 添加到你的 Java 项目中&#xff0c;你可以通过 Maven 来添加 Redission 的依赖。 创建 Redissio…

【Java SE】7.3类和对象

目录 1.封装 1.1封装的概念 1.2访问限定符 1.3封装扩展之包 1.3.1包的概念 1.3.2导入包中的类 1.3.3自定义包 1.3.4包的访问权限控制举例。 1.3.5常见的包 2.static成员 2.1再谈学生类 2.2static修饰成员变量 2.3static修饰成员方法 2.4static成员变量初始化 3.代…