学习华为昇腾AI教材人工智能研发框架部分Day2

02AI开发框架基础知识

一、基础知识介绍

AI开发框架中最基础的数据结构就是张量 （tensor） 。 所有数据都被封装在tensor中。

tensor定义：一个多维数组。 比如，零阶张量：标量； 一阶张量：向量；二阶张量：矩阵。

MindRecord、 TFRecord

对于数据量较多的数据集， 为了高效地读取数据， 比较 有帮助的一种做法是对数据进行序列化并将其存储在一组可线性读取的档案中。 这尤其适用于借助网络进行流式传输的数据。 对缓冲任何信息预处理也十分有用。 如MindSpore中的MindRecord和TensorFlow中TFRecord 等。 这种数据格式能够减少磁盘IO、网络IO开销。

其中数据文件含有文件头、标量数据页、块数据页，用于存储用户归一化后的训练数 据，且单个MindSpore Record文件建议小于20G，用户可将大数据集进行分片存储为多个MindSpore Record记录。而索引档案则囊括基于标量数据（如图像Label、图像文件名等）生成的索引信息，用于方便的检索、统计数据集信息。数据文件中的文件头、 标量素材页、块数据页的具体用途如下所示：

文件头：是MindSpore Record文件的元信息，主要用来存储文件头大小、标量数 据页大小、块数据页大小、 Schema信息、索引字段、统计信息、记录分区信息、 标量资料与块数据对应关系等。 标量资料页：主要用来存储整型、字符串、浮点型数据，如图像的Label、图像 的文件名、图像的长宽等信息，即适合用标量来存储的信息会保存在这里。 块数据页：主要用来存储二进制串、 NumPy数组等材料，如二进制图像文件本 身、文本转换成的字典等。

MindSpore Record数据格式具备的特征如下：实现材料统一存储、访问，使得训练时数据读取更加简便。 数据聚合存储、高效读取，使得训练时数据方便管理和移动。 高效的数据编解码操作，使得用户可以对材料操控无感知。 可能灵活控制数据切分的分区大小，实现分布式数据处理。

二、计算图

计算图献出了一种直观的方式来描述深度学习模型中的计算过程。 每个节点代表一个计算操作（如加法、 乘法、 激活函数等） ， 而边则表示数据在这些操作之间的流动。 这种结构化的表示方法使得复杂的计算过程变得易于理解和分析。 可以快捷地执行自动微分。 方便寻找网络并行性和优化点。

节点代表变量或操作。输入节点表示输入数据或参数，而中间节点和输出节点表示计算结果。 边连接节点，表示数据流或计算依赖关系。每条边通常表示从一个操作的输出到另一个操作的输入。

所有的Python语法 都能支持。就是静态图模式比较适合网络固定且需要高性能的场景。在静态图模式下，基于图优化、 计算图整图下沉等技巧，编译器可以针对图进行全局的优化，因此在静态图下能获得 较好的性能，但是执行图是从源码转换而来，因此在静态图下不

ms_function是MindSpore中提供的用于加速动态图执行效率的器具。

静态图。 不过，由于在静态图下，对于Python语法有所限制，因此从动态图切换成静态图时， 必须符合静态图的语法限制，才能正确启用静态图来进行执行。就是在MindSpore中，我们可以通过控制模式输入参数来切换执行使用动态图还