MindSpore开发之路（十六）：训练可视化：使用MindInsight洞察模型行为

到目前为止，我们评估模型训练效果的主要方式还是依赖于打印出来的Loss值和最终的Accuracy。虽然这些数字很有用，但它们提供的信息是有限的。当模型训练不达预期时，我们不禁会问：

• 模型的网络结构真的如我所想的那样搭建的吗？
• Loss曲线的详细变化趋势是怎样的？是否存在剧烈震荡？
• 模型中每一层权重参数在训练过程中的分布和变化情况如何？
• 是否存在梯度消失或梯度爆炸的迹象？

要回答这些问题，只靠打印数字是远远不够的。我们需要一个强大的可视化工具，将训练过程中的各种数据以图表的形式直观地展示出来。在MindSpore的生态中，这个工具就是MindInsight。

1. MindInsight是什么

MindInsight是MindSpore配套的可视化组件，它能够帮助我们监控、分析和调试深度学习项目的全过程。通过它，我们可以将原本“黑盒”化的训练过程变得透明，从而更高效地优化模型。

2. MindInsight的核心功能

MindInsight提供了一个Web用户界面，可以展示丰富多样的可视化信息，主要包括：

• 计算图可视化：展示模型的网络结构图，帮助我们检查网络搭建是否正确。
• 标量（Scalar）可视化：绘制如Loss、Accuracy等标量值随训练步数变化的曲线图。
• 参数分布图（直方图）：展示权重（Weights）和梯度（Gradients）等张量在训练过程中的数值分布情况。
• 数据图：可视化模型正在处理的训练数据，例如图像样本。
• 性能剖析：分析训练过程中的性能瓶颈，定位耗时过长的算子。

3. 如何使用MindInsight

使用MindInsight主要分为两步：

1. 在训练脚本中“记录”数据：通过在训练代码中添加一个特殊的回调函数SummaryCollector，它会在训练过程中将需要可视化的数据（如Loss、计算图、参数分布等）保存到日志文件中（称为summary文件）。
2. 启动MindInsight服务“读取”数据：在训练开始后或结束后，通过命令行启动MindInsight服务，并指定summary日志文件所在的目录。MindInsight会解析这些文件，并通过Web界面进行展示。

3.1 第一步：在代码中集成SummaryCollector

我们只需要对之前的训练代码做微小的改动。关键在于创建mindspore.train.callback.SummaryCollector回调，并将其加入到model.train()的callbacks列表中。

让我们以之前的LeNet-5实战代码为例进行修改：

importmindsporefrommindsporeimportnn,contextfrommindspore.trainimportModel# 重点：导入SummaryCollectorfrommindspore.train.callbackimportModelCheckpoint,CheckpointConfig,LossMonitor,SummaryCollectorfrommindspore.datasetimportvision,transformsfrommindspore.datasetimportMnistDataset# ... (此处省略 context.set_context, create_dataset, LeNet5 的定义) ...# --- 主要修改部分 ---# 1. 实例化网络、损失函数、优化器net=LeNet5()loss_fn=nn.CrossEntropyLoss()optimizer=nn.Adam(net.trainable_params(),learning_rate=0.001)metrics={"accuracy":nn.Accuracy()}# 2. 实例化Modelmodel=Model(net,loss_fn,optimizer,metrics=metrics)# 3. 创建SummaryCollector回调# 指定summary日志文件的保存目录，例如 './summary_dir'summary_cb=SummaryCollector(summary_dir='./summary_dir')# 4. 将SummaryCollector和其他回调一起传入model.train()loss_cb=LossMonitor(200)ckpoint_cb=ModelCheckpoint(prefix="lenet5_mindinsight",directory="./checkpoints_mi")print("开始训练(带MindInsight记录)...")# 将 summary_cb 添加到回调列表model.train(5,train_dataset,callbacks=[loss_cb,ckpoint_cb,summary_cb])print("训练完成！")

就是这么简单！现在，当你运行这段代码时，SummaryCollector会自动收集训练过程中的各种信息，并保存在./summary_dir目录下。

3.2 第二步：启动MindInsight服务

首先，你需要确保已经安装了MindInsight。它通常作为MindSpore的一部分被一同安装。如果没有，可以通过pip安装：

pip install mindinsight

训练开始后（或者结束后），打开一个新的终端（不要关闭正在训练的终端），进入你的项目根目录，然后执行以下命令：

mindinsight start --summary-base-dir ./summary_dir --port8080

• --summary-base-dir: 指定你之前设置的summary日志目录。
• --port: 指定Web服务的端口号，默认为8080。

命令执行后，你会看到类似以下的输出：

Web address: http://127.0.0.1:8080
service start state: success

现在，打开你的浏览器，访问http://127.0.0.1:8080，你就可以看到MindInsight的可视化界面了！

4. 探索MindInsight界面

在MindInsight界面中，你可以：

1. 查看训练看板：在“标量”或“SCALAR”标签页，你会看到loss和accuracy曲线，可以直观地判断模型收敛情况。
2. 检视计算图：在“计算图”或“GRAPH”标签页，你可以看到LeNet-5的网络结构图，可以放大、缩小、拖动，并查看每个节点的详细信息。
3. 分析参数分布：在“直方图”或“HISTOGRAM”标签页，你可以选择不同的层（如conv1.weight），查看其权重参数在不同训练阶段的分布变化，这对于诊断梯度问题非常有帮助。

当你不再需要MindInsight服务时，可以在命令行中通过mindinsight stop --port 8080来关闭它。

5. 总结

可视化是现代深度学习开发中不可或缺的一环。MindInsight为MindSpore用户提供了一个功能强大且易于使用的解决方案，将复杂的训练过程以直观的图表形式呈现出来。

通过本文，我们学习了：

• MindInsight的重要性：它能帮助我们深入洞察模型行为，从而高效地进行调试和优化。
• MindInsight的核心使用流程：通过在代码中添加SummaryCollector回调来记录数据，然后通过mindinsight start命令启动Web服务来查看数据。
• MindInsight的主要功能：包括计算图、标量曲线、参数分布等多种可视化视图。

将MindInsight集成到你的日常开发工作流中，将极大地提升你理解和掌控模型的能力。