回答一

作者：叶小飞  
链接：https://www.zhihu.com/question/269707221/answer/2281374258

我之前在北美奔驰落地时，曾有段时间为了测试不同的结构和参数，一周能训练一百来个不同的模型，为此我结合公司前辈们的做法和自己的一点思考总结了一套高效的代码实验管理方法，成功帮助了项目落地, 现在在这里分享给大家。

使用Yaml文件来配置训练参数

我知道很多开源repo喜欢用input argparse来传输一大堆训练和模型相关的参数，其实非常不高效。一方面，你每次训练都需要手动输入大量参数会很麻烦，如果直接改默认值又要跑到代码里去改，会浪费很多时间。这里我推荐大家直接使用一个Yaml file来控制所有模型和训练相关的参数，并将该yaml的命名与模型名字和时间戳联系起来，著名的3d点云检测库OpenPCDet就是这么做的，如下方这个链接所示。

github.com/open-mmlab/OpenPCDet/blob/master/tools/cfgs/kitti_models/pointrcnn.yaml

我从上方给的链接截了该yaml文件部分内容，如下图所示，这个配置文件涵盖了如何预处理点云，classification的种类，还有backbone各方面的参数、optimzer和loss的选择（图中未展示，完整请看上方链接）。也就是说，基本所有能影响你模型的因素，都被涵括在了这个文件里，而在代码中，你只需要用一个简单的 yaml.load()就能把这些参数全部读到一个dict里。更关键的是，这个配置文件可以随着你的checkpoint一起被存到相同的文件夹，方便你直接拿来做断点训练、finetune或者直接做测试，用来做测试时你也可以很方便把结果和对应的参数对上。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

代码模块化非常重要

有些研究人员写代码时喜欢把整个系统写的过于耦合，比如把loss function和模型写到一起，这就会经常导致牵一发而动全身，你改动某一小块就会导致后面的接口也全变，所以代码模块化做的好，可以节省你许多时间。一般的深度学习代码基本可以分为这么几大块（以pytorch为例）：I/O模块、预处理模块、可视化模块、模型主体（如果一个大模型包含子模型则应该另起class)、损失函数、后处理，并在训练或者测试脚本里串联起来。代码模块化的另一好处，就是方便你在yaml里去定义不同方面的参数，便于阅览。另外很多成熟代码里都会用到importlib神库，它可以允许你不把训练时用哪个模型或者哪个子模型在代码里定死，而是可以直接在yaml里定义。

Tensorboard, tqdm用起来

这两个库我基本上每次必用。Tensorboard可以很好的追踪你训练的loss曲线变化，方便你判断模型是否还在收敛、是否overfit，如果你是做图像相关，还可以把一些可视化结果放在上面。很多时候你只需要看看tensorboard的收敛状态就基本知道你这个模型怎么样，有没有必要花时间再单独测试、finetune. Tqdm则可以帮你很直观地跟踪你的训练进度，方便你做early stop.

充分利用Github

无论你是多人合作开发还是单独项目，我都强烈建议使用Github（公司可能会使用bitbucket, 差不多）记录你的代码。具体可以参考我这篇回答：

作为一个研究生，有哪些你直呼好用的科研神器？
https://www.zhihu.com/question/484596211/answer/2163122684

记录实验结果

我一般会保存一个总的excel来记录实验结果，第一列是模型对应的yaml的路径，第二列是模型训练epoches, 第三列是测试结果的log, 我一般会把这个过程自动化，只要在测试脚本中给定总excel路径，利用pandas可以很轻松地搞定。

回答二

作者：Jason  
链接：https://www.zhihu.com/question/269707221/answer/470576066

git管理代码是跟深度学习、科研都没关系的，写代码肯定要用版本管理工具。用不用github个人觉着倒是两可，毕竟公司内是不可能所有代码都挂外部git的。

那么说几个写代码的时候需要注意的地方吧：

1. 试验参数尽量使用config文件传入，并且config尽量与log文件同名保存。

一方面外部传入参数可以避免git上过多的版本修改是由于参数导致的，介于DL不好debug，有时候利用git做一下代码比对是在所难免的；

另一方面当试验了万千版本之后，相信你不会知道哪个model是哪些参数了，好的习惯是非常有效的。另外新加的参数尽量提供default值，方便调用老版的config文件。

2. 尽量让不同的模型之间解耦

同一个项目里，好的复用性是编程的一种非常好的习惯，但是在飞速发展的DL coding中，假设项目是以任务驱动的，这也许有时候会成为牵绊，所以尽量把可复用的一些函数提取出来，模型结构相关的尽量让不同的模型解耦在不同的文件中，反而会更加方便日后的update。否则一些看似优美的设计几个月之后就变得很鸡肋。

3. 在满足一定稳定性的同时，定期跟进新版的框架

往往有个尴尬的情况，从一个项目开始到结束，框架update了好几个版本，新版有一些让人垂涎若滴的特性，但是无奈有些api发生了change。所以在项目内可以尽量保持框架版本稳定，项目开始前尽量考量一下不同版本的利弊，有时候适当的学习是必要的。

短影AI

长视频一键生成精彩短视频

170 查看详情

另外，对不同的框架怀揣着一颗包容的心。

4. 一次训练的时间挺长的，coding结束不要盲目的就开始跑实验，个人经验提供debug模式来实验小数据+更多的log是个不错的选择。

5. 记录好随着模型update performance的变化，因为可能随时需要退回去重来。

作者：OpenMMLab
链接：https://www.zhihu.com/question/269707221/answer/2480772257
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

题主你好呀，前面的回答提到了使用 Tensorboard、Weights&Biases、MLFlow、Neptune 等工具来管理实验数据。然而随着实验管理工具的轮子越造越多，工具的学习成本也越来越高，我们又应该如何选择呢？

MMCV 满足你的所有幻想，通过修改配置文件就能实现工具的切换。

github.com/open-mmlab/mmcv

Tensorboard 记录实验数据：

配置文件：

log_config = dict( interval=1, hooks=[ dict(type='TextLoggerHook'), dict(type='TensorboardLoggerHook') ])

TensorBoard 数据可视化效果

WandB 记录实验数据

配置文件

log_config = dict( interval=1, hooks=[ dict(type='TextLoggerHook'), dict(type='WandbLoggerHook') ])

Wandb 数据可视化效果

（需要提前用 python api 登录 wandb）

Neptume 记录实验数据

配置文件

log_config = dict( interval=1, hooks=[ dict(type='TextLoggerHook'), dict(type='NeptuneLoggerHook',  init_kwargs=dict(project='Your Neptume account/mmcv')) ])

Neptume 可视化效果

mlflow 记录实验数据

配置文件

log_config = dict( interval=1, hooks=[ dict(type='TextLoggerHook'), dict(type='MlflowLoggerHook') ])

MLFlow 可视化效果

dvclive 记录实验数据

配置文件

log_config = dict( interval=1, hooks=[ dict(type='TextLoggerHook'), dict(type='DvcliveLoggerHook') ])

生成的 html 文件

以上只使用了各种实验管理工具最基本的功能，我们可以进一步修改配置文件来解锁更多姿势。

拥有了 MMCV，就相当于拥有了所有的实验管理工具。如果你以前是 tf boy，可以选择 TensorBoard 经典怀旧风；如果你想应有尽有的记录实验数据、实验环境，不妨尝试一下 Wandb（Weights & Biases）或者 Neptume；如果你的设备没法联网，可以选择 mlflow 将实验数据存到本地，总有一款工具适合你。

此外 MMCV 也有自己的日志管理系统，那就是 TextLoggerHook ！它会将训练过程中产生的全量信息，例如设备环境、数据集、模型初始化方式、训练期间产生的 loss、metric 等信息，全部保存到本地的 xxx.log 文件。你可以在不借助任何工具的情况下，回顾之前的实验数据。

还在纠结使用哪个实验管理工具？还在苦恼于各种工具的学习成本？赶快上车 MMCV ，几行配置文件无痛体验各种工具。

github.com/open-mmlab/mmcv

以上就是深度学习科研，如何高效进行代码和实验管理？的详细内容，更多请关注其它相关文章！

# 所示  # 家用机器人营销推广报价  # 红玫瑰怎么推广营销  # 百度网站快速排名优化  # seo文章怎么写最好  # 推广网站建设市场价  # 中卫网站网站建设  # 东莞营销推广哪家有名  # 全国农村网络建设网站  # 定制网站建设运营  # 网站优化改版方案设计  # 里去  # 深度学习  # 腾讯  # 我一  # 你是  # 南极  # 自己的  # 还在  # 开源  # 配置文件  # type  # fig  # 自动驾驶 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： 交管12123协议头是什么  如何查看win10版本命令行  市盈率负值是什么意思  萝卜快跑的收费标准是什么  内在市盈率是什么意思  单片机加热片怎么制作  typescript适合什么用  市盈率中的19a是什么意思  如何查看固态硬盘分区  linux下如何重定位命令  如何用ftp连接命令行  启辰星power标志是什么意思  怎么把手机里爱奇艺的视频下载到u盘里  1tb等于多少mb  苹果16颜色有哪些  如何更新苹果ios16  animal是什么意思  typescript怎么写react  typescript要用什么工具  镜像ao3链接入口  征信信用不好如何恢复 征信信用不好如何恢复指南  typescript属性只读如何修改  闪光灯power闪烁是什么意思  苹果16有哪些款式的  如何查看电脑的固态硬盘  苹果16有哪些不同  如何使用命令行界面  如何提高固态硬盘速度  typescript怎么加号  光刻机的分类及其优缺点  手机nfc功能功能是什么意思  折叠屏手机为什么有黑点  征信不好如何短期恢复  typescript书籍哪个好  导航power在汽车上是什么意思  车子上面nfc功能是什么意思  如何正确使用固态硬盘  cos150度等于多少  折叠屏手机共有哪些  课程伴侣登不上怎么办  5g手机怎么没视频通话功能  如何以命令符运行程序  如何打开命令提示符  新装固态硬盘如何安装  新买的固态硬盘如何查  如何为服务器配置静态路由？服务器配置静态路由详细教程  win7旗舰版wifi怎么打开  市盈率20a21e是什么意思  单片机怎么连接电路图  焊机上power灯闪是什么意思