机器学习PAI
1、求问-Dcluster参数设置建议,目前在测试案例数据的multiTower模型,PS节点一直是running状态,数据集链接【2023/12/23/](2023/12/23/http://www.cnzhanzhang.com/wp-content/uploads/2023/12/20231223083100-65869ac4e3ff8.png)
目前参数配置'{“ps”:{“count”:1, “cpu”:1000}, “worker” : {“count”:3, “cpu”:1000, “gpu”:100, “memory”:40000}}’,是不是要的CPU太多,等不到资源?
以下为热心网友提供的参考意见
-
对于DCluster参数设置建议,可以考虑以下几点:
- 调整PS节点的CPU和内存资源,可以尝试减少CPU资源,例如将cpu从1000降低到500。
- 调整Worker节点的GPU资源,可以尝试增加GPU数量,例如将gpu从100增加到200。
- 调整Worker节点的内存资源,可以尝试增加内存大小,例如将memory从40000增加到80000。
- 检查集群的网络状况,确保网络带宽足够支持模型训练。
-
在PAI命令行中查看训练信息,可以使用以下命令:
$ aliyun ps logs --job-id
其中
需要替换为你的训练任务ID。
以下为热心网友提供的参考意见
就是和pai tensorflow一样的查看方式;之前一直等资源是因为我们集群gpu太少,等不到gpu资源导致 ,此回答整理自钉群“【EasyRec】推荐算法交流群”
本文来自投稿,不代表新手站长_郑州云淘科技有限公司立场,如若转载,请注明出处:https://www.cnzhanzhang.com/13697.html