机器学习PAI 1、求问-Dcluster参数设置建议,使用PAI命令行时,查看训练信息的路径?-[阿里云_云淘科技]

机器学习PAI
1、求问-Dcluster参数设置建议,目前在测试案例数据的multiTower模型,PS节点一直是running状态,数据集链接【2023/12/23/](2023/12/23/http://www.cnzhanzhang.com/wp-content/uploads/2023/12/20231223083100-65869ac4e3ff8.png)
目前参数配置'{“ps”:{“count”:1, “cpu”:1000}, “worker” : {“count”:3, “cpu”:1000, “gpu”:100, “memory”:40000}}’,是不是要的CPU太多,等不到资源?

以下为热心网友提供的参考意见

  1. 对于DCluster参数设置建议,可以考虑以下几点:

    • 调整PS节点的CPU和内存资源,可以尝试减少CPU资源,例如将cpu从1000降低到500。
    • 调整Worker节点的GPU资源,可以尝试增加GPU数量,例如将gpu从100增加到200。
    • 调整Worker节点的内存资源,可以尝试增加内存大小,例如将memory从40000增加到80000。
    • 检查集群的网络状况,确保网络带宽足够支持模型训练。
  2. 在PAI命令行中查看训练信息,可以使用以下命令:

    $ aliyun ps logs --job-id 
    

    其中需要替换为你的训练任务ID。

以下为热心网友提供的参考意见

就是和pai tensorflow一样的查看方式;之前一直等资源是因为我们集群gpu太少,等不到gpu资源导致 ,此回答整理自钉群“【EasyRec】推荐算法交流群”

本文来自投稿,不代表新手站长_郑州云淘科技有限公司立场,如若转载,请注明出处:https://www.cnzhanzhang.com/13697.html

(0)
匿名
上一篇 2023年12月10日 下午3:39
下一篇 2023年12月10日

相关推荐

新手站长从“心”出发,感谢16年您始终不离不弃。