机器学习PAI大模型训练什么时候会支持？-[阿里云_云淘科技]

匿名 • 2023年12月20日上午8:27 • 阿里云

机器学习PAI大模型训练什么时候会支持？

以下为热心网友提供的参考意见

关于机器学习PAI大模型训练的支持时间，这取决于阿里云的研发计划和技术路线。目前，PAI已经支持多种深度学习框架和大规模分布式训练功能，可以用于训练大型神经网络模型。如果你需要了解最新的大模型训练支持情况和计划，建议关注PAI的官方公告和技术博客。

以下为热心网友提供的参考意见

还在做一些优化，暂时没有数字放出来，此回答整理自钉群“BladeDISC用户支持群”

以下为热心网友提供的参考意见

根据搜索结果[1][2][3]，阿里云机器学习平台PAI已经支持Llama2大模型的训练，并且提供了全量微调、Lora微调、推理服务等场景最佳实践，助力AI开发者快速开箱。此外，PAI还包含了模型库、分词器、模型转换、强化学习、离线文本生成以及使用示例和工具集等用于构建LLM训练的关键要素。在模型库中包含热门大模型的Megatron版本实现，例如baichuan,bloom,chatglm,falcon,galactica,glm,llama,qwen和starcoder，后续还会根据需要及时添加新的Megatron版大模型实现。同时patch还提供了huggingface模型权重和Megatron模型权重之间的双向转换。因此，机器学习PAI大模型训练在未来将会得到进一步的支持。

本文来自投稿，不代表新手站长_郑州云淘科技有限公司立场，如若转载，请注明出处：https://www.cnzhanzhang.com/10857.html