megatron-llama
-
淘天集团与爱橙科技合作发布开源大型模型训练框架Megatron-LLaMA
9 月 12 日，淘天集团联合爱橙科技正式对外开源大模型训练框架 ——megatron-llama，旨在让技术开发者们能够更方便的提升大语言模型训练性能，降低训练成本，并且保持和 llama 社区的兼容性。测试显示，在 32 卡训练上，相比 huggingface 上直接获得的代码版本，megatr…
*本站广告为第三方投放，如发生纠纷，请向本站索取第三方联系方式沟通
9 月 12 日，淘天集团联合爱橙科技正式对外开源大模型训练框架 ——megatron-llama，旨在让技术开发者们能够更方便的提升大语言模型训练性能，降低训练成本，并且保持和 llama 社区的兼容性。测试显示，在 32 卡训练上，相比 huggingface 上直接获得的代码版本，megatr…
