NeMo AutoModelは、NVIDIAが開発したPyTorch分散学習ライブラリで、大規模言語モデル(LLM)や視覚言語モデル(VLM)の学習を効率化します。Hugging Faceモデルとの統合が標準でサポートされており、面倒な設定なしにファインチューニングや事前学習が可能です。分散並列処理、カスタムカーネル、最適化されたレシピを活用して、企業レベルでの大規模モデル学習を実現できます。QwenやGLM、MiniMaxなど最新の大規模モデルに対応しており、即座に利用可能な学習レシピが豊富に提供されています。
ユースケース: 大規模言語モデルや視覚言語モデルの効率的な分散学習・ファインチューニング
- Hugging Faceモデルとの標準統合
- 最新大規模モデル(Qwen3.5、GLM-4.7など)への対応
Pytorch Distributed native training library for LLMs/VLMs with OOTB Hugging Face support