A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.
言語
Python
ライセンス
Apache-2.0
最終更新
2026-09-24
スター数
3,916
フォーク数
622
Issue数
417
大規模AIの学習を劇的に高速化！GPU最適化されたトランスフォーマー訓練ライブラリ — Megatron-LM
Megatron-LMは、ChatGPTのような大規模なAIモデルを効率的に学習させるためのNVIDIA製ライブラリです。複数のGPUを使って巨大なAIモデルを分散して学習することで、従来よりも高速か
AIと自然に会話できる！声もキャラも自由自在なリアルタイム音声対話モデル — personaplex
PersonaPlexは、NVIDIAが開発したリアルタイムの音声対話AIモデルです。人間同士の会話のように、相手が話している途中でも割り込んだり相づちを打ったりできる「全二重通信（電話のように双方向
NVIDIA/SkillSpector
public-apis/public-apis
EbookFoundation/free-programming-books