NVIDIA/Model-OptimizerPython4.6k
GitHubで見る →

A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.

技術情報

言語

Python

ライセンス

Apache-2.0

最終更新

2026-09-26

スター数

4,611

フォーク数

659

Issue数

419

過去のトレンド履歴

関連リポジトリ