NVIDIA模型优化器发布最新版本

• 01支持量化、剪枝、NAS、蒸馏、推测解码和稀疏性等优化技术
• 02集成Python API，方便用户组合优化技术
• 03与TensorRT-LLM、Megatron-LM和Hugging Face Accelerate等工具集成
• 04支持TensorRT-LLM、vLLM和SGLang等部署框架
• 05支持transformers和diffusers模型

NVIDIA Model Optimizer提供全面的模型优化解决方案。

支持多种优化技术，适用于多种部署框架。