描述
Activation-aware weight quantization for 4-bit LLM compression with 3x speedup and minimal accuracy loss. Use when deploying large models (7B-70B) on limited…
研究学习 / 检索整理
awq-quantization
awq-quantization
安装量 200GitHub Stars 8,471更新时间 2026年5月16日
安全审计
使用前的风险提示
规则审计
未审计更新 1年1月1日
智能审计
未审计更新 1年1月1日
backendllmawqquantizationactivationawareweightforbitcompressionspeedupand