描述
Activation-aware weight quantization for 4-bit LLM compression with 3x speedup and minimal accuracy loss. Use when deploying large models (7B-70B) on limited…
软件工程 / 诊断修复
awq-quantization
awq-quantization
安装量 302GitHub Stars 27,311更新时间 2026年5月16日
安全审计
使用前的风险提示
规则审计
未审计更新 1年1月1日
智能审计
未审计更新 1年1月1日
backendllmawqquantizationactivationawareweightforbitcompressionspeedupand