灵感菇

AI 技能的自然生态,你的一句话,蔓延出无限连接。

返回搜索

研究学习 / 检索整理

hqq-quantization

hqq-quantization

安装量 201GitHub Stars 8,475更新时间 2026年5月16日

描述

Half-Quadratic Quantization for LLMs without calibration data. Use when quantizing models to 4/3/2-bit precision without needing calibration datasets, for fast…

安全审计

使用前的风险提示

未审计

规则审计

未审计
更新 1年1月1日

智能审计

未审计
更新 1年1月1日
backendllmhqqquantizationhalfquadraticforllmswithoutcalibrationdataquantizing