描述
Runs LLM inference on CPU, Apple Silicon, and consumer GPUs without NVIDIA hardware. Use for edge deployment, M1/M2/M3 Macs, AMD/Intel GPUs, or when CUDA is…
软件工程 / 部署发布
llama-cpp
llama-cpp
安装量 199GitHub Stars 8,478更新时间 2026年5月16日
安全审计
使用前的风险提示
规则审计
未审计更新 1年1月1日
智能审计
未审计更新 1年1月1日
dockerdeploymentllmllamacpprunsinferencecpuapplesiliconandconsumer