描述
Fast structured generation and serving for LLMs with RadixAttention prefix caching. Use for JSON/regex outputs, constrained decoding, agentic workflows with…
AI 应用 / Agent skills
sglang
sglang
安装量 318GitHub Stars 27,329更新时间 2026年5月16日
安全审计
使用前的风险提示
规则审计
未审计更新 1年1月1日
智能审计
未审计更新 1年1月1日
uiperformancellmpromptagentagentsworkflowsglangfaststructuredgenerationand