描述
Fast structured generation and serving for LLMs with RadixAttention prefix caching. Use for JSON/regex outputs, constrained decoding, agentic workflows with…
通用助手 / 编排推荐
sglang
sglang
安装量 202GitHub Stars 8,488更新时间 2026年5月16日
安全审计
使用前的风险提示
规则审计
未审计更新 1年1月1日
智能审计
未审计更新 1年1月1日
uiperformancellmpromptagentagentsworkflowsglangfaststructuredgenerationand