423 B
423 B
vLLM:
https://github.com/vllm-project/vllm/issues/3536
https://arxiv.org/pdf/2307.09702
Efficient Guided Generation for Large Language Models
https://github.com/dottxt-ai/outlines
理解大语言模型 (Large Language Model) 中的引导式生成 (Guided Generation)
https://zhuanlan.zhihu.com/p/706892979
使用结构化生成工具实现格式可控的 LLMs 输出 https://zhuanlan.zhihu.com/p/700691767