适应场景

本机使用HuggingFace，核心模型无需使用多个适配器。基于Docker快速部署，提供模型广泛控制推理

缺点

源码编译，文档不完整

https://github.com/huggingface/text-generation-inference