项目介绍：

允许用户在本地计算机上部署AI推理服务，具有低延迟，高并发特性