内容详情
知识库客服,智能调用接口,AI并发部署后端
52 | 日期:2025-06-07发布人:马志江
联系电话:
服务商:筑巢工场(营口)创业服务有限公司
大语言模型并发部署,docker容器化部署,网页点击操作,在用户提供服务器的情况下可以远程部署,可长期稳定运行,支持多种开源模型。
服务优势:
大语言模型并发部署,docker容器化部署,网页点击操作,在用户提供服务器的情况下可以远程部署,可长期稳定运行,支持多种开源模型。
服务前需客户提供的信息:
1.部署服务器需要GPU,系统环境为centos或者ubuntu,能远程ssh连接,GPU的大小会严重影响大语言模型的性能,建议16G以上,V100或者30系列以上显卡
其他:
1.部署服务器需要GPU,系统环境为centos或者ubuntu,能远程ssh连接,GPU的大小会严重影响大语言模型的性能,建议16G以上,V100或者30系列以上显卡
问答系统与聊天智能知识服务知识库
