栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Java

【bootcamp问答系统部署】

Java 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

【bootcamp问答系统部署】

前言

该项目结合Milvus和BERT来构建问答系统。这旨在提供一种结合人工智能模型的Milvus实现语义相似性匹配的解决方案。
github地址:bootcamp问答系统

具体部署 一、安装Milvus 安装docker和docker-compose
sudo apt-get update && sudo apt-get install -y apt-transport-https ca-certificates curl software-properties-common && curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add - && sudo add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable" && sudo apt-get update && sudo apt-get install -y docker-ce
pip install docker-compose
下载docker-compose.yml

下载milvus-standalone-docker-compose.yml并重名为docker-compose.yml 下载链接

开启Milvus
sudo docker-compose up -d
sudo docker-compose ps #查看容器的状态

运行正常可看到如下状态:

sudo docker-compose down  // 停止Milvus
sudo rm -rf volumes // 停止Milvus后删除数据
二、开启MySql

在docker环境下,运行如下命令:

docker run -p 3306:3306 -e MYSQL_ROOT_PASSWORD=123456 -d mysql:5.7
docker ps // 查看docker运行列表

可通过列表查找到mysql的唯一标识号,通过标识号进入mysql镜像查看状态:

docker exec -it [唯一表示号] /bin/bash
mysql -uroot -p
三、运行qa-chatbot-server

运行参数如下图:

添加环境变量:

 export Milvus_HOST='127.0.0.1'
 export Milvus_PORT='19530'
 export Mysql_HOST='127.0.0.1'

docker下运行

$ docker run -d 
-p 8000:8000 
-e "MILVUS_HOST=${Milvus_HOST}" 
-e "MILVUS_PORT=${Milvus_PORT}" 
-e "MYSQL_HOST=${Mysql_HOST}" 
milvusbootcamp/qa-chatbot-server:v1
四、运行服务端

从该链接下载中文模型,放置在quick_deploy/server/src/models/路径下

按照参数表修改quick_deploy/server/src/config.py文件

特别地,修改MODEL_PATH地址为我们中文模型的路径:

在导入csv文件时,若为中文问答集,默认的逗号分隔符会导致问题和答案部分逗号对数据集分割的误判,故设置导入的csv文件以分号为分隔符,相应的修改quick_deploy/server/src/opertio ns/load.py中读取csv文件部分为:

另外由于mysql建表编码格式的问题,可能导致后续导入数据出错,修改quick_deploy/server/ src/ mysql_helper.py中创建mysql表部分为:

运行服务端启动程序:

cd server/src
python main.py

打开浏览器,进入127.0.0.1:8000/docs便可利用FastAPI对服务器端提供的接口进行测试

五、运行客户端

命令行输入如下:

# Please modify API_URL to the IP address and port of the server.
$ export API_URL='http://127.0.0.1:8000'
$ docker run -d -p 80:80 
-e API_URL=${API_URL} 
milvusbootcamp/qa-chatbot-client:v1

在浏览器输入http://127.0.0.1:8000,可得到网页前端。

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/632639.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号