0
点赞
收藏
分享

微信扫一扫

探索IPython的内省功能:深入理解Python代码的神秘力量

西特张 2024-06-28 阅读 59

感谢阅读

拉取镜像

docker pull eosphorosai/dbgpt:latest

linux判断拉取是否成功的方法

docker images | grep "eosphorosai/dbgpt"

windows判断拉取是否成功的方法

docker images | Select-String "eosphorosai/dbgpt"

如果报错没有,则用

docker images | findstr "eosphorosai/dbgpt"

模型以及启动容器

模型

本地部署大模型,可离线下载后放置/models目录下(启动容器后docker cp即可)。
docker cp后别着急提交新镜像,可能会出现要安装其他包。

启动容器

docker run --ipc host --gpus all -d \
-p 5000:5000 \
-e LOCAL_DB_TYPE=sqlite \
-e LOCAL_DB_PATH=data/default_sqlite.db \
-e LLM_MODEL=vicuna-13b-v1.5 \
-e LANGUAGE=zh \
-v /data/models:/app/models \
--name dbgpt \
eosphorosai/dbgpt

界面如下(0.56):

在这里插入图片描述

举报

相关推荐

0 条评论