LM Studio 支持本地运营大模型
下载地址: https://lmstudio.ai/
一 搜索下载管理
安装之后打开, 搜索对应大模型, 下载, 举例: baichuan
点击左侧菜单栏文件夹图标进行管理
二 聊天
点击左侧菜单栏聊天图标, 新建聊天, 输入框输入内容
可能对回答的结果并不满意, 我们可以点击结果后面的编辑, 更正结果, 多次训练后, ai就回回复我们想要的答案
三 API接口
点击菜单栏倒数第二个图标, 进入api页面; 随意设置一个端口号, 启动服务
打开浏览器查看服务是否启动
api使用python调用: https://github.com/openai/openai-python
