0
点赞
收藏
分享

微信扫一扫

SolidUI社区-AI模型代理


背景

随着文本生成图像的语言模型兴起,SolidUI想帮人们快速构建可视化工具,可视化内容包括2D,3D,3D场景,从而快速构三维数据演示场景。SolidUI 是一个创新的项目,旨在将自然语言处理(NLP)与计算机图形学相结合,实现文生图功能。通过构建自研的文生图语言模型,SolidUI 利用 RLHF (Reinforcement Learning Human Feedback) 流程实现从文本描述到图形生成的过程。

项目地址: https://github.com/CloudOrc/SolidUI

项目镜像地址: https://gitee.com/CloudOrc/SolidUI

社区官网: https://website.solidui.top

官网项目地址:https://github.com/CloudOrc/SolidUI-Website

SolidUI ModelUI模块

项目soliduimodelui是SolidUI三大块(聊天窗口,模型代理,自研模型)其中之一,主要做模型代理,根据协议支持不同的模型,现在0.2.0版本支持模型有ChatGLM,GPT等,本文讲述外网模型用代理的方法。

SolidUI数据库初始化中,有一张表solidui_model_type 里面有两个字段token和baseurl:

  • token为模型API token
  • baseurl为模型API基础地址,例如:https://api.openai.com(这是国外openai地址),https://api.chatanywhere.com.cn(openai国内代理地址),http://ip:port(chatGLM地址)

为什么用模型代理?

  • SolidUI的ModelUI模块需要调用OpenAI等模型服务的API。这些模型服务的API通常只能从国外访问,国内访问会被限制或阻断。
  • chatanywhere/GPT_API_free项目实现了一个免费的GPT模型API代理服务。它部署在国外服务器,可以让国内用户间接调用官方OpenAI API。
  • pengzhile/pandora项目也是一个部署在国外的ChatGPT代理服务。它通过各种优化绕过了官方API的访问限制。
  • 如果直接从国内调用这些模型API,会出现连接错误或超时的情况。所以需要通过代理服务进行转发,实现国内调用国外API。
  • 对于SolidUI的ModelUI模块来说,可以配置使用chatanywhere或pandora等项目提供的免费代理服务,实现国内正常调用ChatGPT等模型。
  • 另一种方法是直接把SolidUI部署在国外服务器上,这样ModelUI模块可以直接调用官方API,不需要代理。但需要承担部署运维成本。
  • 总结来说,模型代理的目的是帮助国内用户顺畅调用部署在国外的模型API。SolidUI的ModelUI模块可以通过配置代理服务避免国内调用API的限制。

推荐模型代理开源项目

  • chatanywhere/GPT_API_free
  • pengzhile/pandora

如果成为贡献者

  • 官方文档贡献。发现文档的不足、优化文档,持续更新文档等方式参与社区贡献。通过文档贡献,让开发者熟悉如何提交PR和真正参与到社区的建设。参考攻略:https://github.com/CloudOrc/SolidUI/discussions/54
  • 代码贡献。我们梳理了社区中简单并且容易入门的的任务,非常适合新人做代码贡献。请查阅新手任务列表:https://github.com/CloudOrc/SolidUI/issues/12
  • 内容贡献:发布SolidUI开源组件相关的内容,包括但不限于安装部署教程、使用经验、案例实践等,形式不限,请投稿给小助手。例如:https://github.com/CloudOrc/SolidUI/issues/10
  • 社区答疑:积极在社区中进行答疑、分享技术、帮助开发者解决问题等;
    其他:积极参与社区活动、成为社区志愿者、帮助社区宣传、为社区发展提供有效建议等;


举报

相关推荐

0 条评论