侧边栏壁纸
博主头像
少年听雨的博客博主等级

天地本宽,而鄙者自隘。

  • 累计撰写 33 篇文章
  • 累计创建 1 个标签
  • 累计收到 0 条评论

目 录CONTENT

文章目录

搭建一个GPT的聚合应用

少年听雨歌楼上
2024-07-30 / 0 评论 / 0 点赞 / 27 阅读 / 5705 字

前言

Lobe Chat是一个现代化设计的开源 ChatGPT/LLMs 聊天应用与开发框架
支持语音合成、多模态、可扩展的(function call)插件系统
一键免费拥有你自己的 ChatGPT/Gemini/Claude/Ollama 应用
支持以下功能:

  1. 多模型服务商支持
  2. 支持本地大语言模型 (LLM)
  3. 模型视觉识别 (Model Visual)
  4. TTS & STT 语音会话
  5. Text to Image 文生图
  6. 插件系统 (Function Calling)
  7. 助手市场 (GPTs)
  8. 渐进式 Web 应用 (PWA)
  9. 移动设备适配
  10. 自定义主题
    image-1718191723154
    今天就结合免费的chatgpt-api来在自己服务器搭建一个这样的应用

官方Demo

https://chat-preview.lobehub.com/

准备条件

1)一台服务器
2)本项目的github
https://github.com/lobehub/lobe-chat
3)本项目用到的免费API
https://github.com/chatanywhere/GPT_API_free
image-1718192370799

需要自己有github账号并用账号登录才可以获取到免费API

image-1718192579789

注意事项:

免费版支持gpt-3.5-turbo, embedding, gpt-4。其中gpt-4由于价格过高,每天限制3次调用(0点刷新)。需要更稳定快速的gpt-4请使用付费版。
免费版gpt-4由gpt-4o提供服务,支持识图等付费版API全部功能。
转发Host1: https://api.chatanywhere.tech (国内中转,延时更低,host1和host2二选一)
转发Host2: https://api.chatanywhere.com.cn (国内中转,延时更低,host1和host2二选一)
转发Host3: https://api.chatanywhere.cn (国外使用,国内需要全局代理)
免费API Key限制100请求/天/IP&Key调用频率(gpt和embedding分开计算,各100次)

Docker环境部署

在vps安装docker和docker-compose ,可以查看这篇文章:
https://blog.snty.de/archives/ccc90aff-4c78-48d0-aba0-e887d787eed3

创建docker-compose.yml文件

mkdir /root/data/docker_data/lobechat
cd /root/data/docker_data/lobechat  #创建一个目录,并进入此目录
vim ./docker-compose.yml
version: '3.9'
services:
    lobe-chat:
        image: lobehub/lobe-chat
        container_name: lobe-chat
        environment:
            - ACCESS_CODE=123456  #密码设置
            - 'OPENAI_PROXY_URL=https://api.chatanywhere.tech' #代理地址
            - OPENAI_API_KEY=你自己的key  #api
        ports:
            - '3210:3210'

运行

docker-compose up -d #运行容器
docker-compose ps  #查看是否开启成功

正常启动如下所示

docker-compose ps
WARN[0000] /root/lobe-chat/docker-compose.yml: `version` is obsolete 
NAME        IMAGE               COMMAND                  SERVICE     CREATED          STATUS          PORTS
lobe-chat   lobehub/lobe-chat   "docker-entrypoint.s…"   lobe-chat   39 minutes ago   Up 39 minutes   0.0.0.0:3210->3210/tcp, :::3210->3210/tcp

打开web页面使用

成功以后需要打开自己相应的端口(3210)防火墙就可以web端访问了

http://ip:3210  #打开自己VPS的端口加ip进入web页面

image-1718192887637

选择免费的GPT-3.5 Turbo模型使用
image-1718192975943

绑定域名

域名绑定可以看这篇
https://blog.snty.de/archives/84153d26-628f-4f2a-8a36-c9646d2bb11c

0

评论区