openai的跨域转发教程

news/2024/5/20 7:21:52 标签: node.js, openai, gpt

openai_0">openai的跨域转发教程

文章目录

  • openai的跨域转发教程
    • 前言
    • 1.中转服务器的配置:
    • 配置转发
    • 调用:

前言

这个帖子主要是记录一下操作步骤,要不然时间久了我根本记不住,又得重新问gpt
主要是有些主机的IP无法直接访问openai,或者其他模型的api,官方默认的url被他们禁的死死的,所以需要一个中转的IP。
为此,我特意整了一个便宜的中转服务器。
openai的base_url为例:https://api.openai.com/v1/chat/completions
好了,我们现在有一个能访问openai的中转服务器A,公网IP为122.122.122.122,有一个本地服务器B,还需要一个域名,假设是abc.com。

这时候要配置的步骤还是比较复杂的,一条一条的梳理。

1.中转服务器的配置:

  1. 开启对外端口,假设是2222;
    这个需要在你的服务器管理后台设定,tcp的端口,至于防火墙啥的,我不太记得了。
  2. 域名的转发。
    你需要将自己的域名abc.com的请求,转接到api.openai.com中,并且还要处理跨域的问题。
    假设你的域名托管在cloudflare中,这时候需要你在DNS中,设定一个A标签,假设是openai,然后IP地址设置为中转服务器的公网IP,122.122.122.122。 Proxy status不选择。至于有没有风险我还不太清楚,主要是这条路我走通了。
  3. Caddy反代
    第二步已经将openai.abc.com的请求配置到了IP122.122.122.122的IP了。现在需要将本地的端口对接到这个这个域名。我们可以选择免费的caddy反代,可以自动配置免费的ssl证书,非常舒服。
    操作步骤也有几步:
  4. 创建caddy文件夹。并且进入目录。
  5. vim docker-compose.yml
    填入:
services:
  caddy:
    image: caddy:alpine
    container_name: caddy
    ports:
      - 80:80
      - 443:443
    volumes:
      - ./Caddyfile:/etc/caddy/Caddyfile
      - ./data:/data/caddy
    user: "1000"
    restart: always
    environment:
      TZ: Asia/Shanghai
networks:
  default:
    external: true
    name: net
  1. 创建docker的桥接网络:docker network create net

  2. vim Caddyfile
    填入:

openai.abc.com {
  encode gzip
  reverse_proxy 122.122.122.122:2222
}
  1. 启动caddy的docker:docker compose up --force-recreate --build -d

配置转发

接下来要配置具体的跨域转发。

  1. 安装Node.js
    确保你的开发环境中已经安装了Node.js。如果还没有安装,你可以从Node.js官网下载并安装它。我系统是Ubuntu22.04.3,node.js安装的是v12.22.9。

  2. 创建项目目录:
    mkdir proxy-server
    cd proxy-server

  3. 初始化Node.js项目
    在项目目录中,运行以下命令来初始化一个新的Node.js项目并创建package.json文件:
    npm init -y

  4. 安装依赖
    你需要安装express和http-proxy-middleware。使用以下命令安装这些依赖。
    npm install express http-proxy-middleware

  5. 创建server.js文件
    打开server.js文件并添加以下代码:

const express = require('express');
const { createProxyMiddleware } = require('http-proxy-middleware');

// 创建Express应用
const app = express();

// 定义代理中间件选项
const proxyOptions = {
  target: 'https://api.openai.com', // 目标主机
  changeOrigin: true, // 需要虚拟主机站点
};

// 使用中间件将特定请求转发到目标API
app.use('/api', createProxyMiddleware(proxyOptions));

// 设置端口
const PORT = process.env.PORT || 2222;

// 启动服务器
app.listen(PORT, () => {
  console.log(`Server is running on port ${PORT}`);
});
  1. 运行服务
    使用以下命令启动你的服务:
    node server.js
    如果是在后台启动的话,可以用:
    nohup node server.js >> output.log 2>&1 &

调用:

这时候只需要将openai的base_url(https://api.openai.com/v1/chat/completions)替换成你的url就行了:

# openai.base_url = 'https://api.openai.com/v1/chat/completions'
openai.base_url = 'https://openai.abc.com/v1/chat/completions'

完美,也许帮不到大家,但我自己做了一个比较完整的记录。


http://www.niftyadmin.cn/n/5472502.html

相关文章

【项目新功能开发篇】需求分析和开发设计

作者介绍:本人笔名姑苏老陈,从事JAVA开发工作十多年了,带过大学刚毕业的实习生,也带过技术团队。最近有个朋友的表弟,马上要大学毕业了,想从事JAVA开发工作,但不知道从何处入手。于是&#xff0…

Linux之shell脚本编辑工具awk

华子目录 概念工作流程工作图流程(按行处理) awk程序执行方式1.通过命令行执行awk程序实例 2.awk命令调用脚本执行实例 3.直接使用awk脚本文件调用实例 awk命令的基本语法格式BEGIN模式与END模式实例awk的输出 记录和域(记录表示数据行&#…

【办公类-21-12】 2024045三级育婴师 351道判断题 UIBOT下载+整理

背景需求 背景需求 培训机构提供了两个理论学习素材 问题: 1、电子稿:打印页数很多,按章节,题型混在一起的,只有答案,没有说明, 2、APP版,操作方便,有错题集&#xff0…

notepad++绿色版添加右键菜单

解压路径 D:\Green\notepad_v8.0_x64_绿色版 添加右键菜单.reg 新建nodepad添加右键菜单.reg文件 Windows Registry Editor Version 5.00[HKEY_CLASSES_ROOT\*\shell\NotePad] "Edit with &Notepad" "Icon""D:\\Green\\notepad_v8.0_x64_绿色版…

Java @Data 注解详细说明

Data 注解是 Lombok 提供的一个组合注解&#xff0c;它会为类自动生成一些常见方法的样板代码&#xff0c;包括 getter、setter、equals、hashCode 和 toString 方法。 引入依赖 <dependency><groupId>org.projectlombok</groupId><artifactId>lombok…

sfml sdl2 windows vscode 调试和coderunner插件运行

链接库写在编译链接命令里&#xff0c;如果没有使用到不会加入到生成的可执行文件里。所以tasks.json可以这样写&#xff0c; {"version": "2.0.0","tasks": [{"type": "cppbuild","label": "C/C: g.exe 生…

day63 单调栈part02

503. 下一个更大元素 II 中等 给定一个循环数组 nums &#xff08; nums[nums.length - 1] 的下一个元素是 nums[0] &#xff09;&#xff0c;返回 nums 中每个元素的 下一个更大元素 。 数字 x 的 下一个更大的元素 是按数组遍历顺序&#xff0c;这个数字之后的第一个比它更…

新版HI3559AV100开发注意事项(三)

新版HI3559AV100开发注意事项&#xff08;三&#xff09; 十九、用的sdk是Hi3559V200_MobileCam_SDK_V1.0.1.5 播放AAC音频文件&#xff0c;adec->ao;adec的初始化里面包括了aaclc解码器的注册&#xff0c;可是在HI_MPI_ADEC_RegisterDecoder(&s32Handle, &stAac);…