背景:目前deepseek非常火,但如果本地部署7B以上的模型,需要的资源比较厉害。因此,免费或者较低成本使用deepseek官方或者其他云服务商的api成为大家的选择。目前deepseek官方的较为繁忙卡顿,通过比较,阿里云的百炼空间有6个月200万token的免费试用,一次本文以此为基础进行对接。

一、nginx进行api转发
1、原因:阿里云的百炼空间兼容openai的api非标准格式的api,导致无法直接使用。因此以nginx进行路径转发,以达到可以直接使用的目的。如果是类似于deepseek官方或者腾讯云知识引擎原子能力等完全兼容oepnai的api,则不需要进行该操作。

2、nginx配置文件:

server {
    resolver 223.5.5.5;
    # 监听端口,根据实际情况配置
    listen 85;
    # 域名,根据实际情况配置
    server_name wwww.aaa.com;

    location /v1/chat/completions {
        # 启用代理
        proxy_pass https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions;
        
        # 设置代理请求头
        proxy_set_header Host dashscope.aliyuncs.com;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;

        # 超时设置
        proxy_connect_timeout 60s;
        proxy_read_timeout 60s;
        proxy_send_timeout 60s;

        # 如果是 HTTPS,可能需要以下配置
        proxy_ssl_server_name on;
        proxy_ssl_protocols TLSv1 TLSv1.1 TLSv1.2 TLSv1.3;
        # 禁用缓存
        proxy_cache off;
        proxy_no_cache 1;

        # 允许较大的请求体
        client_max_body_size 10m;
    }
}

二、chatgpt-web-midjourney-proxy对接
1、安装好docker环境,配置好镜像源,直接启动docker镜像:

docker run --restart always --name aliyun-ai -v $服务器文件暂存地址  -d -p 12345:3002 -e OPENAI_API_KEY=阿里云提供的apikey -e OPENAI_API_BASE_URL=http://www.aaa.com:85 --add-host=www.aaa.com:172.17.0.1 -e AUTH_SECRET_KEY=$网页访问密码 ydlhero/chatgpt-web-midjourney-proxy

2、红框标注的地方填入模型名称,具体名称在阿里云百炼空间中获取

3、完成后即可勾选使用。