cf openai azure proxy

cf-openai-azure-proxy

English | 中文

大多數OpenAI 客戶端不支持Azure OpenAI Service，但Azure OpenAI Service的申請和綁卡都非常簡單，並且還提供了免費的額度。此腳本使用免費的Cloudflare Worker 作為代理，使得支持OpenAI 的客戶端可以直接使用Azure OpenAI Service。

支持模型:

• GPT-3
• GPT-4
• DALL-E-3

模型子類添加非常容易, 參考下面的使用說明

項目說明:

• 我沒有服務器可以使用嗎?
  • 這段腳本跑在Cloudflare Worker, 不需要服務器, 不需要綁卡, 每天10W次請求免費
• 我沒有自己的域名可以使用嗎?
  • 也可以, 參考: #3
• 實現打印機模式：
  • Azure OpenAI Service's 回復是一段一段回复的
  • 返回給客戶端的時候， 本項目拆出一條條的消息, 依次給， 達到打印機模式
• 項目也支持Docker 部署（基於wrangler）

部署

代理OpenAI 的請求到Azure OpenAI Serivce，代碼部署步驟：

1. 註冊並登錄到Cloudflare 賬戶
2. 創建一個新的Cloudflare Worker
3. 將cf-openai-azure-proxy.js 複製並粘貼到Cloudflare Worker 編輯器中
4. 通過修改或環境變量調整resourceName 和deployment mapper 的值
5. 保存並部署Cloudflare Worker
6. #3可選綁定自定義域名: 在Worker 詳情頁-> Trigger -> Custom Domains 中為這個Worker 添加一個自定義域名

使用說明

先得到resourceName 和deployment mapper, 登錄到Azure的後台:

這裡有兩種做法:

• 直接修改他們的值, 如:

 // The name of your Azure OpenAI Resource.
const resourceName = "codegpt"

// deployment model mapper
const mapper = {
     'gpt-3.5-turbo' : 'gpt3' ,
     'gpt-4' : 'gpt4' ,
     'dall-e-3' : 'dalle3' 
   } ;
其他的map规则直接按这样的格式续写即可

• 或者通過cloudflare worker 控制台, 進入Workers script > Settings > Add variable under Environment Variables.

  

客戶端

以OpenCat 為例: 自定義API 域名填寫第六步綁定的域名:

我已經嘗試了多種客戶端, 如果遇到其他客戶端有問題, 歡迎創建issue.