aws openai

OpenAI代碼樣本

AEXT + AWS無服務器完整堆棧實現了官方OpenAI API文檔中發現的示例應用程序。有關詳細信息，請參見此系統架構圖。這是YouTube頻道“與勞倫斯的完整堆棧”和不列顛哥倫比亞大學課程“人工智能雲技術實施”的教學工具。

Quickstart

使用Linux，Windows和MacOS環境。

1. 驗證項目要求：AWS帳戶和CLI訪問，Terraform，Python 3.11，NPM和Docker組成。

2. 查看並編輯主地Terraform配置文件。

3. 在存儲庫中make並將您的憑據添加到新創建的.env文件中。

4. 初始化，構建並運行應用程序。

 git clone https://github.com/FullStackWithLawrence/aws-openai.git
make        # scaffold a .env file in the root of the repo
make init   # initialize Terraform, Python virtual environment and NPM
make build  # deploy AWS cloud infrastructure, build ReactJS web app
make run    # run the web app locally in your dev environment 

特徵

• 完成OpenAI API ：部署準備生產的API，以集成OpenAI的完整服務套件，包括Chatgtp，Dall·E，Whisper和TTS。

• Langchain集成：一個簡單的API端點，用於構建上下文感知，使用Langchain靈活的抽象和AI-First Toolkit的推理應用程序。使用此端點來開發各種應用程序，從聊天機器人到提問系統。

• 動態聊天提示：簡單的Terraform模板可創建高度預先陳述的聊天機器人。在幾分鐘內編程和皮膚您自己的自定義聊天應用程序。

• 函數調用：OpenAI迄今為止最高級的集成功能。 OpenAI API函數調用是一項功能，使開發人員能夠將自己的自定義Python函數集成到聊天響應的處理中。例如，當由OpenAI的GPT-3模型提供動力的聊天機器人正在生成響應時，它可以調用這些自定義Python函數來執行特定的任務或計算，然後將這些功能的結果包括在其響應中。此功能強大的功能可用於創建更具動態和交互式的聊天機器人，該聊天機器人可以執行諸如獲取實時數據，執行計算或與其他API或服務互動之類的任務。有關其他文檔和示例，請參見python源代碼，包括官方OpenAI API文檔中的“ get_current_weather（）”

• 函數調用插件：我們創建了自己的基於YAML的“插件”模型。有關詳細信息，請參見此示例插件和此文檔，或在此實時網站上嘗試一下。 YAML模板可以在本地存儲，也可以從安全的AWS S3存儲桶中提供。您會在此處找到一組有趣的示例插件。

ReactJS聊天應用程序

完整的源代碼和文檔位於這裡。

React應用程序利用Vite.js， @chatscope/chat-ui-kit-react和react-pro-sidebar。

WebApp密鑰功能

• 強大的，高度可定制的聊天功能
• 一個用於實施自己高度個性化的OpenAI應用的組件模型
• 每個應用程序可淺UI
• 包括每個應用程序的默認資產
• 小型緊湊型代碼庫
• 來自自定義REST API的非2000響應代碼的強大錯誤處理
• 處理直接文本輸入以及文件附件
• 信息鏈接到OpenAI API官方代碼樣本
• 用Vite進行了構建Deploy

定制OpenAi REST API後端

完整的文檔位於這裡。 Python代碼位於這裡

使用模塊化的Terraform方法，從官方OpenAI API文檔中實施30個示例應用程序中的每一個中的REST API。利用Openai的AI型號，包括GPT-3.5，GPT-4，DALL·E，耳語，嵌入和節制。

API密鑰功能

• Python的OpenAI API庫。 Langchain啟用了指定的API端點。
• 基於Pydantic的CI-CD友好設置配置類，該類別從多個來源中始終如一地自動管理Python Lambda初始化，包括Bash Environment變量， .env和terraform.tfvars文件。
• CloudWatch日誌記錄
• Terraform完全自動化和參數化構建。通常會在不到一分鐘的時間內建立基礎架構。
• 安全：使用基於AWS角色的安全性和自定義IAM策略。在所有環境中（開發，測試，CI-CD，產品）中對秘密和敏感數據的最佳練習處理。基於代理的API隱藏您的OpenAI API呼叫和憑據。具有AWS管理的SSL/TLS證書在HTTP上運行。
• 出色的文檔
• AWS無服務器實現。在大多數情況下免費或幾乎免費
• 部署到自定義域名

要求

• git。預安裝在Linux和MacOS上
• 製作。預安裝在Linux和MacOS上。
• AWS帳戶
• AWS命令行接口
• Terraform。如果您是Terraform的新手，請看到AWS和Terraform的入門
• OpenAI平台API密鑰。如果您是OpenAI API的新手，請查看如何獲得OpenAI API密鑰
• Python 3.11：用於創建用於構建AWS lambda層的虛擬環境，並在本地通過預先承諾的Linters和Code Formatters進行本地。
• NODEJS：與NPM一起用於本地ReactJS開發人員環境，並用於配置/測試語義發布。
• Docker組成：由自動化地Terraform過程使用，為OpenAI和Langchain創建AWS lambda層。

可選要求：

• Google Maps API密鑰。這是使用OpenAI API函數調用編碼示例，“ get_current_weather（）”。
• Pinecone API鍵。這用於OpenAI API嵌入示例。

文件

每個端點的詳細文檔可用：文檔

支持

要獲得社區支持，請轉到此項目的官方問題頁面。

良好的編碼最佳實踐

該項目展示了在團隊環境中管理基於任務至關重要的雲的微型服務的各種好的編碼最佳實踐，即其遵守12因子方法。有關其他詳細信息，請參閱此代碼管理最佳實踐。

我們希望使學生和學習者更容易成為一種教學工具，同時又不向任何合併權限的人添加不適當的代碼審查工作負載。為此，我們還添加了幾個預要的代碼裁縫和代碼樣式執行工具，以及用於包裝依賴項，拉出請求評估和語義版本的版本維護的自動化過程。

貢獻

我們歡迎捐款！無論您的背景如何，您都有多種參與的方法。除了提取請求外，該項目還將受益於專注於文檔以及如何創建視頻內容，測試，社區參與和管家的貢獻者，以幫助我們確保我們遵守AI道德使用的不斷發展的標準。

對於開發人員，請參閱：

• 開發人員設置指南
• 這些提交評論指南？？？用於管理自動語義版本的CI規則。

您也可以直接聯繫勞倫斯·麥克丹尼爾（Lawrence McDaniel）。截至2024年2月：代碼組成：

 -------------------------------------------------------------------------------
Language                     files          blank        comment           code
-------------------------------------------------------------------------------
Python                          29            732            722           2663
HCL                             30            352            714           2353
Markdown                        52            779              6           2344
YAML                            23            112            149           1437
JavaScript                      39            114            127           1088
JSX                              6             45             47            858
CSS                              5             32             14            180
make                             1             27             30            120
Text                             6             13              0            117
INI                              2             15              0             70
HTML                             2              1              0             65
Jupyter Notebook                 1              0            186             48
Bourne Shell                     5             17             55             47
TOML                             1              1              0             23
Dockerfile                       1              4              4              5
-------------------------------------------------------------------------------
SUM:                           203          2,244          2,054         11,418
-------------------------------------------------------------------------------