ClassGPT

classgpt

私の講義スライドのChatGpt

LlamaindexとLangchainを搭載した、流線で構築されています。

Openaiの最新のChatGPT APIを使用します。

Athensgptに触発されました

アプリデモ

demo.mp4

これがどのように機能するか

1. pypdfを使用したpdfを解析します
2. llamaindexのGPTSimpleVectorIndexによるインデックス構造
   • text-embedding-ada-002モデルは、埋め込みを作成するために使用されます
   • 詳細については、Vector Store Indexページを参照してください
   • これがサンプルインデックスです
3. インデックスとファイルはS3に保存されます
4. インデックスを照会します
   • 最新のChatGPTモデルgpt-3.5-turboを使用します

使用法

構成と秘密

1. AWSを構成する（QuickStart）

    aws configure

2. ユニークな名前のS3バケットを作成します

3. コードベースのバケット名を変更します（作成したものにbucket_name = "classgpt"を探します。

4. [.env.local.example]を.envに変更し、Openai資格情報を追加します

ローカル

1. Python envを作成します

    conda create -n classgpt python=3.9
    conda activate classgpt

2. 依存関係をインストールします

    pip install -r requirements.txt

3. Riremlitアプリを実行します

    cd app/
    streamlit run app/01_❓_Ask.py

Docker

別の方法では、Dockerを使用できます

    docker compose up

次に、新しいタブを開き、http：// localhost：8501/に移動します

トト

• アプリのローカルモード（S3なし）
  • ローカルモードとS3モードを切り替えるためのグローバル変数use_s3
• クラウドを合理化するためにアプリを展開します
  • OpenAIキー用の入力ボックスがあります
  • PyarrowローカルFSを使用してファイルを保存します
• 新しいLangchainアップデートのコードを更新します
• カスタムプロンプトと微調整設定
  • モデルパラメーターを調整するための設定ページを作成し、カスタムプロンプトの例を提供する例
• 複数のファイルでクエリする機能を追加します
  • それらすべてに複数の講義とクエリのインデックスを作成する
  • 既存のすべてのインデックスをループし、作成されていないインデックスを作成し、それらを一緒に作成する
  • 参照
    • Composability - LlamainDexドキュメント
    • gpt_index/composableIndices.ipynb
    • 複数のドキュメントで複雑なクエリをテストします

よくある質問

トークン

トークンは言葉の断片と考えることができます。 APIがプロンプトを処理する前に、入力はトークンに分解されます。これらのトークンは、単語が始まるか終わりの場所で正確に切り取られていません - トークンには、トレーリングスペースやサブワードさえも含まれます。長さの観点からトークンを理解するためのいくつかの有用な経験則を次に示します。

• 1トークン〜=英語の4文字
• 1トークン〜=¾単語
• 100トークン〜= 75ワード
• 1-2文〜= 30トークン
• 1段落〜= 100トークン
• 1,500ワード〜= 2048トークン

Openaiトークネイザーツールをお試しください

ソース

埋め込み

埋め込みは、浮動小数点数のベクトル（リスト）です。 2つのベクトル間の距離は、その関連性を測定します。小さな距離は、高い関連性と広い距離が低い関連性を示唆しています。

text-embedding-ada-002の場合、コストは0.0004 / 1kトークンまたは3000ページ /ドルです

• 埋め込み - Openai API
• 単語と文の埋め込みとは何ですか？

モデル

gpt-3.5-turboモデル（chatgptapi）の場合、コストは$0.002 / 1K tokensです

text-davinci-003モデルの場合、コストは$0.02 / 1K tokensです

• チャットの完了 - Openai API

参照

流線

• St.File_uploaderのアップロード制限を増やします
• St.Cache_Resource-ストリームライトドキュメント
• セッション状態
• Hayabhay/Whisper-UI：OpenaiのささやきのためのUIの流線

deplyoment

• RestreamLit Deployment Guide（Wiki） - 展開 - Riremlit
• AWSに照明付きアプリケーションを展開する方法は？パート3

llamaindex

• llamaindexの使用パターン
• インデックスの保存

データの読み込み

• PDFローダー
• llama-hub githubレポ
• ドキュメントクラス
• pdfreaderクラス

マルチモーダル

• llama_index/multimodal.ipynb at main

chatgpt

• gpt_index/simpleindexdemo-chatgpt.ipynb

ラングチェーン

• gpt_index/langchaindemo.ipynb
• Openaichat

boto3

• boto3 file_uploadファイルが存在するかどうかを確認します
• ボト3：リソース対クライアント
• S3バケットにファイルするためにJSONを書きます

Dockerのもの

• Amazon Web Services- AWS資格情報をDockerコンテナに渡す最良の方法は何ですか？
• docker-compose up frowing for：error：rustコンパイラが見つからない＃572・acheong08/chatgpt
• Linux-DockerにRust Toolchainをインストールすると、Bash sourceコマンドが機能しません
• ソフトウェアのインストール - 「[y/n]を続けたいですか？」なしでaptでパッケージをインストールする方法プロンプト？ - ubuntuに聞いてください
• dockerコンテナ内でsudoを使用する方法は？