Awesome Prompt Engineering

素晴らしい迅速なエンジニアリング？

このリポジトリには、生成事前トレーニングトランス（GPT）、ChatGPT、Palmなどに焦点を当てたプロンプトエンジニアリング用のハンドキュレーションリソースが含まれています

   Prompt Engineering Course is coming soon..

目次

• 論文
• ツールとコード
• API
• データセット
• モデル
• AIコンテンツ検出器
• 教育
  • コース
  • チュートリアル
• ビデオ
• 本
• コミュニティ
• 貢献する方法

論文

？

• 迅速なエンジニアリングテクニック：

  • 迅速なエンジニアリングのためのテキストマイニング：PLMS [2023]（ACL）を介したテキスト編成オープンナレッジグラフの完了
  • chatgpt [2023]（arxiv）を使用した迅速なエンジニアリングを強化するためのプロンプトパターンカタログ
  • ハードプロンプトが簡単になりました：迅速な調整と発見のためのグラデーションベースの離散最適化[2023]（arxiv）
  • 合成プロンプト：大規模な言語モデルのために考えられたチェーンデモンストレーション[2023]（arxiv）
  • プログレッシブプロンプト：言語モデルの継続的な学習[2023]（arxiv）
  • バッチプロンプト：LLM APIによる効率的な推論[2023]（arxiv）
  • 複雑な質問の断続的な連続的なプロンプト[2022]（arxiv）
  • 構造化プロンプト：1,000の例[2022]（arxiv）へのコンテキスト内学習のスケーリング
  • 大規模な言語モデルは人間レベルのプロンプトエンジニアです[2022]（arxiv）
  • 何でも聞いてください：言語モデルを促すための簡単な戦略[2022]（arxiv）
  • GPT-3を信頼できる2022に促します
  • 分解されたプロンプト：複雑なタスクを解決するためのモジュラーアプローチ[2022]（arxiv）
  • PROMPTCHAINER：視覚的なプログラミングを通じて大きな言語モデルのプロンプト[2022]（arxiv）をチェックする
  • 拡散モデルでの迅速なエンジニアリング[2022]（arxiv）の調査
  • あなたの作品を示す：言語モデルを使用した中間計算のためのスクラッチパッド[2021]（arxiv）
  • gptkの言語[2021]（arxiv）への指導プロンプトを再構成する
  • 幻想的に注文されたプロンプトとそれらを見つける場所：いくつかのショットプロンプトの注文感度を克服する[2021]（arxiv）
  • パラメーター効率の高いプロンプトチューニングのためのスケールの力[2021]（arxiv）
  • 大規模な言語モデルの迅速なプログラミング：少数のショットパラダイムを超えて[2021]（arxiv）
  • プレフィックス調整：生成の連続プロンプトの最適化[2021]（arxiv）

• 推論とコンテキスト学習：

  • 言語モデルのマルチモーダルチェーンの推論[2023]（arxiv）
  • 二度目の考えでは、段階的に考えないでください！ゼロショット推論におけるバイアスと毒性[2022]（arxiv）
  • React：言語モデルでの相乗的推論と行動[2022]（arxiv）
  • 言語モデルは貪欲な推論者：考え方の体系的な正式な分析[2022]（arxiv）
  • 言語モデルをより良い推論者にすることの進歩[2022]（arxiv）
  • 大規模な言語モデルはゼロショット推論です[2022]（arxiv）
  • プログラム執行者のような推論[2022]（arxiv）
  • 言語モデルの一連の思考の推論を改善する[2022]（arxiv）
  • デモンストレーションの役割を再考する：コンテキスト内学習が機能する理由は何ですか？ [2022]（arxiv）
  • 説明を学ぶ：科学質問のための思考チェーンによるマルチモーダル推論[2022]（arxiv）
  • 促す一連の思考は、大規模な言語モデルで推論を引き出す[2021]（arxiv）
  • コモンセンスな推論を促す生成された知識[2021]（arxiv）
  • バーテス：バートと話すことを学ぶ[2021]（ACL）

• 言語モデルの評価と改善：

  • 大規模な言語モデルは、無関係なコンテキスト[2023]（arxiv）によって簡単に気を散らすことができます
  • 言語モデルの内部知識ベース[2023]（arxiv）をrawる
  • モデル作成された評価で言語モデルの動作を発見[2022]（arxiv）
  • 使用前にキャリブレーション：言語モデルの少数のショットパフォーマンスの向上[2021]（arxiv）

• 言語モデルのアプリケーション：

  • 言い換えて応答する：大規模な言語モデルに自分自身のためにより良い質問をする[2023]（arxiv）
  • マルチモーダルの憎しみのミーム分類[2023]（arxiv）のプロンプト
  • 場所：ソーシャル会話の統合のための言語モデルを促す[2023]（arxiv）
  • コントロール可能な共感的対話生成のためのコモンセンスに意識される促し[2023]（arxiv）
  • PAL：プログラム支援言語モデル2023
  • 多言語の法的判断予測のための法的迅速なエンジニアリング[2023]（arxiv）
  • Copilotとの会話：自然言語を使用したCS1問題を解決するための迅速なエンジニアリング[2022]（arxiv）
  • スクラッチ事前訓練を受けた言語モデル[2022]（ACL）から書き込みをプロットする
  • Autoprompt：自動的に生成されたプロンプト[2020]（arxiv）で言語モデルから知識を引き出す

• 脅威の検出と敵対例：

  • 憲法AI：AIフィードバックからの無害[2022]（arxiv）
  • 以前のプロンプトを無視する：言語モデルの攻撃技術[2022]（arxiv）
  • 機械生成テキスト：脅威モデルと検出方法の包括的な調査[2022]（arxiv）
  • 手作りの敵対例[2022]（arxiv）を介して、事前に訓練された言語モデルの感受性を評価する
  • 生成的プロンプトベースの推論による毒性検出[2022]（arxiv）
  • どの言語モデルが知っているかをどうやって知ることができますか？ [2020]（MIT）

• 少ないショット学習とパフォーマンスの最適化：

  • PROMPTAGATOR：8つの例[2022]（arxiv）からの少数の密集した検索
  • テキストの推論のための少数のショットのプロンプトの説明の信頼性[2022]（arxiv）
  • 事前に訓練された言語モデルをより良い少ないショット学習者[2021]（ACL）
  • 言語モデルは少数のショット学習者です[2020]（arxiv）

• 画像生成へのテキスト：

  • テキストからイメージの生成のための迅速な修飾子の分類[2022]（arxiv）
  • 迅速なエンジニアリングテキストから画像への生成モデルの設計ガイドライン[2021]（arxiv）
  • 潜在的拡散モデルを使用した高解像度画像合成[2021]（arxiv）
  • DALL・E：テキストから画像を作成[2021]（arxiv）

• 音楽/サウンド世代へのテキスト：

  • Musiclm：テキストからの音楽の生成[2023]（arxiv）
  • ernie-music：拡散モデルを備えたテキストツーウェーブフォームの音楽生成[2023]（arxiv）
  • noise2music：拡散モデルを備えたテキストコンディショニング音楽生成[2023）（arxiv）
  • Audiolm：オーディオ生成への言語モデリングアプローチ[2023]（arxiv）
  • make-an-audio：迅速な拡散モデル[2023]（arxiv）を備えたテキストからオーディオの生成

• ビデオ生成へのテキスト：

  • Dreamix：ビデオ拡散モデルは一般的なビデオ編集者[2023]（arxiv）です
  • Tune-A-Video：テキストからビデオへの生成のための画像拡散モデルのワンショットチューニング[2022]（arxiv）
  • noise2music：拡散モデルを備えたテキストコンディショニング音楽生成[2023）（arxiv）
  • Audiolm：オーディオ生成への言語モデリングアプローチ[2023]（arxiv）

• 概要：

  • パイロットカピローとコーデックス：温度、コールドプロンプト、または黒魔術？ [2022]（arxiv）

ツールとコード

？

名前	説明	URL
llamaindex	LlamainDexは、LLMを備えた大規模な外部知識ベースを簡単に使用できるように設計された一連のデータ構造で構成されるプロジェクトです。	[github]
迅速に	LLMでNLPの問題を解決し、GPT、Palmなどの一般的な生成モデルのさまざまなNLPタスクプロンプトを簡単に生成します。	[github]
Arize-Phoenix	ノートブック環境で実行されるMLの観測可能性のためのオープンソースツール。 LLM、CV、および表形式モデルを監視および微調整します。	[github]
より良いプロンプト	LLMプロンプトのテストスイートは、それらをProdに押し込む前に	[github]
cometllm	LLMプロンプト、プロンプトテンプレート、プロンプト変数、メタデータなどをログ、視覚化、および評価します。	[github]
埋め込み	データセット上にボットのようなchatgptを作成するフレームワーク	[github]
インタラクティブな構成Explorerx	ICEは、言語モデルプログラム用のPythonライブラリとトレースVisualizerです。	[github]
ヘイスタック	LLMSとトランスを使用してデータと対話するためのオープンソースNLPフレームワーク。	[github]
Langchainx	複合性を通じてLLMを使用したアプリケーションを構築します	[github]
OpenPrompt	プロンプトラーニングのオープンソースフレームワーク	[github]
プロンプトエンジン	このレポは、大規模な言語モデル（LLM）のプロンプトを作成および維持するためのNPMユーティリティライブラリが含まれています。	[github]
PromptInject	PromptInjectは、モジュール式の方法でプロンプトを組み立てるフレームワークであり、LLMの堅牢性の定量的分析を敵対的な迅速な攻撃に提供します。	[github]
AIをプロンプトします	GPT-3の高度な遊び場	[github]
プロンプトソース	PromptSourceは、自然言語のプロンプトを作成、共有、使用するためのツールキットです。	[github]
思考ソース	機械思考の科学のためのフレームワーク	[github]
プロンプトメテウス	ワンショットプロンプトエンジニアリングツールキット	[道具]
ai config	LLMSを使用してアプリケーションを構築するためのオープンソース構成ベースのフレームワーク	[github]
ラストマイルAI	さまざまなモダリティ（テキスト、スピーチ、オーディオ、画像）でLLMと対話するためのノートブックのような遊び場）	[道具]
Xpulsai	スケーラブルなAIアプリを簡単に構築します。 AI＆MLのAutoopsプラットフォーム	[道具]
エージェラ	Agentaは、迅速な管理、評価、人間のフィードバック、展開のためのツールを備えたオープンソースLLM開発者プラットフォームです。	[github]
プロンプトタイプ	LLM {Structured}タスクを開発、テスト、監視する	[道具]

API

名前	説明	URL	有料またはオープンソース
Openai	Gpt-n自然言語のタスクの場合、コーデックスコードに自然言語を翻訳し、元の画像を作成および編集するためのdall・e	[Openai]	有料
Cohereai	Cohereは、1つのAPIを介して高度な大規模な言語モデルとNLPツールへのアクセスを提供します	[Cohereai]	有料
人類	近日公開	[人類]	有料
flan-t5 xxl	近日公開	[Huggingface]	オープンソース

データセット

？

名前	説明	URL
P3（プロンプトのパブリックプール）	P3（プロンプトのパブリックプール）は、NLPタスクの多様なセットをカバーするプロンプトの英語データセットのコレクションです。	[Huggingface]
素晴らしいchatgptプロンプト	Repoには、ChatGptを使用するためのChatGptプロンプトキュレーションが含まれています。	[github]
プロンプトを書く	オンラインフォーラム（Reddit）からのプロンプトの作成と組み合わせた300Kの人間が書いたストーリーの大きなデータセットのコレクション	[Kaggle]
Midjourneyのプロンプト	Midjourneyの公開Discord Serverから削られたテキストプロンプトと画像URL	[Huggingface]

モデル

？

名前	説明	URL
chatgpt	chatgpt	[Openai]
コーデックス	Codexモデルは、コードを理解および生成できるGPT-3モデルの子孫です。彼らのトレーニングデータには、GitHubからの自然言語と数十億回のパブリックコードの両方が含まれています	[github]
咲く	BigScienceの大規模なオープンサイエンスオープンアクセス多言語言語モデル	[Huggingface]
Facebook LLM	OPT-175Bは、METAで訓練されたGPT-3同等モデルです。これは、1,750億パラメーターを備えた最大の前提条件の言語モデルです。	[アルパ]
gpt-neox	GPT-Neox-20B、パイルで訓練された200億パラメーターの自動再生言語モデル	[Huggingface]
flan-t5 xxl	Flan-T5は命令チューニングモデルです。つまり、プロンプトの一部として指示が与えられたときにゼロショットのような動作を示すことを意味します。	[Huggingface/Google]
xlm-roberta-xl	XLM-Roberta-XLモデルは、100の言語を含む2.5TBのフィルタリングされたCommonCrawlデータで事前に訓練されています。	[Huggingface]
GPT-J	これは、パイルデータセットで訓練されたGPT-2のような因果言語モデルです	[Huggingface]
Palm-rlhf-pytorch	手のひらアーキテクチャの上にRLHF（人間のフィードバックによる補強学習）の実装。基本的にはチャットがありますが、手のひらと	[github]
gpt-neo	MESH-Tensorflowライブラリを使用したモデル平行GPT-2およびGPT-3スタイルモデルの実装。	[github]
Lamda-rlhf-pytorch	PytorchにおけるGoogleのLamdaのオープンソースの事前トレーニング実装。 chatgptに似たRLHFを追加します。	[github]
RLHF	人間のフィードバックからの強化学習の実装（RLHF）	[github]
GLM-130B	GLM-130B：オープンバイリンガルの事前訓練モデル	[github]
mixtral-84b	Mixtral-84Bは、MLPあたり8人の専門家を持つ専門家（MOE）モデルの混合物です。	[Huggingface]

AIコンテンツ検出器

？

名前	説明	URL
AIテキスト分類器	AIテキスト分類器は、CHATGPTなどのさまざまなソースからAIによってテキストが生成された可能性を予測する微調整されたGPTモデルです。	[Openai]
GPT-2出力検出器	これは、Robertaの？/Transformers実装に基づいたGPT-2出力検出器モデルのオンラインデモです。	[Huggingface]
Openai検出器	AI執筆テキストを示すためのAI分類器（OpenAI Detector Pythonラッパー）	[github]

コース

？‍？

• Deeplearning.aiによる、開発者向けのChatGPTプロンプトエンジニアリング
• deeplearning.aiによるビジョンモデルの迅速なエンジニアリング

チュートリアル

• プロンプトエンジニアリングの紹介

  • プロンプトエンジニアリング101-紹介とリソース
  • プロンプトエンジニアリング101
  • Sudalairajkumarによるプロンプトエンジニアリングガイド

• 生成言語モデルの初心者のガイド

  • 生成言語モデルへの初心者向けガイド-Lambdaガイド
  • コター付きの生成AI：パート1-モデルプロンプト

• 迅速なエンジニアリングのベストプラクティス

  • OpenAI APIを使用した迅速なエンジニアリングのベストプラクティス
  • 良いプロンプトを書く方法

• 迅速なエンジニアリングの完全なガイド

  • 大規模な言語モデルの迅速なエンジニアリングの完全な紹介
  • プロンプトエンジニアリングガイド：完璧なプロンプトを設計する方法

• 迅速なエンジニアリングの技術的側面

  • GPT-3を使用した迅速なエンジニアリングの3つの原則
  • ChatGPTプロンプトエンジニアリングの一般的なフレームワーク
  • 迅速なプログラミングの方法

• 迅速なエンジニアリングのリソース

  • 素晴らしいchatgptプロンプト
  • 最高の100以上の安定した拡散プロンプト
  • ダレプロンプトブック
  • Openai Cookbook
  • Microsoftによる迅速なエンジニアリング

ビデオ

？

• 高度なchatgptプロンプトエンジニアリング
• ChatGpt：初心者向けの5つの迅速なエンジニアリング秘密
• CMU Advanced NLP 2022：プロンプト
• 迅速なエンジニアリング - 新しい職業？
• ChatGptガイド：より良いプロンプトで結果を10倍
• 言語モデルとプロンプトエンジニアリング：NLPでのプロンプトメソッドの体系的な調査
• プロンプトエンジニアリング101：オートコンプリート、ゼロショット、ワンショット、および少数のショットプロンプト

コミュニティ

？

• Openaiの不一致
• Promptslab scord
• プロンプトを学ぶ
• r/chatgpt discord
• Midjourneyの不一致

貢献する方法

このリストへの貢献を歓迎します！実際、それが私がそれを作成した主な理由です - 貢献を奨励し、人々が大規模な言語モデル（LLMS）と迅速なエンジニアリングの世界における新しいエキサイティングな開発について情報を提供するために、変更を購読することを奨励するためです。

貢献する前に、貢献ガイドラインを確認してください。これらのガイドラインは、あなたの貢献が当社の目標と一致し、品質と関連性の基準を満たすことを保証するのに役立ちます。このプロジェクトに貢献してくれてありがとう！

画像ソース：docs.cohere.ai