dolly expert lite
1.0.0
| タイトル | app_file | SDK | sdk_version |
|---|---|---|---|
ドリーエクスパートビルダー | app.py | グラデーション | 3.34.0 |
ドメイン固有の質問に答えて会話を続けることができる軽量のDolly-V2パワーアシスタント。 LLMSの時代の専門家システムです。
「あなたがハッキングできると思う」への提出：Open-Source LLMS（例えば、OpenAssistant、MPT、Dollyなど）DevPost Hackathon。
エキスパートシステムは、人工知能に大きくなっていました。彼らは、特定の分野の人間の専門家の意思決定能力を模倣し、多くのユースケースでかなりの価値を提供することができます。古い学校の専門家システムの主な欠点は、ブールステートメントまたは同様のロジックを使用して、かなりの時間とリソースを使用してプログラムする必要があることでした。多くの場合、このアプローチは、手元のタスクに容易に利用できる専門家を持つことの目的を打ち負かしました。
chatgpt3.5やchatgpt-4などのクローズドソースLLMアプリケーションは、非常に多くのタスクである巨大なモデルです。彼らは、彼らが応答する方法や答えがオンラインであるとき、そして彼らがインターネットやファイルにアクセスできないときの幻覚などの制限があります。時には、これらの幻覚は非常に説得力のある方法で伝えられ、それらを実装しようとするたびに、彼らは完全に偽りまたは間違っていることが判明します。これらのモデルには巨大なコンテキストウィンドウがあるため、人々は多くの情報を提供し、迅速なエンジニアリング技術を実装することで、彼らが苦労しているあらゆるタスクを行うのを手伝うことができます。これにより、閉じたソースコードを備えた大企業のみがLLMアプリケーションを開発および展開できると考えています。
Dolly Expert Lite Liteは、カスタムメイドベクターデータベースの検索を使用してドメイン固有の質問に答えるために、オープンソースの大手言語モデル（LLM）であるDolly-V2-12Bの軽量バージョンであるDolly-V2-3Bを活用します。この例の展開では、Dolly-Expert-Builderがオンタリオ（カナダ）建築基準から情報を取得し、公式の政府法に従って建設、配管、電気配線、換気に関する特定の質問に答えます。 Dolly-Expert-Builderは、コヒーレントで事実上正しい情報を情報源とともに提供でき、仕事を実行しながら規制のコンプライアンスを支援するために、商人（配管工、電気技師、機構、住宅建設業者）、およびエンジニアや建築家に適したガイダンスとして機能することができます。
この方法に従うことにより、個人と組織はローカルデータを使用して、専門家のアシスタントをドメイン固有の質問に答えることができるようにすることができます。可能なユースケースは次のとおりです。
ツールは非常に新しいため、標準的なユースケースからの発散がエラーを引き起こします。例えば：
persists_directoryを使用すると部分的に保存され、.persists（）メソッドが呼び出されなかったため、別のインスタンスで後でロードされません。これをやり直し、データベースが最終的に利用可能になるために再度コミットする必要がありました。Dollyなどのオープンソースモデルを使用してLLMアプリケーションの機能的な軽量プロトタイプを作成し、ハギングフェイススペースとして展開することができます。 LLMアプリケーションはすべての人向けであり、オープンソースのエコシステムがクローズドソースの先駆者と同じくらい有能であることを示すことができることです。
一般的なソフトウェア開発の知識に関して、私は互いに競合するパッケージのトラブルシューティングを学び、依存関係がインストールされているものに応じて、またはすべてを実行しようとするのではなくタスクを区画化する方が良いことに応じて、Pythonを再起動する必要があることを学びました。また、アプリを作成できるグレードの基本も学びました。そして最も重要なことは、私が遭遇した問題の回避策を見つけるために、GitHubの問題とStackoverflowの投稿をよりよくナビゲートすることを学んだことです。
LLM関連の知識の観点から、迅速なエンジニアリングの重要性と、推論の結果を劇的に改善する方法について学び、自然言語処理（NLP）の用語をより多くナビゲートすることを学び、質問チェーンメモリの種類について学びました。また、オープンソースモデルは、LLMアプリケーションを興味を持っている人にLLMアプリケーションを開発および展開する可能性があることを学び、ドキュメントを調査し、現在の問題をトラブルシューティングまたは回避策に導くことができます。
