llm deploy

llm-deploy

このチュートリアルは、モデル/LLMの推論と展開理論と実践に焦点を当てており、LLMの推論と展開の芸術を習得するパートナーになることを目的としています。あなたがこの分野の新人であろうと、あなたの専門的なスキルを深めたいと思っているベテランであろうと、ここに大規模な言語モデルをうまく展開するための重要なパスを見つけることができます。

プロジェクト提案の理由

推論と展開の欠如を補います。業界内外でこの分野や開業医に興味のある学生のために、優れた紹介情報を提供します。

プロジェクトオーディエンス

• アルゴリズムエンジニア。
• 展開の推論に興味がある学生。

プロジェクトのハイライト

1. 関連する理論と実践は、推論で展開されます。
2. モデルとサービスの最適化の実践。
3. 実際の経験を持つ多くのエンジニアからの包括的な出力。

貢献に参加します

• プロジェクトに参加したい場合は、プロジェクトの問題を表示して、割り当てられていないタスクを表示してください。
• いくつかの問題が見つかった場合は、問題のフィードバックをお気軽にご利用ください。
• このプロジェクトに興味があり、参加したい場合は、ディスカッションを通じてコミュニケーションをとることができます。

DataWhaleに興味があり、新しいプロジェクトを開始したい場合は、Datawhale Contribution Guideをご覧ください。

貢献者のリスト

名前	責任	導入	ビデオ
チャンキン、ユリ	プロジェクトリーダー
マオリン	第1章担当者	定量化	リンク
ユフェイ	第2章担当者	蒸留
ユリ	第3章：担当者	剪定	リンク
ワンギン	第4章：担当者	低ランク分解
シュウファン	第5章：担当者	急行	リンク
春の太陽	第6章：担当者	走る
ヤン・チュオ	第7章：担当者	フレーム
Xue Boyang	第8章担当者	平行	リンク
ジャージーチャン	第9章：担当者	同時	リンク
li taiying	第10章担当者	メモリ

注：ヘッダーはカスタマイズできますが、プロジェクトマネージャーはリストに表示される必要があります。

私たちに従ってください

以下のQRコードをスキャンして、公式アカウントに従ってください：DataWhale

ライセンス

この作業は、Creative Commons Attribution-Non-Commercial-Share 4.0国際ライセンスの下でライセンスされています。

注：CC 4.0プロトコルはデフォルトで使用され、他のプロトコルはあなた自身のプロジェクトの状況に応じて選択することもできます。