تنزيل bert4torch - تنزيل رمز المصدر bert4torch

Bert4Torch

الوثائق | Torch4keras | أمثلة | build_minillm_from_scratch | Bert4Vector

جدول المحتويات

جدول المحتويات
1. قم بتنزيل وتثبيت
2. وظيفة
3. ابدأ بسرعة
- 3.1 ابدأ البرنامج التعليمي
- 3.2 نشر خدمات نموذج كبيرة بسرعة على سطر الأوامر
4. الإصدار وتحديث السجل
- الإصدار 4.1 التاريخ
- 4.2 تحديث سجل
5. الأوزان قبل التدريب
6. شكرا
7. اقتباس
8. آخرون

1. قم بتنزيل وتثبيت

تثبيت نسخة مستقرة

pip install bert4torch

تثبيت أحدث إصدار

pip install git+https://github.com/Tongjilibo/bert4torch

ملاحظة : إن إصدار حزم PIP أبطأ من إصدار التطوير على GIT. انتبه إلى المسار المرجعي لاستنساخ GIT والانتباه إلى ما إذا كان يجب تحويل الوزن.
حالة الاختبار : git clone https://github.com/Tongjilibo/bert4torch ، قم بتعديل مسار ملف النموذج المسبق ومسار البيانات في المثال لبدء البرنامج النصي
التدريب الذاتي : قم بتعديل كتلة رمز معالجة البيانات المقابلة لبياناتك الخاصة
بيئة التطوير : تستخدم في الأصل لتطوير مع torch==1.10 ، وقد تحولت الآن إلى تطوير torch2.0 . إذا واجهت الإصدارات الأخرى خلافات ، فلا تتردد في التعليقات.

2. وظيفة

طراز LLM : قم بتحميل أوزان نموذج كبيرة مفتوحة المصدر مثل ChatGlm و Llama و Baichuan و Ziya و Bloom ، إلخ. للاستدلال والضبط ، ونشر نماذج كبيرة في سطر واحد على سطر الأوامر.
الوظائف الأساسية : تحميل أوزان ما قبل التدريب مثل Bert و Roberta و Albert و Xlnet و Nezha و Bart و Roformer و Roformer_V2 و Electra و GPT و GPT2 و T5 و Gau-Alpha و Ernie ، إلخ.
أمثلة غنية : بما في ذلك LLM و PREDRAIN و SENDENCE_CLASSIFORATION و SENDENCE_EMBEDDing و Sequence_Labeling و Conference_Extraction و SEQ2SeQ والخدمة والحلول الأخرى
التحقق التجريبي : تم إجراء التحقق التجريبي على مجموعة البيانات العامة ، باستخدام مجموعة بيانات الأمثلة التالية والمؤشرات التجريبية
خدعة سهلة الاستخدام : يدمج الحيل الشائعة والتوصيل والتشغيل
ميزات أخرى : تحميل نموذج مكتبة Transformers معًا ؛ طريقة الاتصال بسيطة وفعالة ؛ عرض ديناميكي لأشرطة التقدم التدريبية ؛ طباعة حجم المعلمة مع torchinfo. من السهل تسجيل المسجل الافتراضي و tensorboard. عملية ملائمة مخصصة لتلبية الاحتياجات عالية المستوى
عملية التدريب :

وظيفة	Bert4Torch	محولات	ملاحظة
شريط التقدم التدريبي	✅	✅	يطبع شريط التقدم خسارة ومقاييس محددة
تدريب موزع DP/DDP	✅	✅	الشعلة تأتي مع DP/DDP
عمليات الاسترجاعات المختلفة	✅	✅	log/tensorboard/اوكروستوب/wandb ، إلخ.
التفكير النموذج الكبير ، دفق/إخراج الدُفعة	✅	✅	كل نموذج عالمي ولا يتطلب صيانة منفصلة للنصوص
نغمة طراز كبيرة	✅	✅	تعتمد لورا على مكتبة PEFT ، وتأتي PV2 مع خاصة بها
الحيل الغنية	✅		الحيل التوصيل واللعب ضد التدريب والحيل الأخرى
الكود بسيط وسهل الفهم ، والمساحة المخصصة كبيرة	✅		إعادة استخدام رمز عالية ، نمط تدريب كيراس رمز
القدرة على صيانة المستودعات/التأثير/الاستخدام/التوافق		✅	حاليا ، الصيانة الشخصية للمستودع
بنقرة واحدة نشر نماذج كبيرة

3. ابدأ بسرعة

3.1 ابدأ البرنامج التعليمي

بداية سريعة
بدء التشغيل السريع الدروس ، أمثلة تعليمية ، أمثلة عملية
مقدمة إلى Bert4Torch (Zhihu) ، والبدء بسرعة مع Bert4torch (Zhihu) ، وتم تحديث Bert4Torch مرة أخرى (Zhihu)

3.2 نشر خدمات نموذج كبيرة بسرعة على سطر الأوامر

تحميل محلي/الإنترنت

 # 联网下载全部文件
bert4torch-llm-server --checkpoint_path Qwen2-0.5B-Instruct

# 加载本地大模型，联网下载bert4torch_config.json
bert4torch-llm-server --checkpoint_path /data/pretrain_ckpt/Qwen/Qwen2-0.5B-Instruct --config_path Qwen/Qwen2-0.5B-Instruct

# 加载本地大模型，且bert4torch_config.json已经下载并放于同名目录下
bert4torch-llm-server --checkpoint_path /data/pretrain_ckpt/Qwen/Qwen2-0.5B-Instruct

سطر الأوامر/صفحة الويب Gradio/Openai_API

 # 命令行
bert4torch-llm-server --checkpoint_path /data/pretrain_ckpt/Qwen/Qwen2-0.5B-Instruct --mode cli

# gradio网页
bert4torch-llm-server --checkpoint_path /data/pretrain_ckpt/Qwen/Qwen2-0.5B-Instruct --mode gradio

# openai_api
bert4torch-llm-server --checkpoint_path /data/pretrain_ckpt/Qwen/Qwen2-0.5B-Instruct --mode openai

مثال دردشة سطر الأوامر

4. الإصدار وتحديث السجل

الإصدار 4.1 التاريخ

تاريخ التحديث	Bert4Torch	Torch4keras	وصف الإصدار
20240928	0.5.4	0.2.7	[ميزات جديدة] Add Deepseek Series ، Minicpm ، MinicPMV ، Llama3.2 ، Qwen2.5 ؛ دعم device_map = auto ؛ [إصلاح] إصلاح batch_generate و n> 1 حشرات
20240814	0.5.3	0.2.6	【الميزات الجديدة】 إضافة llama3.1/yi1.5 ؛ تحديد التنزيل تلقائيًا من Hfmirror ؛ دعم معلمات سطر الأوامر `bert4torch-llm-server`
20240801	0.5.2	0.2.5	[وظيفة جديدة] تدعم سلسلة ChatGlm/Qwen مكالمات الوظائف ، ويضيف سلسلة Internlm2 ؛ [التحسين الصغير] تبسيط عرض Call of Chat في خط الأنابيب ، يُسمح بإنشاء عنصر رمزي أن يكون قائمة ، وتوحيد اسم معلمة Rope_Scaling ، وإضافة فئات مشتقة من الحبل ؛ [bug] إصلاح خطأ inference flash_attn2

المزيد من الإصدارات

4.2 تحديث سجل

المزيد من التاريخ

5. الأوزان قبل التدريب

تدعم النماذج المدربة مسبقًا طرق تحميل التعليمات البرمجية المتعددة

 from bert4torch . models import build_transformer_model

# 1. 仅指定config_path: 从头初始化模型结构, 不加载预训练模型
model = build_transformer_model ( './model/bert4torch_config.json' )

# 2. 仅指定checkpoint_path: 
## 2.1 文件夹路径: 自动寻找路径下的*.bin/*.safetensors权重文件 + 需把bert4torch_config.json下载并放于该目录下
model = build_transformer_model ( checkpoint_path = './model' )

## 2.2 文件路径/列表: 文件路径即权重路径/列表, bert4torch_config.json会从同级目录下寻找
model = build_transformer_model ( checkpoint_path = './pytorch_model.bin' )

## 2.3 model_name: hf上预训练权重名称, 会自动下载hf权重以及bert4torch_config.json文件
model = build_transformer_model ( checkpoint_path = 'bert-base-chinese' )

# 3. 同时指定config_path和checkpoint_path(本地路径名或model_name排列组合): 
#    本地路径从本地加载，pretrained_model_name会联网下载
config_path = './model/bert4torch_config.json'  # 或'bert-base-chinese'
checkpoint_path = './model/pytorch_model.bin'  # 或'bert-base-chinese'
model = build_transformer_model ( config_path , checkpoint_path )

رابط الوزن المسبق و bert4torch_config.json

تصنيف النموذج	اسم النموذج	مصدر الوزن	رابط الوزن/checkpoint_path	config_path
بيرت	بيرت-القاعدة الصينية	جوجل بيرت	`bert-base-chinese`	`bert-base-chinese`
	صينية inching_l-12_H-768_A-12	جوجل	وزن TF `Tongjilibo/bert-chinese_L-12_H-768_A-12`
	الصينية بيرت-ووي إم	HFL	`hfl/chinese-bert-wwm-ext`	`hfl/chinese-bert-wwm-ext`
	bert-base-multingual	جوجل بيرت	`bert-base-multilingual-cased`	`bert-base-multilingual-cased`
	ماكبرت	HFL	`hfl/chinese-macbert-base` `hfl/chinese-macbert-large`	`hfl/chinese-macbert-base` `hfl/chinese-macbert-large`
	ووبرت	تقنية Zhuyi	`junnyu/wobert_chinese_base` ، `junnyu/wobert_chinese_plus_base`	`junnyu/wobert_chinese_base` `junnyu/wobert_chinese_plus_base`
روبرتا	الصينية روبرتا-WWM-EXT	HFL	`hfl/chinese-roberta-wwm-ext` `hfl/chinese-roberta-wwm-ext-large` (تم تهيئة وزن MLM الكبير بشكل عشوائي)	`hfl/chinese-roberta-wwm-ext` `hfl/chinese-roberta-wwm-ext-large`
	Roberta-Small/Tiny	تقنية Zhuyi	`Tongjilibo/chinese_roberta_L-4_H-312_A-12` `Tongjilibo/chinese_roberta_L-6_H-384_A-12`
	روبرتا قاعدة	Facebookai	`roberta-base`	`roberta-base`
	غوينبرت	إيثانيت	`ethanyt/guwenbert-base`	`ethanyt/guwenbert-base`
ألبرت	Albert_zh Albert_pytorch	برايتمارت	`voidful/albert_chinese_tiny` `voidful/albert_chinese_small` `voidful/albert_chinese_base` `voidful/albert_chinese_large` `voidful/albert_chinese_xlarge` `voidful/albert_chinese_xxlarge`	`voidful/albert_chinese_tiny` `voidful/albert_chinese_small` `voidful/albert_chinese_base` `voidful/albert_chinese_large` `voidful/albert_chinese_xlarge` `voidful/albert_chinese_xxlarge`
نزها	نزها nezha_chinese_pytorch	huawei_noah	`sijunhe/nezha-cn-base` `sijunhe/nezha-cn-large` `sijunhe/nezha-base-wwm` `sijunhe/nezha-large-wwm`	`sijunhe/nezha-cn-base` `sijunhe/nezha-cn-large` `sijunhe/nezha-base-wwm` `sijunhe/nezha-large-wwm`
	nezha_gpt_dialog	بوجون	`Tongjilibo/nezha_gpt_dialog`
xlnet	الصينية xlnet	HFL	`hfl/chinese-xlnet-base`	`hfl/chinese-xlnet-base`
	transformer_xl	luggingface	`transfo-xl/transfo-xl-wt103`	`transfo-xl/transfo-xl-wt103`
ديبرتا	Erlangshen-deberta-V2	فكرة	`IDEA-CCNL/Erlangshen-DeBERTa-v2-97M-Chinese` `IDEA-CCNL/Erlangshen-DeBERTa-v2-320M-Chinese` `IDEA-CCNL/Erlangshen-DeBERTa-v2-710M-Chinese`	`IDEA-CCNL/Erlangshen-DeBERTa-v2-97M-Chinese` `IDEA-CCNL/Erlangshen-DeBERTa-v2-320M-Chinese` `IDEA-CCNL/Erlangshen-DeBERTa-v2-710M-Chinese`
Electra	الصينية الإلكترونية	HFL	`hfl/chinese-electra-base-discriminator`	`hfl/chinese-electra-base-discriminator`
إرني	إرني	Baidu Wenxin	`nghuyong/ernie-1.0-base-zh` `nghuyong/ernie-3.0-base-zh`	`nghuyong/ernie-1.0-base-zh` `nghuyong/ernie-3.0-base-zh`
roformer	roformer	تقنية Zhuyi	`junnyu/roformer_chinese_base`	`junnyu/roformer_chinese_base`
	roformer_v2	تقنية Zhuyi	`junnyu/roformer_v2_chinese_char_base`	`junnyu/roformer_v2_chinese_char_base`
سيمبرت	سيمبرت	تقنية Zhuyi	`Tongjilibo/simbert-chinese-base` `Tongjilibo/simbert-chinese-small` `Tongjilibo/simbert-chinese-tiny`
	Simbert_v2/roformer-sim	تقنية Zhuyi	`junnyu/roformer_chinese_sim_char_base` ، `junnyu/roformer_chinese_sim_char_ft_base` ، `junnyu/roformer_chinese_sim_char_small` ، `junnyu/roformer_chinese_sim_char_ft_small`	`junnyu/roformer_chinese_sim_char_base` `junnyu/roformer_chinese_sim_char_ft_base` `junnyu/roformer_chinese_sim_char_small` `junnyu/roformer_chinese_sim_char_ft_small`
جاو	Gau-alpha	تقنية Zhuyi	`Tongjilibo/chinese_GAU-alpha-char_L-24_H-768`
uie	uie uie_pytorch	بايدو	`Tongjilibo/uie-base`
GPT	cdial-gpt	الخمي	`thu-coai/CDial-GPT_LCCC-base` `thu-coai/CDial-GPT_LCCC-large`	`thu-coai/CDial-GPT_LCCC-base` `thu-coai/CDial-GPT_LCCC-large`
	CMP_LM (2.6 مليار)	Tsinghua	`TsinghuaAI/CPM-Generate`	`TsinghuaAI/CPM-Generate`
	Nezha_gen	huawei_noah	`Tongjilibo/chinese_nezha_gpt_L-12_H-768_A-12`
	GPT2-chinese-cluecorpussmall	uer	`uer/gpt2-chinese-cluecorpussmall`	`uer/gpt2-chinese-cluecorpussmall`
	GPT2-ML	Imcaspar	توره Baiduyun (84dh)	`gpt2-ml_15g_corpus` `gpt2-ml_30g_corpus`
بارت	bart_base_chinese	Fudan FNLP	`fnlp/bart-base-chinese` v1.0	`fnlp/bart-base-chinese` `fnlp/bart-base-chinese-v1.0`
T5	T5	uer	`uer/t5-small-chinese-cluecorpussmall` `uer/t5-base-chinese-cluecorpussmall`	`uer/t5-base-chinese-cluecorpussmall` `uer/t5-small-chinese-cluecorpussmall`
	MT5	جوجل	`google/mt5-base`	`google/mt5-base`
	T5_Pegasus	تقنية Zhuyi	`Tongjilibo/chinese_t5_pegasus_small` `Tongjilibo/chinese_t5_pegasus_base`
	chatyuan	دليل	`ClueAI/ChatYuan-large-v1` `ClueAI/ChatYuan-large-v2`	`ClueAI/ChatYuan-large-v1` `ClueAI/ChatYuan-large-v2`
	orderclue	دليل	`ClueAI/PromptCLUE-base`	`ClueAI/PromptCLUE-base`
ChatGlm	ChatGlm-6b	thudm	`THUDM/chatglm-6b` `THUDM/chatglm-6b-int8` `THUDM/chatglm-6b-int4` v0.1.0	`THUDM/chatglm-6b` `THUDM/chatglm-6b-int8` `THUDM/chatglm-6b-int4` `THUDM/chatglm-6b-v0.1.0`
	ChatGlm2-6b	thudm	`THUDM/chatglm2-6b` `THUDM/chatglm2-6b-int4` `THUDM/chatglm2-6b-32k`	`THUDM/chatglm2-6b` `THUDM/chatglm2-6b-int4` `THUDM/chatglm2-6b-32k`
	ChatGlm3-6b	thudm	`THUDM/chatglm3-6b` `THUDM/chatglm3-6b-32k`	`THUDM/chatglm3-6b` `THUDM/chatglm3-6b-32k`
	GLM4-9B	thudm	`THUDM/glm-4-9b` `THUDM/glm-4-9b-chat` `THUDM/glm-4-9b-chat-1m`	`THUDM/glm-4-9b` `THUDM/glm-4-9b-chat` `THUDM/glm-4-9b-chat-1m`
لاما	لاما	ميتا		`meta-llama/llama-7b` `meta-llama/llama-13b`
	لاما 2	ميتا	meta-llama/llama-2-7b-hf meta-llama/llama-2-7b-chat-hf meta-llama/llama-2-13b-hf meta-llama/llama-2-13b-chat-hf	`meta-llama/Llama-2-7b-hf` `meta-llama/Llama-2-7b-chat-hf` `meta-llama/Llama-2-13b-hf` `meta-llama/Llama-2-13b-chat-hf`
	لاما 3	ميتا	`meta-llama/Meta-Llama-3-8B` `meta-llama/Meta-Llama-3-8B-Instruct`	`meta-llama/Meta-Llama-3-8B` `meta-llama/Meta-Llama-3-8B-Instruct`
	لاما -3.1	ميتا	`meta-llama/Meta-Llama-3.1-8B` `meta-llama/Meta-Llama-3.1-8B-Instruct`	`meta-llama/Meta-Llama-3.1-8B` `meta-llama/Meta-Llama-3.1-8B-Instruct`
	لاما -3.2	ميتا	`meta-llama/Llama-3.2-1B` `meta-llama/Llama-3.2-1B-Instruct` `meta-llama/Llama-3.2-3B` `meta-llama/Llama-3.2-3B-Instruct`	`meta-llama/Llama-3.2-1B` `meta-llama/Llama-3.2-1B-Instruct` `meta-llama/Llama-3.2-3B` `meta-llama/Llama-3.2-3B-Instruct`
	الصينية لاما الريباكا	HFL		`hfl/chinese_alpaca_plus_7b` `hfl/chinese_llama_plus_7b`
	الصينية لاما الليباكا -2	HFL		لإضافتها
	الصينية لاما الليباكا 3	HFL		لإضافتها
	belle_llama	ليانجياتش	Bellegroup/Belle-Llama-7B-2M-ENC	تعليمات التوليف ، `BelleGroup/BELLE-LLaMA-7B-2M-enc`
	زيا	IDEA-CCNL	Idea-CCNL/Ziya-llama-13b-V1 IDEA-CCNL/ZIYA-LLAMA-13B-V1.1 IDEA-CCNL/ZIYA-LLAMA-13B-PRETRAIN-V1	`IDEA-CCNL/Ziya-LLaMA-13B-v1` `IDEA-CCNL/Ziya-LLaMA-13B-v1.1`
	فيكونا	lmsys	`lmsys/vicuna-7b-v1.5`	`lmsys/vicuna-7b-v1.5`
بايتشوان	بايتشوان	Baichuan-inc	`baichuan-inc/Baichuan-7B` `baichuan-inc/Baichuan-13B-Base` `baichuan-inc/Baichuan-13B-Chat`	`baichuan-inc/Baichuan-7B` `baichuan-inc/Baichuan-13B-Base` `baichuan-inc/Baichuan-13B-Chat`
	Baichuan2	Baichuan-inc	`baichuan-inc/Baichuan2-7B-Base` `baichuan-inc/Baichuan2-7B-Chat` `baichuan-inc/Baichuan2-13B-Base` `baichuan-inc/Baichuan2-13B-Chat`	`baichuan-inc/Baichuan2-7B-Base` `baichuan-inc/Baichuan2-7B-Chat` `baichuan-inc/Baichuan2-13B-Base` `baichuan-inc/Baichuan2-13B-Chat`
نعم	نعم	01-AI	`01-ai/Yi-6B` `01-ai/Yi-6B-200K` `01-ai/Yi-9B` `01-ai/Yi-9B-200K`	`01-ai/Yi-6B` `01-ai/Yi-6B-200K` `01-ai/Yi-9B` `01-ai/Yi-9B-200K`
	يي -1.5	01-AI	`01-ai/Yi-1.5-6B` `01-ai/Yi-1.5-6B-Chat` `01-ai/Yi-1.5-9B` `01-ai/Yi-1.5-9B-32K` `01-ai/Yi-1.5-9B-Chat` `01-ai/Yi-1.5-9B-Chat-16K`	`01-ai/Yi-1.5-6B` `01-ai/Yi-1.5-6B-Chat` `01-ai/Yi-1.5-9B` `01-ai/Yi-1.5-9B-32K` `01-ai/Yi-1.5-9B-Chat` `01-ai/Yi-1.5-9B-Chat-16K`
يزدهر	يزدهر	كبير	`bigscience/bloom-560m` `bigscience/bloomz-560m`	`bigscience/bloom-560m` `bigscience/bloomz-560m`
Qwen	Qwen	سحابة علي بابا	`Qwen/Qwen-1_8B` `Qwen/Qwen-1_8B-Chat` `Qwen/Qwen-7B` `Qwen/Qwen-7B-Chat` `Qwen/Qwen-14B` `Qwen/Qwen-14B-Chat`	`Qwen/Qwen-1_8B` `Qwen/Qwen-1_8B-Chat` `Qwen/Qwen-7B` `Qwen/Qwen-7B-Chat` `Qwen/Qwen-14B` `Qwen/Qwen-14B-Chat`
	Qwen1.5	سحابة علي بابا	`Qwen/Qwen1.5-0.5B` `Qwen/Qwen1.5-0.5B-Chat` `Qwen/Qwen1.5-1.8B` `Qwen/Qwen1.5-1.8B-Chat` `Qwen/Qwen1.5-7B` `Qwen/Qwen1.5-7B-Chat` `Qwen/Qwen1.5-14B` `Qwen/Qwen1.5-14B-Chat`	`Qwen/Qwen1.5-0.5B` `Qwen/Qwen1.5-0.5B-Chat` `Qwen/Qwen1.5-1.8B` `Qwen/Qwen1.5-1.8B-Chat` `Qwen/Qwen1.5-7B` `Qwen/Qwen1.5-7B-Chat` `Qwen/Qwen1.5-14B` `Qwen/Qwen1.5-14B-Chat`
	Qwen2	سحابة علي بابا	`Qwen/Qwen2-0.5B` `Qwen/Qwen2-0.5B-Instruct` `Qwen/Qwen2-1.5B` `Qwen/Qwen2-1.5B-Instruct` `Qwen/Qwen2-7B` `Qwen/Qwen2-7B-Instruct`	`Qwen/Qwen2-0.5B` `Qwen/Qwen2-0.5B-Instruct` `Qwen/Qwen2-1.5B` `Qwen/Qwen2-1.5B-Instruct` `Qwen/Qwen2-7B` `Qwen/Qwen2-7B-Instruct`
	Qwen2-VL	سحابة علي بابا	`Qwen/Qwen2-VL-2B-Instruct` `Qwen/Qwen2-VL-7B-Instruct`	`Qwen/Qwen2-VL-2B-Instruct` `Qwen/Qwen2-VL-7B-Instruct`
	Qwen2.5	سحابة علي بابا	`Qwen/Qwen2.5-0.5B` `Qwen/Qwen2.5-0.5B-Instruct` `Qwen/Qwen2.5-1.5B` `Qwen/Qwen2.5-1.5B-Instruct` `Qwen/Qwen2.5-3B` `Qwen/Qwen2.5-3B-Instruct` `Qwen/Qwen2.5-7B` `Qwen/Qwen2.5-7B-Instruct` `Qwen/Qwen2.5-14B` `Qwen/Qwen2.5-14B-Instruct`	`Qwen/Qwen2.5-0.5B` `Qwen/Qwen2.5-0.5B-Instruct` `Qwen/Qwen2.5-1.5B` `Qwen/Qwen2.5-1.5B-Instruct` `Qwen/Qwen2.5-3B` `Qwen/Qwen2.5-3B-Instruct` `Qwen/Qwen2.5-7B` `Qwen/Qwen2.5-7B-Instruct` `Qwen/Qwen2.5-14B` `Qwen/Qwen2.5-14B-Instruct`
Internlm	Internlm	شنغهاي مختبر الذكاء الاصطناعي	`internlm/internlm-7b` `internlm/internlm-chat-7b`	`internlm/internlm-7b` `internlm/internlm-chat-7b`
	Internlm2	شنغهاي مختبر الذكاء الاصطناعي	`internlm/internlm2-1_8b` `internlm/internlm2-chat-1_8b` `internlm/internlm2-7b` `internlm/internlm2-chat-7b` `internlm/internlm2-20b` `internlm/internlm2-chat-20b`	`internlm/internlm2-1_8b` `internlm/internlm2-chat-1_8b` `internlm/internlm2-7b` `internlm/internlm2-chat-7b`
	internlm2.5	شنغهاي مختبر الذكاء الاصطناعي	`internlm/internlm2_5-7b` `internlm/internlm2_5-7b-chat` `internlm/internlm2_5-7b-chat-1m`	`internlm/internlm2_5-7b` `internlm/internlm2_5-7b-chat` `internlm/internlm2_5-7b-chat-1m`
فالكون	فالكون	tiiuae	`tiiuae/falcon-rw-1b` `tiiuae/falcon-7b` `tiiuae/falcon-7b-instruct`	`tiiuae/falcon-rw-1b` `tiiuae/falcon-7b` `tiiuae/falcon-7b-instruct`
ديبسيك	Deepseek-Moe	البحث المتعمق	`deepseek-ai/deepseek-moe-16b-base` `deepseek-ai/deepseek-moe-16b-chat`	`deepseek-ai/deepseek-moe-16b-base` `deepseek-ai/deepseek-moe-16b-chat`
	Deepseek-Llm	البحث المتعمق	`deepseek-ai/deepseek-llm-7b-base` `deepseek-ai/deepseek-llm-7b-chat`	`deepseek-ai/deepseek-llm-7b-base` `deepseek-ai/deepseek-llm-7b-chat`
	Deepseek-V2	البحث المتعمق	`deepseek-ai/DeepSeek-V2-Lite` `deepseek-ai/DeepSeek-V2-Lite-Chat`	`deepseek-ai/DeepSeek-V2-Lite` `deepseek-ai/DeepSeek-V2-Lite-Chat`
	Deepseek-CoDer	البحث المتعمق	`deepseek-ai/deepseek-coder-1.3b-base` `deepseek-ai/deepseek-coder-1.3b-instruct` `deepseek-ai/deepseek-coder-6.7b-base` `deepseek-ai/deepseek-coder-6.7b-instruct` `deepseek-ai/deepseek-coder-7b-base-v1.5` `deepseek-ai/deepseek-coder-7b-instruct-v1.5`	`deepseek-ai/deepseek-coder-1.3b-base` `deepseek-ai/deepseek-coder-1.3b-instruct` `deepseek-ai/deepseek-coder-6.7b-base` `deepseek-ai/deepseek-coder-6.7b-instruct` `deepseek-ai/deepseek-coder-7b-base-v1.5` `deepseek-ai/deepseek-coder-7b-instruct-v1.5`
	Deepseek-CoDer-V2	البحث المتعمق	`deepseek-ai/DeepSeek-Coder-V2-Lite-Base` `deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct`	`deepseek-ai/DeepSeek-Coder-V2-Lite-Base` `deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct`
	ديبسيك ماث	البحث المتعمق	`deepseek-ai/deepseek-math-7b-base` `deepseek-ai/deepseek-math-7b-instruct` `deepseek-ai/deepseek-math-7b-rl`	`deepseek-ai/deepseek-math-7b-base` `deepseek-ai/deepseek-math-7b-instruct` `deepseek-ai/deepseek-math-7b-rl`
minicpm	minicpm	OpenBMB	`openbmb/MiniCPM-2B-sft-bf16` `openbmb/MiniCPM-2B-dpo-bf16` `openbmb/MiniCPM-2B-128k` `openbmb/MiniCPM-1B-sft-bf16`	`openbmb/MiniCPM-2B-sft-bf16` `openbmb/MiniCPM-2B-dpo-bf16` `openbmb/MiniCPM-2B-128k` `openbmb/MiniCPM-1B-sft-bf16`
	minicpm-v	OpenBMB	`openbmb/MiniCPM-V-2_6` `openbmb/MiniCPM-Llama3-V-2_5`	`openbmb/MiniCPM-V-2_6` `openbmb/MiniCPM-Llama3-V-2_5`
التضمين	text2vec-base-chinese	Shibing624	`shibing624/text2vec-base-chinese`	`shibing624/text2vec-base-chinese`
	M3e	موكا آي	`moka-ai/m3e-base`	`moka-ai/m3e-base`
	bge	باي	`BAAI/bge-large-en-v1.5` `BAAI/bge-large-zh-v1.5` `BAAI/bge-base-en-v1.5` `BAAI/bge-base-zh-v1.5` `BAAI/bge-small-en-v1.5` `BAAI/bge-small-zh-v1.5`	`BAAI/bge-large-en-v1.5` `BAAI/bge-large-zh-v1.5` `BAAI/bge-base-en-v1.5` `BAAI/bge-base-zh-v1.5` `BAAI/bge-small-en-v1.5` `BAAI/bge-small-zh-v1.5`
	GTE	ثم	`thenlper/gte-large-zh` `thenlper/gte-base-zh`	`thenlper/gte-base-zh` `thenlper/gte-large-zh`

*ملحوظة:

يمكن build_transformer_model() تمثيل高亮格式(مثل bert-base-chinese ) مباشرة
يتم تسريع مواقع الويب المرآة المحلية للتنزيل
- HF_ENDPOINT=https://hf-mirror.com python your_script.py
- export HF_ENDPOINT=https://hf-mirror.com قبل تنفيذ رمز Python
- تم تعيينه على النحو التالي في بداية رمز Python
```
 import os
os . environ [ 'HF_ENDPOINT' ] = "https://hf-mirror.com" 
```

6. شكرا

بفضل Su Shen على Bet4keras التي تم تنفيذها. هناك العديد من الأماكن في هذا التنفيذ التي تشير إلى الكود المصدري لـ Bet4keras. أود أن أشكر بدرب بإخلاص على تفانيه غير الأناني ؛
ثانياً ، بفضل مشروع Bet4pytorch ، وتحت توجيهات هذا المشروع ، أعطيتني أفكار وأفكار استخدام Pytorch لإعادة إنتاج Bet4keras.

7. اقتباس

 @misc{bert4torch,
  title={bert4torch},
  author={Bo Li},
  year={2022},
  howpublished={url{https://github.com/Tongjilibo/bert4torch}},
}

8. آخرون

مخطط تاريخ WeChat & Star
يتجاوز عدد مجموعات WeChat 200 (مع قيود الدعوة) ، يمكنك إضافة مجموعات WeChat الشخصية

معرف WeChat

مجموعة WeChat

مخطط تاريخ النجوم

يوسع

bert4torch

جدول المحتويات

1. قم بتنزيل وتثبيت

2. وظيفة

3. ابدأ بسرعة

3.1 ابدأ البرنامج التعليمي

3.2 نشر خدمات نموذج كبيرة بسرعة على سطر الأوامر

4. الإصدار وتحديث السجل

الإصدار 4.1 التاريخ

4.2 تحديث سجل

5. الأوزان قبل التدريب

6. شكرا

7. اقتباس

8. آخرون

Google Dorks

shepherd

mongo express

hidusbf

Free Algorithms Books

markdownpedia

chat.petals.dev

GPT Prompt Templates

GPTyped

Google Dorks

shepherd

mongo express

Google Dorks

shepherd

mongo express