TWLLM Tutor
1.0.0

conda create --name twllm_tutor python=3.10.0
source activate twllm_tutor
pip install -r envs/requirements.txt
virtualenv --python=python3.10.0 twllm_tutor
source twllm_tutor/bin/activate
pip install -r envs/requirements.txt
pyenv install 3.10.0
pyenv virtualenv 3.10.0 twllm_tutor
pip install -r envs/requirements.txt
يتم تنزيل مجموعة بيانات GSAT الاجتماعية الأصلية من موقع GSAT.
| مجموعة البيانات | سنة | عدد الأسئلة |
|---|---|---|
| Train_gsat_Social | 83-107 | 1221 |
| Valid_gsat_History | 108-112 | 97 |
| Valy_gsat_civics | 108-112 | 79 |
| alval_gsat_social | 108-112 | 213 |
لتنزيل مجموعة التدريب الاجتماعي GSAT ، يمكنك تشغيل الأمر:
bash scripts/download_data.sh| مجموعة البيانات | عدد الأسئلة |
|---|---|
| Train_qb_geography | 312 |
| Train_QB_History | 9000 |
| Train_qb_civics | 2035 |
| Train_QB_Social | 11347 |
| alight_qb_history | 205 |
./data
|─ raw_data
| |─ GSAT_social # Public is for data we consider publishable (without copyright issues, etc).
| └─ QB_social # Private is for data we don't want to publish (For future extensions).
└─ train_data
|- GSAT_social
|- GSAT_social_with_image
└─ QB_social
{
"subject": "social_study",
"year": "83",
"id": 1,
"type": "single",
"question": "孫中山先生認為造成中國人像一盤散沙,民族不夠團結的主因為何",
"A": "任外族帝制專斷的統治下,人民喪失了關心公共事務的能力",
"B": "異族的征服者過於強大,中國人團結也沒用",
"C": "中國入的家族觀念過於發達",
"D": "過早提倡天下一家的世界主義",
"answer": "A",
"answer_details": ""
},
لإنشاء التكوين ، يمكنك تشغيل الأمر:
python generate_config.py
لضبط الصينيين ، يمكنك تشغيل الأمر:
bash scripts/run_train_bert.shلتنزيل وزن ما قبل التدريب Taiwan-LLM-7B ، يمكنك تشغيل الأمر:
bash scripts/download_model_weight.shFINETUNE_METHOD=qlora_instruction_tuning bash scripts/run_train_twllm.shFINETUNE_METHOD=qlora_multiple_choice bash scripts/run_train_twllm.shbash scripts/run_quantize_twllm_loftq.shFINETUNE_METHOD=loftq_instruction_tuning bash scripts/run_train_twllm.shFINETUNE_METHOD=loftq_multiple_choice bash scripts/run_train_twllm.shpython test.py --checkpoint_path < path of checkpoint > | سؤال | Taiwan-Llm Tutor | chatgpt |
|---|---|---|
| 你是一名人工智慧家教 , 以下的題目為高中社會科 , 請根據題目提供使用者正確答案的選項 a 或 b 或 c 或 d。十九世紀前期 , 張三從寧波來艋舺採購樟腦 , , 同時也運來綢緞、布帛等貨品來臺銷售。請問 : | B. 北郊 : 當時臺北港的北郊商人常兼職貿易商 當時臺北港的北郊商人常兼職貿易商 對於貨物的運送和買賣多半有涉獵。✅ 對於貨物的運送和買賣多半有涉獵。✅ | C. 怡和洋行 : : 在十九世紀前期 , 張三要將樟腦、綢緞、布帛等貨品運送回浙江和上海銷售 , 最可能委託的組織是怡和洋行。怡和洋行是一家在 19 世紀初期在華南地區經營貿易的外國商行 , 主要從中國向其他國家運送貨物。因此 , 怡和洋行是最可能協助張三運送這批貨物的組織。其他選項 , 如 A. 東印度公司、 ب. 北郊、 د. 三井會社 , 都不太可能參與這個情境中的貨物運送。 |
| 你是一名人工智慧家教 , 以下的題目為高中社會科 , 請根據題目提供使用者正確答案的選項 a 或 b 或 c 或 : : : : , 第一 , , 留下大片無主荒田;第二 留下大片無主荒田;第二 , 逃離農村 逃離農村 , , , : : : : , 「五十三十家方為一戶」 : : : : : : : : : : : | C. | A. 限制土地兼併 : 根據提供的資訊 根據提供的資訊 北魏實行均田法的背景包括大片無主荒田、許多農民流落城市成為游民、農民投靠大戶士族等情況。均田法的實施主要目的是限制土地兼併 , 通過計口授田 , 確保農業勞動力和土地之間的合理配合 , 防止土地被少數大戶士族壟斷 , 促進農業生產 , 建立小農社會。因此 , A. 限制土地兼併是最合適的答案。 |
| 你是一名人工智慧家教 , 以下的題目為高中社會科 , 請根據題目提供使用者正確答案的選項 a 或 b 或 c 或 d。 1949 年 10月 , 軍集中船隻對金門發動攻擊 , 遭守軍擊退。 遭守軍擊退。 1950 年 3 月 , , 軍又集結大批兵力 , , 迫使當地國軍撤守; 迫使當地國軍撤守; 軍原本預定隨後再度對金門發動攻擊 軍原本預定隨後再度對金門發動攻擊 軍原本預定隨後再度對金門發動攻擊 , : : : : : : : : : : 臺灣實施戒嚴 臺灣實施戒嚴 軍乃轉以心戰策略來瓦解國軍。 臺灣實施戒嚴 , , , 臺灣實施戒嚴 軍乃轉以心戰策略來瓦解國軍。 | C. 韓戰爆發 , 美國宣布派遣第七艦隊協助臺灣防務 : : , , , 因此 軍暫緩對金門的攻擊。✅ 軍暫緩對金門的攻擊。✅軍暫緩對金門的攻擊。✅ | أ. 軍顧忌金門兵力強大、 軍顧忌金門兵力強大、. 韓戰爆發 , ... |
تم إجراء التجارب على جهاز كمبيوتر شخصي مجهز مع وحدة معالجة الرسومات NVIDIA GeForce RTX 4090 مع 24 جيجابايت من VRAM ، وتكوين خادم يتميز GPU RTX A6000 واحد مع 49 جيجابايت من VRAM.
@misc { liao2023twllmtutor ,
title = { Taiwan-LLM Tutor: Large Language Models for Taiwanese Secondary Education } ,
author = { Jia-Wei Liao, Ji-Jia Wu, Kun-Hsiang Lin, Kang-Yang Huang } ,
url = { https://github.com/jwliao1209/TWLLM-Tutor } ,
year = { 2023 }
}