fine tune gpt 35 turbo

微调-GPT-35-Turbo

训练步骤

 # STEP 1: 
python prepare_data.py --raw_data=./test/raw_data/qa.txt --base_system_instruction=./test/raw_data/fine_tune_instructions_base.json --output=./data

# STEP 2: 
python json2jsonl.py --input=./data --output=./data

# STEP 3: 
python fine_tune.py --action=check --json_dir=./data

# STEP 4: 
python fine_tune.py --action=upload --jsonl_file=./data/fine_tune_instructions.jsonl

# STEP 5: 
python fine_tune.py --action=start

# STEP 6: 
python fine_tune.py --action=status

限制&&警告

• 现在，我们只能微调具有4K上下文的GPT-3.5-Turbo（特别是GPT-3.5-Turbo-0613）。
• 微调本身的成本很低（数据集的1K令牌为0.008美元），但是主要问题是推理成本 - 因为您只使用微调模型，而与正常的4K Turbo相比，推理的成本将高出8倍，这使得它的成本几乎为GPT-4的昂贵一半。
• 微调模型不能在不同的OpenAI帐户之间共享，因此“相同”微调的唯一方法是在您要使用的所有单独帐户上运行微调作业。
• 微调的数据集必须为100％SFW，因为要引用OpenAi-“通过我们的Mederation API和GPT-4动力训练系统传递了微调培训数据，以检测与我们的安全标准冲突的不安全训练数据”。适度的API非常严格，因此即使是“吮吸手指”之类的东西也不会通过。
• 当微调完成时，该帐户的所有者将收到一封电子邮件。

参考

• Openai的微调文档