📕 SpringThunde V0.1.0 版本迭代

[sanbuphy]

中国散文文集微调项目任务拆解

当前重点任务

序号	任务	负责人
1	完成基础路线图上传GitHub（作者选择、框架选择、训练方法规划）	@sanbuphy
2	完成文言文基础PR	@E-Pudding
3	寻找文学相关老师资源	@sanbuphy @E-Pudding
4	完成散文baseline	@sanbuphy
5	完成文言文baseline	@Hollywood3
6	爬取数据	@sanbuphy

长期任务

A. 数据制作任务

序号	任务标题	认领人	相关PR
1	数据合成论文调研	@YanxingLiu @sanbuphy	-
2	散文语料爬取	@sanbuphy	-
3	文言文语料爬取	@sanbuphy	-
4	数据合成方法确认	@YanxingLiu @sanbuphy	-
5	数据处理工具开发	@YanxingLiu @sanbuphy	-

B. Transformers-TRL 实现

序号	任务标题	认领人	相关PR
1	SFT 训练流程实现	@Aphasia0515	-
2	PPO 训练流程实现	@Aphasia0515	-
3	DPO 训练流程实现	@Aphasia0515	-

C. Transformers + PEFT 实现

序号	任务标题	认领人	相关PR
1	LoRA 实现	@moyitech	-
2	QLora 实现	@Yifehuang97	-
3	Prefix Tuning 实现	@Yifehuang97	-
4	Prompt Tuning 实现	@Yifehuang97	-
5	P-Tuning 实现	-	-
6	LyCORIS 实现	@Yifehuang97	-
7	moe-lora 实现	@tackhwa	-

D. LlamaFactory 实现

序号	任务标题	认领人	相关PR
1	SFT训练流程适配	@Tsumugii24	-
2	LoRA训练流程适配	@Tsumugii24	-
3	qLoRA训练流程适配	@Aphasia0515	-
4	RLHF训练流程适配	@Tsumugii24	-

E. PyTorch原生实现 (torchtune)

序号	任务标题	认领人	相关PR
1	SFT基础训练流程实现	@chg0901	-
2	LoRA训练实现	@chg0901	-
3	QLoRA训练实现	@chg0901	-
4	量化感知训练(QAT)实现	@chg0901	-
5	知识蒸馏训练实现	@chg0901	-

F. PyTorch Lightning 实现

序号	任务标题	认领人	相关PR
1	SFT基础训练流程实现	@YanxingLiu	-
2	LoRA训练实现	@YanxingLiu	-
3	QLoRA训练实现	@YanxingLiu	-

G. Xtuner 实现

序号	任务标题	认领人	相关PR
1	SFT基础训练流程实现	@tackhwa	-
2	LoRA训练实现	@tackhwa	-
3	QLoRA训练实现	@tackhwa	-
4	DPO训练实现	@tackhwa	-

H. PaddleNLP 实现

序号	任务标题	认领人	相关PR
1	SFT基础训练流程实现	@Shallowdreamss	-
2	LoRA训练实现	@Shallowdreamss	-
3	QLoRA训练实现	@Shallowdreamss	-
4	DPO训练实现	@Shallowdreamss	-

I. ms-swift 实现

序号	任务标题	认领人	相关PR
1	SFT基础训练流程实现	-	-
2	LoRA训练实现	-	-
3	QLoRA训练实现	-	-
4	DPO训练实现	-	-

[moyitech]

认领C.1~

[tackhwa]

认领 xtuner 全餐 + moe-lora

[Tsumugii24]

认领 D1 D2 D3 🤗

[Aphasia0515]

认领B3，D1,D2,D3（如果还有的话）

[chg0901]

认领E 【排除E.6 】

[YanxingLiu]

认领A1.4.5 F123

[Aphasia0515]

认领B1，B2

[Yifehuang97]

认领C2 C3 C4 C6

[Shallowdreamss]

认领H全部