实战

朋友想在单张4090上微调7B模型做客服，我一开始觉得不可能。按项目交付手册走，从业务场景、数据清洗到上线评估，踩了一堆坑，最后用QLoRA搞定了。这里分享下完整的交付过程和可运行的脚本。