axolotl
仓库创建 2025年11月3日最近提交 1 个月前SkillHot 收录 22 天前
▸ 精选理由
覆盖丰富方法与模型,适合做生产级微调方案参考。
▸ 风险提示
安装/运行会下载外部预训练模型并需大量 GPU/磁盘资源。
这个 Skill 做什么
提供 Axolotl 的微调流程、YAML 配置与方法(LoRA/QLoRA 等)。
帮你把大模型用 Axolotl 做微调,从 YAML 配置到具体方法一步到位,支持上百个模型和 LoRA/QLoRA 等轻量微调手段。适合需要自己调参、生成训练配置或排查训练问题的时候用。特别之处是包含多种 modern 算法(如 DPO/KTO/ORPO/GRPO)和多模态支持,配置示例丰富,能快速上手并复用。
▸ 展开 SKILL.md 英文原文
Expert guidance for fine-tuning LLMs with Axolotl - YAML configs, 100+ models, LoRA/QLoRA, DPO/KTO/ORPO/GRPO, multimodal support
1.1w
Stars
821
Forks
40
仓库内 Skill
+761
7 日增星
安装 / 使用
给你的 Agent 一句话(通用)
帮我安装这个 skill:https://raw.githubusercontent.com/Orchestra-Research/AI-Research-SKILLs/main/03-fine-tuning/axolotl/SKILL.md或 curl 直取 SKILL.md
curl -fsSL "https://raw.githubusercontent.com/Orchestra-Research/AI-Research-SKILLs/main/03-fine-tuning/axolotl/SKILL.md"SKILL.MD 节选查看完整文件 ↗
# Axolotl Skill Comprehensive assistance with axolotl development, generated from official documentation. ## When to Use This Skill This skill should be triggered when: - Working with axolotl - Asking about axolotl features or APIs - Implementing axolotl solutions - Debugging axolotl code - Learning axolotl best practices ## Quick Reference ### Common Patterns **Pattern 1:** To validate that acceptable data transfer speeds exist for your training job, running NCCL Tests can help pinpoint bottlenecks, for example: ``` ./build/all_reduce_perf -b 8 -e 128M -f 2 -g 3 ``` **Pattern 2:** Configure your model to use FSDP in the Axolotl yaml. For example: ``` fsdp_version: 2 fsdp_config:
via SKILL·HOT · 数据来自 GitHub 公开信息 · 原文版权归作者所有