axolotl

仓库创建 2025年11月3日最近提交 1 个月前SkillHot 收录 22 天前
▸ 精选理由

覆盖丰富方法与模型,适合做生产级微调方案参考。

▸ 风险提示

安装/运行会下载外部预训练模型并需大量 GPU/磁盘资源。

这个 Skill 做什么

提供 Axolotl 的微调流程、YAML 配置与方法(LoRA/QLoRA 等)。

帮你把大模型用 Axolotl 做微调,从 YAML 配置到具体方法一步到位,支持上百个模型和 LoRA/QLoRA 等轻量微调手段。适合需要自己调参、生成训练配置或排查训练问题的时候用。特别之处是包含多种 modern 算法(如 DPO/KTO/ORPO/GRPO)和多模态支持,配置示例丰富,能快速上手并复用。

▸ 展开 SKILL.md 英文原文

Expert guidance for fine-tuning LLMs with Axolotl - YAML configs, 100+ models, LoRA/QLoRA, DPO/KTO/ORPO/GRPO, multimodal support

开发编程LoRAQLoRA微调配置多模型通用
1.1w
Stars
821
Forks
40
仓库内 Skill
+761
7 日增星
安装 / 使用
给你的 Agent 一句话(通用)
帮我安装这个 skill:https://raw.githubusercontent.com/Orchestra-Research/AI-Research-SKILLs/main/03-fine-tuning/axolotl/SKILL.md
或 curl 直取 SKILL.md
curl -fsSL "https://raw.githubusercontent.com/Orchestra-Research/AI-Research-SKILLs/main/03-fine-tuning/axolotl/SKILL.md"
SKILL.MD 节选查看完整文件 ↗
# Axolotl Skill

Comprehensive assistance with axolotl development, generated from official documentation.

## When to Use This Skill

This skill should be triggered when:
- Working with axolotl
- Asking about axolotl features or APIs
- Implementing axolotl solutions
- Debugging axolotl code
- Learning axolotl best practices

## Quick Reference

### Common Patterns

**Pattern 1:** To validate that acceptable data transfer speeds exist for your training job, running NCCL Tests can help pinpoint bottlenecks, for example:

```
./build/all_reduce_perf -b 8 -e 128M -f 2 -g 3
```

**Pattern 2:** Configure your model to use FSDP in the Axolotl yaml. For example:

```
fsdp_version: 2
fsdp_config:
  
via SKILL·HOT · 数据来自 GitHub 公开信息 · 原文版权归作者所有