slime-rl-training

仓库创建 2025年11月3日最近提交 1 个月前SkillHot 收录 21 天前
▸ 精选理由

适合依赖Megatron生态做高吞吐rollout与RL扩展的研究团队。

▸ 风险提示

依赖特定开源组件与复杂并行配置,复现门槛高。

这个 Skill 做什么

连接Megatron-LM与SGLang的RL后训练框架,适配GLM系列模型的高吞吐生成。

在训练 GLM 系列模型时,尤其需要把 Megatron-LM 和高吞吐生成流水线绑在一起做 RL 后训练就用它。slime 把 Megatron-LM 的训练能力和 SGLang 的高并发 rollout 生成打通,方便做自定义数据生成和大规模策略优化。适合需高吞吐采样、与 Megatron 原生集成的场景。优势是对 GLM 系列有现成适配,训练效率高。

▸ 展开 SKILL.md 英文原文

Provides guidance for LLM post-training with RL using slime, a Megatron+SGLang framework. Use when training GLM models, implementing custom data generation workflows, or needing tight Megatron-LM integration for RL scaling.

研究检索MegatronGLMRL扩展通用
1.1w
Stars
817
Forks
40
仓库内 Skill
+704
7 日增星
安装 / 使用
给你的 Agent 一句话(通用)
帮我安装这个 skill:https://raw.githubusercontent.com/Orchestra-Research/AI-Research-SKILLs/main/06-post-training/slime/SKILL.md
或 curl 直取 SKILL.md
curl -fsSL "https://raw.githubusercontent.com/Orchestra-Research/AI-Research-SKILLs/main/06-post-training/slime/SKILL.md"
SKILL.MD 节选查看完整文件 ↗
# slime: LLM Post-Training Framework for RL Scaling

slime is an LLM post-training framework from Tsinghua's THUDM team, powering GLM-4.5, GLM-4.6, and GLM-4.7. It connects Megatron-LM for training with SGLang for high-throughput rollout generation.

## When to Use slime

**Choose slime when you need:**
- Megatron-LM native training with SGLang inference
- Custom data generation workflows with flexible data buffers
- Training GLM, Qwen3, DeepSeek V3, or Llama 3 models
- Research-grade framework with production backing (Z.ai)

**Consider alternatives when:**
- You need enterprise-grade stability features → use **miles**
- You want flexible backend swapping → use **verl**
- You need PyTorch-na
via SKILL·HOT · 数据来自 GitHub 公开信息 · 原文版权归作者所有