local-llm-tuning

仓库创建 2026年7月26日最近提交 4 天前SkillHot 收录 3 天前
这个 Skill 做什么

把已经在本地跑的 LLM 调得更顺手,主要是改 Modelfile 的推理参数、做单变量对照实验、用评测集比效果、把好用的 Prompt 固化下来。用在模型表现不佳、需要优化推理速度或输出质量时。特别强调证据驱动和只改一项参数来验证效果,不是教你去训练模型(如 LoRA/SFT/预训练)。

▸ 展开 SKILL.md 英文原文

本地大模型后部署调优:Modelfile参数调节→单变量实验→评测集对比→Prompt固化。与 local-llm-recommendation(选型)互补。

0
Stars
0
Forks
9
仓库内 Skill
+0
7 日增星
安装 / 使用
给你的 Agent 一句话(通用)
帮我安装这个 skill:https://raw.githubusercontent.com/jim-688/hermes-config/main/skills/local-llm-tuning/SKILL.md
或 curl 直取 SKILL.md
curl -fsSL "https://raw.githubusercontent.com/jim-688/hermes-config/main/skills/local-llm-tuning/SKILL.md"
SKILL.MD 节选查看完整文件 ↗
# Local LLM Tuning(本地大模型调优)

⚠️ **用户纠正信号:「我的意思是优化我的本地大模型不是我学习」**——当用户说"优化本地模型",他们指的是让现有的模型更好用(调参+Prompt+推理加速),**不是**学习怎么训练模型。不要在用户问优化时推销训练教程(LoRA/SFT/预训练)。

当用户说"优化我的本地模型"、"调参数"、"让模型更聪明"、"模型太笨"、"能不能调一下"时激活。**不是**装新模型,而是优化已有的模型。

## 核心原则:证据驱动,单变量测试

```
绝不一次改两个参数——不知道哪个起了作用。
```

### 区分"观测"与"宣传"
- **观测(Observation)**:自己在机器上跑出来的数据。可信,可复现。
- **宣传(Claim)**:GitHub README / 抖音视频里的结论。待验证,不可直接引用数值。
- 对GitHub工具:先**看源码理解它做了什么**,再验证,不直接依赖。
- 不说"零风险",说**"低风险,可逆,值得先试"**——改动前先确认版本/硬件支持。

### 实验记录规范(E-series)

每次实验记一条,格式如下:

| 实验 | 改动 | 指标 | 结果 | 根因 |
|:----:|------|------|:----:|------|
| E-003 | FA=ON | TTFT, tok/s, 回答是否为空 | ❌ 回答为空 | Blackwell未适配 |

**否定结论也是有效产出**——记录根因和修复路径,避免下次再试。

## 🔴 前置步骤(必须先做):确认实
via SKILL·HOT · 数据来自 GitHub 公开信息 · 原文版权归作者所有