跳到主要内容Skip to main content

Models · Data · 偏好与 RLHF

Anthropic HH-RLHF

有帮助性与无害性两组人类偏好数据,是 RLHF 早期常用的公开基线。

来源Anthropic
规模约 17 万组偏好对比
语言英文
格式JSONL
许可MIT
商用允许
获取直接下载
任务适配RLHF / 偏好建模
核验日2026-11-19

质量与偏差

有帮助性与无害性两组人类偏好数据,是 RLHF 早期常用的公开基线。

使用边界

对话风格与现在的助手产品差异较大;直接拿旧偏好训新模型,可能学到过时的表达。

下一步

  • 打开来源页,下载数据集卡与许可原文,确认版本与获取条件。
  • 先抽 100–500 条样本做质量、语言与敏感内容抽检,再决定是否进训练管线。
  • 如果用于 RAG 或 SFT,先读 RAG 语料怎么选 / SFT 数据怎么配比。
来源:https://huggingface.co/datasets/Anthropic/hh-rlhf · 核验日 2026-11-19 · 许可以来源页为准