Models · Data · 偏好与 RLHF
UltraFeedback
用多个模型生成回答再做细粒度评分,适合做偏好对齐与 DPO 训练。
| 来源 | OpenBMB |
|---|---|
| 规模 | 约 6.4 万条 prompt × 4 个回答 |
| 语言 | 英文 |
| 格式 | JSONL |
| 许可 | MIT |
| 商用 | 允许 |
| 获取 | 直接下载 |
| 任务适配 | RLHF / 偏好建模 / DPO |
| 核验日 | 2026-11-19 |
质量与偏差
用多个模型生成回答再做细粒度评分,适合做偏好对齐与 DPO 训练。
使用边界
评分由模型产生,会带入评分模型的偏好;用于生产前要抽检偏差。
下一步
- 打开来源页,下载数据集卡与许可原文,确认版本与获取条件。
- 先抽 100–500 条样本做质量、语言与敏感内容抽检,再决定是否进训练管线。
- 如果用于 RAG 或 SFT,先读 RAG 语料怎么选 / SFT 数据怎么配比。
来源:https://huggingface.co/datasets/openbmb/UltraFeedback · 核验日 2026-11-19 · 许可以来源页为准