分数配置
分数配置(Score Configs)用于定义项目中的分数结构。它通过固定分数名称、数据类型、可选取值范围和分类选项,让评估结果保持一致。
你可以在这些场景中使用分数配置:
在哪里查看分数配置
打开一个项目,进入 Project Settings → Score Configs。
在这里,你可以查看已有配置、创建新配置,也可以归档不再用于新标注的配置。
分数配置是项目级设置。在一个项目中创建或编辑配置,不会影响其他项目。
内置分数配置
新项目会自动包含一个内置分数配置,因此你无需手动配置评分基础设施,就可以开始标注。
| 名称 | 类型 | 范围或取值 | 常见用途 |
|---|---|---|---|
Correctness | Numeric | 0 到 1 | 衡量输出对该任务而言是否正确。 |
新项目还会包含一个使用该配置的 Correctness Queue 标注队列。已有项目不会被自动修改。
创建自定义分数配置
当团队需要项目特定的指标、评分标准或标签集合时,可以创建自定义分数配置。
打开分数配置
进入 Project Settings → Score Configs。
添加配置
点击 Add new score config。
选择数据类型
选择支持的数据类型之一:
NUMERIC:数值型分数,可选配置最小值和最大值。BOOLEAN:true/false 分数。CATEGORICAL:固定标签集合,每个标签映射到一个数值。
定义评分标准
填写清晰的名称和描述。描述应说明该分数代表什么,以及评审者或评估器应如何使用它。
保存配置
保存后,该配置即可用于手动标注、标注队列和分数写入流程。
命名和范围建议
建议使用稳定、清晰的名称,因为分数名称会用于过滤器、分析、API 和仪表盘。
好的示例:
answer_qualitygroundednessretrieval_relevancepolicy_violation
对于数值型分数,除非你的指标有特定业务尺度,否则建议统一使用 0 到 1 的范围。这样更容易在仪表盘和实验中比较不同指标。
将分数配置用于分数
当一个分数引用了分数配置时,该分数必须符合配置要求:
- 分数名称必须与配置名称一致。
- 分数值必须符合配置的数据类型。
- 如果配置了数值范围,数值型分数必须落在该范围内。
- 分类型和布尔型分数必须映射到配置中定义的选项。
这种校验可以避免不一致的数据,例如在准确率范围为 0 到 1 时写入 accuracy = 10。
归档旧配置
当你不再希望用户在新标注中使用某个分数配置时,可以将其归档。已有历史分数仍会保留并可继续分析。
当指标含义发生明显变化时,建议创建新的配置,而不是重命名旧配置。这样旧分数和新分数都能在各自定义下保持可比较。
相关文档
这个页面对你有帮助吗?