核心评估评估方法分数配置

分数配置

分数配置(Score Configs)用于定义项目中的分数结构。它通过固定分数名称、数据类型、可选取值范围和分类选项,让评估结果保持一致。

你可以在这些场景中使用分数配置:

  • 在 Litefuse UI 中手动标注 trace、observation、会话或实验结果
  • 创建带有固定评分维度的标注队列
  • 通过 API 或 SDK 写入分数
  • 在分数分析中查看分数趋势

在哪里查看分数配置

打开一个项目,进入 Project Settings → Score Configs。

在这里,你可以查看已有配置、创建新配置,也可以归档不再用于新标注的配置。

分数配置是项目级设置。在一个项目中创建或编辑配置,不会影响其他项目。

内置分数配置

新项目会自动包含一个内置分数配置,因此你无需手动配置评分基础设施,就可以开始标注。

名称类型范围或取值常见用途
CorrectnessNumeric0 到 1衡量输出对该任务而言是否正确。

新项目还会包含一个使用该配置的 Correctness Queue 标注队列。已有项目不会被自动修改。

创建自定义分数配置

当团队需要项目特定的指标、评分标准或标签集合时,可以创建自定义分数配置。

打开分数配置

进入 Project Settings → Score Configs。

添加配置

点击 Add new score config。

选择数据类型

选择支持的数据类型之一:

  • NUMERIC:数值型分数,可选配置最小值和最大值。
  • BOOLEAN:true/false 分数。
  • CATEGORICAL:固定标签集合,每个标签映射到一个数值。

定义评分标准

填写清晰的名称和描述。描述应说明该分数代表什么,以及评审者或评估器应如何使用它。

保存配置

保存后,该配置即可用于手动标注、标注队列和分数写入流程。

命名和范围建议

建议使用稳定、清晰的名称,因为分数名称会用于过滤器、分析、API 和仪表盘。

好的示例:

  • answer_quality
  • groundedness
  • retrieval_relevance
  • policy_violation

对于数值型分数,除非你的指标有特定业务尺度,否则建议统一使用 0 到 1 的范围。这样更容易在仪表盘和实验中比较不同指标。

将分数配置用于分数

当一个分数引用了分数配置时,该分数必须符合配置要求:

  • 分数名称必须与配置名称一致。
  • 分数值必须符合配置的数据类型。
  • 如果配置了数值范围,数值型分数必须落在该范围内。
  • 分类型和布尔型分数必须映射到配置中定义的选项。

这种校验可以避免不一致的数据,例如在准确率范围为 0 到 1 时写入 accuracy = 10。

归档旧配置

当你不再希望用户在新标注中使用某个分数配置时,可以将其归档。已有历史分数仍会保留并可继续分析。

当指标含义发生明显变化时,建议创建新的配置,而不是重命名旧配置。这样旧分数和新分数都能在各自定义下保持可比较。

相关文档

这个页面对你有帮助吗?