核心评估评估方法分数配置

分数配置

分数配置(Score Configs)用于定义项目中的分数结构。它通过固定分数名称、数据类型、可选取值范围和分类选项,让评估结果保持一致。

你可以在这些场景中使用分数配置:

  • 在 Litefuse UI 中手动标注 trace、observation、会话或实验结果
  • 创建带有固定评分维度的标注队列
  • 通过 API 或 SDK 写入分数
  • 分数分析中查看分数趋势

在哪里查看分数配置

打开一个项目,进入 Project SettingsScore Configs

在这里,你可以查看已有配置、创建新配置,也可以归档不再用于新标注的配置。

分数配置是项目级设置。在一个项目中创建或编辑配置,不会影响其他项目。

内置分数配置

新项目会自动包含一个内置分数配置,因此你无需手动配置评分基础设施,就可以开始标注。

名称类型范围或取值常见用途
CorrectnessNumeric01衡量输出对该任务而言是否正确。

新项目还会包含一个使用该配置的 Correctness Queue 标注队列。已有项目不会被自动修改。

创建自定义分数配置

当团队需要项目特定的指标、评分标准或标签集合时,可以创建自定义分数配置。

打开分数配置

进入 Project SettingsScore Configs

添加配置

点击 Add new score config

选择数据类型

选择支持的数据类型之一:

  • NUMERIC:数值型分数,可选配置最小值和最大值。
  • BOOLEAN:true/false 分数。
  • CATEGORICAL:固定标签集合,每个标签映射到一个数值。

定义评分标准

填写清晰的名称和描述。描述应说明该分数代表什么,以及评审者或评估器应如何使用它。

保存配置

保存后,该配置即可用于手动标注、标注队列和分数写入流程。

命名和范围建议

建议使用稳定、清晰的名称,因为分数名称会用于过滤器、分析、API 和仪表盘。

好的示例:

  • answer_quality
  • groundedness
  • retrieval_relevance
  • policy_violation

对于数值型分数,除非你的指标有特定业务尺度,否则建议统一使用 01 的范围。这样更容易在仪表盘和实验中比较不同指标。

将分数配置用于分数

当一个分数引用了分数配置时,该分数必须符合配置要求:

  • 分数名称必须与配置名称一致。
  • 分数值必须符合配置的数据类型。
  • 如果配置了数值范围,数值型分数必须落在该范围内。
  • 分类型和布尔型分数必须映射到配置中定义的选项。

这种校验可以避免不一致的数据,例如在准确率范围为 01 时写入 accuracy = 10

归档旧配置

当你不再希望用户在新标注中使用某个分数配置时,可以将其归档。已有历史分数仍会保留并可继续分析。

当指标含义发生明显变化时,建议创建新的配置,而不是重命名旧配置。这样旧分数和新分数都能在各自定义下保持可比较。

相关文档

这个页面对你有帮助吗?