核心指标与仪表盘自定义仪表盘

自定义仪表盘

借助 Litefuse 自定义仪表盘,把你的 LLM 应用数据转化为可执行的洞察。 你可以创建个性化视图,跟踪团队最关心的指标——从延迟与成本优化,到质量监控与用户行为分析。

自定义仪表盘构建在一个强大的查询引擎之上,支持对你的 tracing 数据 进行多层级聚合,是一种灵活的自助式分析方案。 无论你是在监控生产环境性能、分析用户反馈趋势,还是把成本与质量指标关联起来,仪表盘都能为你提供做出数据驱动决策所需的可视化工具。

关键能力

  • 灵活的查询引擎:基于 Litefuse 数据模型,支持跨 trace、observation、用户、会话与分数的复杂聚合
  • 丰富的可视化方式:支持折线图、柱状图、时序图等多种图表类型,并可自定义布局
  • 高级过滤:可按元数据、时间戳、用户属性、模型参数等过滤
  • 多层级聚合:在 trace、用户或会话层级聚合数据,回答复杂的分析问题
  • 实时更新:仪表盘会反映来自 LLM 应用的实时数据
  • 团队协作:在项目内共享仪表盘,统一进行监控与洞察
  • Litefuse 精选仪表盘:一组围绕延迟、成本与 Litefuse 使用情况的预置仪表盘,便于快速上手

快速开始

只需两步就能用上自定义仪表盘,或者直接使用 Litefuse 精选的仪表盘。

创建你的第一个 Widget

Widget 是单个可视化组件,用于展示来自 LLM 应用数据的特定指标。

  1. 进入 Litefuse 项目中的 Dashboards 区域
  2. 选择 Widgets 标签
  3. 点击 New Widget
  4. 配置你的 widget:
    • 数据源:从 trace、observation 或评估分数中选择
    • 指标:选择要度量的内容(数量、延迟、成本、分数等)
    • 维度:按用户、模型、时间、trace 名称等分组
    • 过滤器:缩小到特定数据子集
    • 图表类型:为你的数据挑选最合适的可视化方式
  5. 点击 Save 保存 widget

搭建你的仪表盘

把多个 widget 组合成完整的仪表盘,讲清楚 LLM 应用性能的全貌。

  1. 进入 Dashboards 标签
  2. 点击 New Dashboard
  3. 给仪表盘起一个具有描述性的名字(例如”生产监控”、“成本分析”、“质量指标”)
  4. 通过选择已有的 widget 或新建 widget 来添加内容
  5. 使用拖拽界面排布 widget
  6. 调整 widget 大小,突出重要指标

使用精选仪表盘

通过 Litefuse 精选仪表盘快速启动你的分析,它们聚焦于常见的 LLM 应用监控需求:

  • 延迟仪表盘:监控不同模型与用户群体的响应时间
  • 成本仪表盘:跟踪 token 使用量及其相关成本随时间的变化
  • 使用情况仪表盘:了解你对 Litefuse 平台的使用情况

这些预置仪表盘可以直接使用,也可以克隆后按需自定义。

高级功能

高级过滤与分组

借助 Litefuse 强大的过滤能力创建精确的数据视图:

  • 元数据过滤:按附加在 trace 与 observation 上的自定义元数据过滤
  • 时间过滤:分析特定时间段或对比多个时间区间
  • 用户属性:按用户特征与行为模式进行分群
  • 模型参数:按特定模型配置或版本过滤
  • 标签:使用 trace 标签 进行分类过滤
  • 分数阈值:按质量分数区间或反馈评级过滤

图表类型与可视化

为你的数据选择合适的可视化方式:

  • 折线图:适合跟踪随时间变化的趋势(延迟、成本、用量)
  • 柱状图:在不同类别(模型、用户、功能)之间比较数值
  • 时序图:以时间粒度监控实时指标
  • 饼图:展示分类数据的比例(如反馈评级)

动态布局与响应式

  • 拖拽界面:轻松重新排布 widget,形成有逻辑的分组
  • 响应式设计:仪表盘可适配不同屏幕尺寸与设备
  • Widget 调整大小:用更大的可视化突出重要指标
  • 栅格系统:自动保持整洁、有序的布局

数据导出与集成

导出仪表盘数据用于进一步分析或与外部工具集成。完整导出选项请参见 导出数据 指南,包括:

  • 仪表盘数据 CSV 导出
  • 与外部分析工具集成
  • 通过 指标 API 进行编程访问

用例与示例

生产监控仪表盘

实时监控 LLM 应用的健康度与性能:

  • 错误率跟踪:监控失败请求与错误模式
  • 延迟分析:跟踪不同接口的 P95 与 P99 响应时间
  • 吞吐量监控:可视化请求量与容量利用率
  • 模型表现:在不同模型版本之间比较准确率与质量指标
  • 工具使用与延迟:跟踪每个外部工具(如 API 调用、数据库查询)被调用的频率及其延迟

成本优化仪表盘

理解并优化你的 LLM 使用成本:

  • Token 使用趋势:跟踪输入/输出 token 消耗随时间的变化
  • 每用户成本:识别高用量用户,优化定价策略
  • 模型成本对比:在不同 LLM 提供商与模型之间比较成本
  • 功能成本分析:弄清楚哪些应用功能贡献了最高的成本

质量与用户体验仪表盘

监控 LLM 应用的质量与用户满意度:

  • 用户反馈趋势:跟踪点赞/点踩评级与详细反馈
  • 分数分布:可视化质量分数随时间的分布
  • 用户行为分析:了解用户与不同功能之间的交互方式
  • A/B 测试结果:在不同模型版本或 prompt 之间比较质量指标
这个页面对你有帮助吗?