自定义仪表盘
借助 Litefuse 自定义仪表盘,把你的 LLM 应用数据转化为可执行的洞察。 你可以创建个性化视图,跟踪团队最关心的指标——从延迟与成本优化,到质量监控与用户行为分析。
自定义仪表盘构建在一个强大的查询引擎之上,支持对你的 tracing 数据 进行多层级聚合,是一种灵活的自助式分析方案。 无论你是在监控生产环境性能、分析用户反馈趋势,还是把成本与质量指标关联起来,仪表盘都能为你提供做出数据驱动决策所需的可视化工具。
关键能力
- 灵活的查询引擎:基于 Litefuse 数据模型,支持跨 trace、observation、用户、会话与分数的复杂聚合
- 丰富的可视化方式:支持折线图、柱状图、时序图等多种图表类型,并可自定义布局
- 高级过滤:可按元数据、时间戳、用户属性、模型参数等过滤
- 多层级聚合:在 trace、用户或会话层级聚合数据,回答复杂的分析问题
- 实时更新:仪表盘会反映来自 LLM 应用的实时数据
- 团队协作:在项目内共享仪表盘,统一进行监控与洞察
- Litefuse 精选仪表盘:一组围绕延迟、成本与 Litefuse 使用情况的预置仪表盘,便于快速上手
快速开始
只需两步就能用上自定义仪表盘,或者直接使用 Litefuse 精选的仪表盘。
创建你的第一个 Widget
Widget 是单个可视化组件,用于展示来自 LLM 应用数据的特定指标。
- 进入 Litefuse 项目中的 Dashboards 区域
- 选择 Widgets 标签
- 点击 New Widget
- 配置你的 widget:
- 数据源:从 trace、observation 或评估分数中选择
- 指标:选择要度量的内容(数量、延迟、成本、分数等)
- 维度:按用户、模型、时间、trace 名称等分组
- 过滤器:缩小到特定数据子集
- 图表类型:为你的数据挑选最合适的可视化方式
- 点击 Save 保存 widget
搭建你的仪表盘
把多个 widget 组合成完整的仪表盘,讲清楚 LLM 应用性能的全貌。
- 进入 Dashboards 标签
- 点击 New Dashboard
- 给仪表盘起一个具有描述性的名字(例如”生产监控”、“成本分析”、“质量指标”)
- 通过选择已有的 widget 或新建 widget 来添加内容
- 使用拖拽界面排布 widget
- 调整 widget 大小,突出重要指标
使用精选仪表盘
通过 Litefuse 精选仪表盘快速启动你的分析,它们聚焦于常见的 LLM 应用监控需求:
- 延迟仪表盘:监控不同模型与用户群体的响应时间
- 成本仪表盘:跟踪 token 使用量及其相关成本随时间的变化
- 使用情况仪表盘:了解你对 Litefuse 平台的使用情况
这些预置仪表盘可以直接使用,也可以克隆后按需自定义。
高级功能
高级过滤与分组
借助 Litefuse 强大的过滤能力创建精确的数据视图:
- 元数据过滤:按附加在 trace 与 observation 上的自定义元数据过滤
- 时间过滤:分析特定时间段或对比多个时间区间
- 用户属性:按用户特征与行为模式进行分群
- 模型参数:按特定模型配置或版本过滤
- 标签:使用 trace 标签 进行分类过滤
- 分数阈值:按质量分数区间或反馈评级过滤
图表类型与可视化
为你的数据选择合适的可视化方式:
- 折线图:适合跟踪随时间变化的趋势(延迟、成本、用量)
- 柱状图:在不同类别(模型、用户、功能)之间比较数值
- 时序图:以时间粒度监控实时指标
- 饼图:展示分类数据的比例(如反馈评级)
动态布局与响应式
- 拖拽界面:轻松重新排布 widget,形成有逻辑的分组
- 响应式设计:仪表盘可适配不同屏幕尺寸与设备
- Widget 调整大小:用更大的可视化突出重要指标
- 栅格系统:自动保持整洁、有序的布局
数据导出与集成
导出仪表盘数据用于进一步分析或与外部工具集成。完整导出选项请参见 导出数据 指南,包括:
- 仪表盘数据 CSV 导出
- 与外部分析工具集成
- 通过 指标 API 进行编程访问
用例与示例
生产监控仪表盘
实时监控 LLM 应用的健康度与性能:
- 错误率跟踪:监控失败请求与错误模式
- 延迟分析:跟踪不同接口的 P95 与 P99 响应时间
- 吞吐量监控:可视化请求量与容量利用率
- 模型表现:在不同模型版本之间比较准确率与质量指标
- 工具使用与延迟:跟踪每个外部工具(如 API 调用、数据库查询)被调用的频率及其延迟
成本优化仪表盘
理解并优化你的 LLM 使用成本:
- Token 使用趋势:跟踪输入/输出 token 消耗随时间的变化
- 每用户成本:识别高用量用户,优化定价策略
- 模型成本对比:在不同 LLM 提供商与模型之间比较成本
- 功能成本分析:弄清楚哪些应用功能贡献了最高的成本
质量与用户体验仪表盘
监控 LLM 应用的质量与用户满意度:
- 用户反馈趋势:跟踪点赞/点踩评级与详细反馈
- 分数分布:可视化质量分数随时间的分布
- 用户行为分析:了解用户与不同功能之间的交互方式
- A/B 测试结果:在不同模型版本或 prompt 之间比较质量指标
这个页面对你有帮助吗?