把 Litefuse 与 LobeChat 集成

什么是 LobeChat?

LobeChat 是一款 开源 LLM 聊天平台,可以与多种 AI 模型和工具无缝集成,为用户提供直观的界面来与先进的语言技术交互。

什么是 Litefuse?

Litefuse 是最常用的 开源 AI Agent 可观测性和评估平台 之一。启用 Litefuse 集成后,你可以用 Litefuse 追踪应用数据,从而开发、监控并改进 LobeChat 的使用,包括:

  • 应用 trace
  • 使用模式
  • 按用户和模型的成本数据
  • 评估

快速开始

配置 Litefuse

通过注册 Litefuse Cloud自托管 Litefuse 获取你的 Litefuse API Key。

配置 LobeChat

自托管 LobeChat 有多种方式。本例使用 Docker Desktop 部署。

在部署 LobeChat 前,使用上一步创建的 Litefuse API Key 设置以下四个环境变量。

ENABLE_LANGFUSE = '1'
LANGFUSE_SECRET_KEY = 'sk-lf...'
LANGFUSE_PUBLIC_KEY = 'pk-lf...'
LANGFUSE_HOST = 'https://litefuse.cloud'

在设置中启用 Analytics

LobeChat 启动后,进入 Settings 中的 About 选项卡并启用 analytics。这是把 trace 发送到 Litefuse 的必要步骤。

LobeChat Settings

在 Litefuse 中查看 trace

设置好你的 LLM 模型 key 后,就可以开始和 LobeChat 应用对话了。

LobeChat Conversation

聊天中的所有对话都会被自动追踪并发送到 Litefuse。你可以在 Litefuse 平台的 Traces 区域 查看 trace。

LobeChat Example Trace

Litefuse UI 中的示例 trace

反馈

如有任何反馈或建议,欢迎创建 GitHub Issue,或在 Discord 上与社区分享你的工作。

这个页面对你有帮助吗?