IBM watsonx Orchestrate
在 Litefuse 中监控基于 IBM watsonx Orchestrate ADK 构建的 Agent 与工具。Orchestrate 原生集成可将遥测数据(trace、span、日志)转发到 Litefuse,提供丰富的可观测性。
什么是 IBM watsonx Orchestrate? IBM watsonx Orchestrate ADK 是一个框架,允许开发者构建和发布自定义技能(动作),由 watsonx Orchestrate 在自动化工作流中执行。
什么是 Litefuse? Litefuse 是一个用于监控、调试和分析 AI 应用的平台。它提供一整套工具和服务,帮助你监控、调试与分析 AI 应用。
前置条件
- Litefuse Cloud(
https://litefuse.cloud)或自托管的 Litefuse 实例 - 已安装 IBM watsonx Orchestrate ADK
快速开始(CLI)
配置 Orchestrate 将遥测数据发送到 Litefuse。将占位符替换为你自己的值。
orchestrate settings observability langfuse configure \
--url "https://litefuse.cloud/api/public/otel" \
--api-key "sk-lf-0000-0000-0000-0000-0000" \
--health-uri "https://litefuse.cloud" \
--config-json '{"public_key": "pk-lf-0000-0000-0000-0000-0000"}'- 对于自托管 Litefuse,将
--url设置为https://<your-litefuse-host>/api/public/otel,将--health-uri设置为https://<your-litefuse-host>。 - 如果配置文件中未包含,你也可以通过
--project-id(或-p)传入。
另一种方式:使用 YAML 配置文件
创建一个 YAML 文件,并通过 CLI 引用它。示例:
spec_version: v1
kind: langfuse
project_id: default
api_key: sk-lf-00000-00000-00000-00000-00000
url: https://litefuse.cloud/api/public/otel
host_health_uri: https://litefuse.cloud
config_json:
public_key: pk-lf-00000-00000-00000-00000-00000
mask_pii: true应用该文件:
orchestrate settings observability langfuse configure --config-file=path_to_file.yml在 Orchestrate 中启用遥测
要启用 IBM 的原生可观测性框架,请使用 --with-ibm-telemetry 或 -i 参数启动 Orchestrate 服务器,然后在浏览器中访问 https://localhost:8765。
启动启用了遥测的 Orchestrate 服务器,并打开本地控制台:
orchestrate start --with-ibm-telemetry
# 或简写
orchestrate start -i
# 打开控制台
# https://localhost:8765故障排查
- 连接/健康检查:确认
--health-uri有响应,且摄入 URL 指向/api/public/otel - 认证:确认
api_key(Secret Key)和public_key(Public Key)属于同一个 Litefuse 项目 - 自托管:确认 Orchestrate 能访问到你的 Litefuse 实例,并且 TLS 配置正确
参考资料
- IBM 文档:使用 Litefuse 监控你的 LLM
这个页面对你有帮助吗?