Langfuse 设置
Langfuse 是一个 LLM 工程平台,可帮助您监控、调试和优化 AI 流水线。它支持自托管和云版本。通过 Langfuse,您可以更轻松地调试和监控 AI 流水线,以了解 AI 流水线内部的运作情况。
Wren AI 支持 Langfuse 用于 AI 流水线追踪和监控。安装 Wren AI 后,您可以按照以下步骤开始使用 Langfuse。
信息
在本指南中,我们将使用 Langfuse 的云版本。如果您想使用自托管版本,请参阅 Langfuse 文档。
为了从 Wren AI 成功连接到您自己的 Langfuse 实例,请确保正确配置了以下额外设置:
- 您有一个正在运行的 Langfuse 实例。
- 您在
~/.wrenai/config.yaml
中设置了正确的langfuse_host
。 - Wren AI(运行在 Docker 容器中)可以访问 Langfuse 实例。
如何设置 Langfuse
- 前往 Langfuse 并点击“Sign Up”(注册)按钮注册一个账户。
注意
请确保您的数据区域设置为 EU,这意味着
langfuse_host
是https://cloud.langfuse.com
,与 Wren AI 中langfuse_host
的默认值相同。否则,您需要稍后将 ~/.wrenai/config.yaml 中的langfuse_host
值更改为https://us.cloud.langfuse.com
。 - 创建一个新的组织和项目。
- 从项目设置中复制 secret key 和 public key,并将其填写到
~/.wrenai/config.yaml
文件中。文件中应该已经存在两个键:LANGFUSE_PUBLIC_KEY=
和LANGFUSE_SECRET_KEY=
。 - 使用启动器重新启动 Wren AI
如何使用 Langfuse
设置 Langfuse 并重新启动 Wren AI 后,当您在 Wren AI 中提问时,几秒钟后即可在 Langfuse 的 traces 标签页中看到追踪记录。这些 ID 是可点击的,您可以查看追踪记录的详细信息。
在追踪详情页面中,您可以查看追踪记录的详细信息,包括提示词、响应以及每个步骤的执行时间。