跳到主内容

Langfuse 设置

Langfuse 是一个 LLM 工程平台,可帮助您监控、调试和优化 AI 流水线。它支持自托管和云版本。通过 Langfuse,您可以更轻松地调试和监控 AI 流水线,以了解 AI 流水线内部的运作情况。

Wren AI 支持 Langfuse 用于 AI 流水线追踪和监控。安装 Wren AI 后,您可以按照以下步骤开始使用 Langfuse。

信息

在本指南中,我们将使用 Langfuse 的云版本。如果您想使用自托管版本,请参阅 Langfuse 文档

为了从 Wren AI 成功连接到您自己的 Langfuse 实例,请确保正确配置了以下额外设置:

  1. 您有一个正在运行的 Langfuse 实例。
  2. 您在 ~/.wrenai/config.yaml 中设置了正确的 langfuse_host
  3. Wren AI(运行在 Docker 容器中)可以访问 Langfuse 实例。

如何设置 Langfuse

  • 前往 Langfuse 并点击“Sign Up”(注册)按钮注册一个账户。
    注意

    请确保您的数据区域设置为 EU,这意味着 langfuse_hosthttps://cloud.langfuse.com,与 Wren AI 中 langfuse_host 的默认值相同。否则,您需要稍后将 ~/.wrenai/config.yaml 中的 langfuse_host 值更改为 https://us.cloud.langfuse.com

    sign up
  • 创建一个新的组织和项目。创建组织 创建项目
  • 从项目设置中复制 secret key 和 public key,并将其填写到 ~/.wrenai/config.yaml 文件中。文件中应该已经存在两个键:LANGFUSE_PUBLIC_KEY=LANGFUSE_SECRET_KEY=获取 API 密钥
  • 使用启动器重新启动 Wren AI

如何使用 Langfuse

设置 Langfuse 并重新启动 Wren AI 后,当您在 Wren AI 中提问时,几秒钟后即可在 Langfuse 的 traces 标签页中看到追踪记录。这些 ID 是可点击的,您可以查看追踪记录的详细信息。

trace

在追踪详情页面中,您可以查看追踪记录的详细信息,包括提示词、响应以及每个步骤的执行时间。

trace details