EN
返回档案库

档案库 · 产品创意 · 产品决策 · 2023–2026

Langfuse 为 LLM 应用带来软件级别的追踪和版本化提示词,开源优先

YC W23 团队将大语言模型工程做成开源——追踪、评测、提示词版本管理,可自托管——GitHub 星标涨到 3.4 万,并入 ClickHouse。

Langfuse

创意是什么给 LLM 应用提供软件一直以来的工具:追踪每一次模型调用,像管理代码一样管理提示词版本,并运行评测——开源且可自托管。伤筋动骨

当时的题目

LLM features were shipping as production software while debugging them was guesswork: a bad answer could come from any model call, retrieval step or prompt version, and nothing recorded the path. Langfuse's YC W23 founders had spent 15 months building tracing since an earlier Show HN, and their December 2024 Launch HN presented an open-source platform that wraps traces, prompt management, evals and datasets into one workflow.

它是怎么成立的

Langfuse 基于一个类比:LLM 应用是软件,而软件需要追踪。当模型返回糟糕答案时,没有堆栈追踪告诉你这是由哪个提示词、检索步骤或代理操作造成的,也没有版本历史让你知道什么变了。Langfuse 的创始人——一个 YC W23 团队,自早先的 Show HN 以来已经花了 15 个月做追踪——把这种可见性做成了产品。

该平台记录一切:类型化的 Python 和 JavaScript SDK、可替换的 OpenAI SDK、为 LangChain 和 LlamaIndex 提供的回调,以及 @observe 装饰器,将每一次模型调用、检索和代理操作都路由到追踪数据中。在追踪之上,是带版本控制和低延迟缓存的提示词管理、LLM 作为评判者、代码评估器、用于部署前测试的数据集,以及可直接从错误追踪跳转的测试台。核心采用 MIT 许可,可通过 Docker 在几分钟内完成自托管,而 Langfuse Cloud 提供托管版本。

2024 年 12 月的 Launch HN 吸引了 215 分和 61 条评论,创始团队报告数千个团队采用,包括可汗学院、Twilio、Samsara,并宣布了 v3,一个基于 ClickHouse 构建的可扩展性重写。到 2026 年 9 月,仓库显示 34.2k 星标和 3.7k 分叉,包括 Langflow、Open WebUI、LlamaIndex 在内的数十个领先开源 AI 项目都将 Langfuse 列为集成项;README 称公司已于 2026 年 1 月并入 ClickHouse。

妙在哪

  • 洞察是一个空档,而不是功能列表:AI 应用是唯一没有可观测性的生产软件,所以追踪是显然缺失的一层。
  • 开源优先:MIT 核心允许团队自托管,消除针对监控每个提示词和调用的代码的信任障碍。
  • 单独的追踪只是一些日志;把它和带版本的提示词、评测和数据集合起来,就成了闭环改进循环。
  • 处于生态系统的框架之下——OpenAI、LangChain、LlamaIndex、LiteLLM——让 Langfuse 成为其他工具集成的公共层,而不是一个竞争的孤岛。

做出来什么

The Launch HN drew 215 points and 61 comments; the founders reported thousands of teams using the project, naming Khan Academy, Twilio and Samsara, alongside a v3 scalability rewrite. By September 2026 the repository showed 34.2k stars and 3.7k forks, dozens of leading open-source AI projects from Langflow and Open WebUI to LlamaIndex list Langfuse among their integrations, and the README announced the company became part of ClickHouse in January 2026.

他们自己的页面Live Langfuse demo project

可以借走的

在承诺 AI 应用能做什么之前,先让人看到它能做什么:可观测性、版本化提示词和评测让一个开源层成为整个生态都愿意集成的选择。

后来

Langfuse 在同期 Launch HN 中宣布的 v3 重写,用 S3 事件、Redis 队列和 ClickHouse 工作进程组成的摄取管道替代了 Postgres upsert,将仪表盘延迟降至 400ms(第 95 百分位),提示词检索速度接近零延迟。2026 年 1 月,README 称 Langfuse 已并入 ClickHouse,团队正在欧洲各地招兵买马;核心代码在 enterprise 文件夹之外仍保持 MIT 许可,项目也继续作为开源 AI 生态中的公共观测层。

资料来源

发现哪里写错了?告诉我们。

轮到你了

你刚读完一个点子。把你手上的题目说出来,看看谁接过同样的题。

免费账号 · 3 次免费提问 · 不用绑卡

相关案例