EN
返回档案库

档案库 · 产品创意 · 产品决策 · 2024–2026

LLocalSearch:打造完全运行在自有设备上的 Perplexity 风格答案引擎

本地 LLM 递归选择搜索工具,从实时网络获取答案——无需 API 密钥,无赞助商链接,每步操作实时记录。

nilsherzig

创意是什么在用户自有的硬件上运行 Perplexity 循环:本地模型、工具、递归搜索、实时日志和引用链接——一个无任何商业企图的答案引擎。小步快跑

当时的题目

Perplexity had made LLM web search mainstream, but the economics of AI answers were turning into media placement — OpenAI's pitch to publishers promised priority placement and richer brand expression inside chat conversations. The developer behind LLocalSearch wanted the same question-answering experience with no API keys and no sponsored results, built locally on ordinary consumer hardware.

它是怎么成立的

LLocalSearch 源于一个简单的拒绝:开发者不希望自己的答案被出价最高者操控。README 直指 AI 公司向媒体售卖优先展示位,并在聊天对话中提供更丰富的链接呈现,随后它给出一个更公平的替代方案——一个本地运行的 Perplexity 风格引擎,模型、搜索和会话全在你自己的机器上,无需任何 API 密钥。

其机制是一个封装器,让本地运行的语言模型可以选择一组工具。模型可以搜索网页获取实时信息,阅读返回结果,再递归搜索——条件、循环和多次工具调用都在同一个对话里完成。由于演示跑在 7B 级模型和约 300 欧元的 GPU 上,这不过是业余玩家的配置,而非数据中心级别。

设计还让智能体透明可查:每个答案中的实时日志和链接展示模型在做什么,它的论断基于哪些页面,并且同一会话还支持追问。2024 年 4 月 3 日的 Show HN 获得 669 分和 133 条评论;仓库到 2026 年 6 月归档前累积了 5.9k 星,所有者当时宣布以私有测试重建项目。

妙在哪

  • 所有权是全部卖点:没有 API 密钥、没有账号、没有云端依赖,所以模型、搜索和对话全在用户机器上。
  • 递归让一个小模型发挥作用:不只是单个提示,而是模型可以反复调用工具,针对实时网页逐步优化回答,而不是仅依赖训练截止日期前的数据。
  • 在对手售广告位的地方,透明度是建立信任的方式:实时日志和引用链接让用户核查每一步,而不是接受一个黑箱答案。
  • 低端硬件降低了门槛:演示运行在约 300 欧元的 GPU 上,将本地 AI 搜索从数据中心梦想变为个人可以在家运行的事实。

做出来什么

The Show HN drew 669 points and 133 comments on 3 April 2024, the strongest debut in its batch, and the repository reached 5.9k stars before the owner archived it on 1 June 2026 while announcing a rewrite in private beta rather than publishing unfinished software.

案例页LLocalSearch on GitHub (archived)

可以借走的

当竞争者把答案作为广告位出售时,就用主权对抗:在用户硬件上运行模型、搜索和审计追踪,并公开推理过程。

后来

项目立刻引来关注和分支——归档前达到 5.9k 星、363 个分支和 182 次提交——发布页上满是在问硬件、模型和量化方案的帖子,作者都一一公开回答。2026 年 6 月 1 日,仓库变成只读并归档,说明该版本已停止开发超过一年;作者表示正在私有测试中重写并重新发布,先收集反馈再发布,而不是放出半成品。

资料来源

发现哪里写错了?告诉我们。

轮到你了

你刚读完一个点子。把你手上的题目说出来,看看谁接过同样的题。

免费账号 · 3 次免费提问 · 不用绑卡

相关案例