流
菩提应用 (Bodhi App)
菩提应用（Bodhi App）通过 llama.cpp 实现开源大语言模型（LLM）的本地执行，提供兼容 OpenAI 的 API 端点及内置的模型权重发现接口。
信号 (Signal) GitHub 仓库 BodhiSearch/BodhiApp 展示了一款旨在本地运行开源大语言模型（LLM）的桌面应用。该项目集成 Huggingface 生态以获取权重访问，并利用 llama.cpp 进行推理。它暴露兼容 OpenAI 的聊天补全与模型 API 端点，并提供 SwaggerUI 文档供开发者测试。内置聊天界面（Chat UI）面向非技术用户，具备模型发现与下载功能。
背景 (Context) 本地推理基础设施正围绕标准化运行时和可访问接口趋于稳定。尽管许多工具面向拥有命令行或仅 API 访问权限的技术操作者，Bodhi App 试图通过提供图形用户界面（GUI）并兼顾开发者级 API 兼容性来弥合这一差距。这符合将本地模型推理视为标准桌面基础设施而非实验性工具的转向。
关联 (Relevance) 本条目适用于需要隐私保护推理、无云依赖，同时保持与现有智能体框架 API 互操作性的操作者。兼容 OpenAI 的端点允许与期望标准模型接口的工具直接集成，减少智能体编排管道中的摩擦。模型发现功能的引入解决了开放权重仓库的碎片化问题。
当前状态 (Current State) 仓库表明开发活跃，拥有针对 Mac、Linux 和 Windows 环境的构建徽章。覆盖率指标和发布工作流已确立。该项目声称通过底层的 llama.cpp 集成支持多个模型家族（gemma, llama, mistral）。信号文本中未提供具体的版本发布日期，但 CI 状态表明持续维护中。
待解问题 (Open Questions) 模型权重兼容性和量化支持的更新节奏是什么？API 实现如何处理流式响应，与标准 OpenAI 客户端相比如何？除了标准 llama.cpp 基线外，是否有特定的硬件要求或性能优化？模型发现功能是否连接特定的 Huggingface 端点或精选列表？
连接 (Connections) 该应用作为本地推理的客户端层，使其在桌面推理格局中与 lm-studio 和 ollama 相邻。其 API 暴露与 xinference 重叠，为异构模型家族提供类似的抽象。在操作上，它通过提高私有模型执行的可访问性，为本地推理基线回路做出贡献。
译注
- 菩提 (Bodhi): 源自佛教术语，意指觉悟。此处保留音译并加注英文，既指代应用名，亦隐喻对模型能力的觉醒。
- 流 (Current) vs 回路 (Circuit): 本条目为“流”（Current），指代单一信号或数据点；而“回路”（Circuit）指代完成闭环的交互模式。文中提及的“回路”保留了这一区分。
- 智能体 (Agent): 对应英文 AI Agent，强调其作为自主执行单元的特性，区别于普通软件代理。
- 开放权重 (Open weights): 强调模型权重的可访问性，区别于仅开放 API 的闭源模型。