人工组织

主流 AI 安全方法聚焦于对齐个体模型。人工组织方法则关注连接它们的结构。William Waites 2026 年的论文（arXiv:2602.13275）表明，可靠的集体行为可以从架构约束中涌现——信息不对称、角色专业化和强制协议边界——即使个体智能体不可靠。参考实现是一个三智能体文档撰写系统：Composer 起草文本，Corroborator 利用完整源访问权核实事实主张，Critic 在不访问源的情况下评估论证质量。Corroborator 与 Critic 之间强制的信息不对称是关键的结构化举措。没有任何一个智能体能单独完全满足任务；回路的可靠性源于其约束，而非其能力。在 474 个撰写任务中的测试显示，被分配不可能任务的智能体“从试图捏造转向诚实拒绝并提出替代方案”——这是一种既未编程也未个体激励的行为。

此回路正在开源生态系统中闭合。Plumbing (plumbing-lang) 提供了一种类型化语言，用于指定维系此类架构的通信协议。inspectable-agent-operations 回路提供了可观测性层。autonomous-research-accountability 定义了边界处的人类监督要求。此回路围绕一个核心主张稳定下来：多智能体系统中的信任单位应是组织，而非智能体。结构设计先于对齐工作。智能体无法知晓的内容塑造了它们所能产生的结果。回路在此刻闭合：信任的根基在于架构的约束，而非个体的完美。

译注

• 人工组织 (Artificial Organisations)：此处“人工”对应“Artificial”，强调通过人为设计的结构（Structure）而非生物或自然演化形成的有机体。在 AI 语境下，指代由算法和协议构建的合成实体。
• 回路 (Circuit)：对应 Glossary 中的 "Circuit"，指代信息或控制流形成的闭合路径，区别于单纯的“流”（Current）。此处强调系统行为的闭环与稳定性。
• Plumbing：作为特定项目/工具的名称保留英文，中文语境下常指“管道”或“底层设施”，此处特指 plumbing-lang 规范层。