循环系统 · Jeeves
一个只由符号构成的系统。
Jeeves 是 Perslis 内部的纯符号引擎——一个基于规则、以知识图谱驱动的 AI,内部没有任何语言模型。它从编码的逻辑与类型化关系中作答,答不出就说不知道。它不会产生幻觉,因为它从不依据概率生成。
语言模型给出看起来最像样的答案,偶尔会自信地出错。Jeeves 的工作方式恰恰相反。它把知识存为符号——类型化的论点、其背后的证据、涉及的实体与动作——并在它们之间的关系上进行推理。问它规则覆盖的问题,它会给出附带证据的有据答案;问它规则之外的问题,它返回未知,绝不自信臆测。这里没有可调低的温度,也没有可越狱的提示词,因为压根就不存在一个概率生成器。在 Perslis 中,Jeeves 就是循环用来复核每条主张的那个纯符号第二意见。
Jeeves 如何把一句话层层剥开
Jeeves 不存句子——它存剥层瓦片(peel tiles)。每一份知识都被剥成它的符号构件:所主张的论点、支持它的证据、一句平实的解释、所涉及的实体、涉及的动作、一个置信度,以及它来自的源文件。瓦片是一个可核验的单元,而非改写。由于每块瓦片自带出处,由瓦片拼出的答案总能说明为什么——哪些规则触发、它们各自的依据是什么。
- 7,251 条逻辑规则——每块剥层瓦片就是一条逻辑规则;二者一一对应,知识与推理是同一个对象。
- 427,178 条格边——把瓦片连成可供 Jeeves 遍历的图的类型化关系。
- 200,000 条剥层胶连(peel-glue)——将相关瓦片绑在一起、让推理在其间穿行的连接。
- 370,176 条有据回答,覆盖 57,206 个问题——可回溯到瓦片、而非采样自某个分布的答案。
它为什么不会幻觉
幻觉,是概率模型用貌似合理的东西去填补空白时发生的事。Jeeves 没有这样的填补器。当图谱里没有规则覆盖某个问题时,就没有任何可供采样的东西——于是它返回未知,而不是编造。正是这一条性质,让纯符号引擎在模型越来越大的时代仍值得保留:它是整个技术栈中,唯一在结构上无法凭空捏造的部分。
循环中的 Jeeves
Perslis 把神经推理与符号层配对——完整图景见符号 AI。Jeeves 就是这一层的具体实现。模型提出方案;Jeeves 被请来核查。它能查询自己的符号,就一条主张检验是否与已有知识矛盾,为一个结论评估其被支持的程度,并解释是哪些规则得出了裁决。当模型流畅的答案与 Jeeves 有据的答案相左时,这种分歧本身就是信号——循环选择停下,而不是发布。
这与 Perslis 其余部分运行的构建 → 复核 → 验证纪律相同,只是多了一层:这里的审阅者不是另一个可以被说服点头的模型,而是一台要么有依据、要么没有的规则引擎。
符号与神经,各司其长
这并非否定语言模型——而是分工。神经推理在开放式工作上无可匹敌:读懂杂乱的意图、提出思路、起草。Jeeves 在必须正确的那部分上无可匹敌:判断某条具体主张是否真正成立。Perslis 让两者各展所长、互相制衡,使模型的创造力被符号的严谨所约束。底层引擎是 Kist,其上的纪律是循环。