pi-mono 学习 02|pi-ai:为什么需要单独一层来统一模型调用

这篇写什么

只讲 packages/aipi-ai)的设计动机与职责边界:它到底统一了什么、为什么对 agent 很关键、它和 pi-agent-core 的分工是什么。

先说结论

pi-ai 的本质不是“又一个模型 SDK”,而是:一个面向 agent 场景的多模型统一抽象层。

它的目标是把不同厂商、不同协议、不同风格的大模型调用方式,收敛成一套统一输入输出标准,让上层系统稳定工作。

为什么值得单独做一层

如果没有这一层,上层会直接面对:

  • 不同厂商的 API 结构、消息格式、流式协议差异
  • tool calling 表达差异
  • reasoning/thinking 支持差异
  • usage / cost 统计差异

最终会导致:

  • agent 层被 provider 细节污染
  • 每加一个 provider 都要横向改大量代码
  • 跨模型继续对话变得不稳定

pi-ai 的价值不是“让调用更方便一点”,而是:让上层架构不被底层模型差异拖垮。

它到底统一了什么

可以粗分四类:

  1. 统一输入
  2. 统一输出
  3. 统一模型描述
  4. 统一兼容策略

1) 统一输入

上层只表达:

  • 用哪个模型
  • 当前上下文是什么
  • 这轮允许哪些工具
  • 运行参数是什么

2) 统一输出

对 agent 来说,统一输出比统一输入更关键,因为 agent 需要过程:

  • 文本增量
  • thinking/reasoning 增量
  • tool call 增量
  • stop reason
  • usage/cost

pi-ai 把各家原始流式返回翻译成统一事件流,上层不需要理解各家 chunk 细节。

3) 统一模型描述

模型不是一个字符串,而是调用语义载体:

  • provider / 协议类型
  • 上下文窗口与最大输出
  • 是否支持 reasoning、多模态
  • 成本信息
  • 兼容配置

这些信息让上层可以做能力判断、成本统计与路由。

4) 统一兼容策略

现实里“兼容”带脏细节。pi-ai 把兼容处理集中在底层适配与模型兼容配置里,而不是让上层四处写 if/else。

协议层视角:不以 provider 为唯一抽象单位

一个关键设计点是:抽象单位更像“协议类型”,而不是“厂商名”。

这样 OpenAI-compatible 或 Anthropic-compatible 的服务可以大量复用实现,只在少数不兼容点做局部修正。

它为什么特别适合 agent

因为 agent 需要:

  • 工具调用
  • 多轮循环
  • 中间态事件
  • 上下文可重放
  • 成本与 stop reason

pi-ai 从一开始就不是“聊天式封装”,而是“agent 式封装”。

pi-agent-core 的边界

  • pi-ai 负责:统一模型调用、上下文表示、流式事件、工具表达、usage/cost/stop reason、屏蔽 provider 差异。
  • pi-agent-core 负责:什么时候调模型、什么时候执行工具、工具结果怎么回灌、是否继续下一轮、什么时候停止。

一句话:pi-ai 解决“怎么和模型说话”,pi-agent-core 解决“怎么让模型持续干活”。

Read more

把 Codex CLI 的登录态"搬"到一台新服务器

场景:你在一台老机器上早就登录好了 Codex CLI,现在开了台新服务器、装好了 codex,但它没登录。你不想在新机上重新走一遍 OAuth 网页授权(有时候服务器上根本打不开浏览器),只想把老机器上那份"已经登录好的身份"复制过去。 这篇讲的就是这个搬运动作的完整方法论——为什么能搬、怎么搬、有哪些坑。命令里所有隐私都用占位符,照着换成你自己的即可。 一、先理解一件事:Codex 的登录就是一个文件 这是整个操作的地基。Codex CLI(ChatGPT OAuth 登录模式下)的登录状态,不在什么系统钥匙串里,也不在环境变量里,就是家目录下一个单独的 JSON 文件: ~/.codex/auth.json 它长这样(字段名是真的,值我打码了): { "auth_mode": "

By ladydd

哨兵机制:让 Agent 一触即醒

0. 一句话点破本质 **让"等"发生在便宜的子进程里,让贵的 agent 只在有事时醒。**心跳解决"最迟多久必有人查岗",探针解决"事情一发生几乎立刻有人到场"——两个机制回答的是两个不同的问题,谁也替代不了谁。 1. 机制全貌:会自杀的轮询进程 + 宿主的"尸体通知" 我的实现只有两块积木: 积木一:一个有明确死法的后台循环 # 放行任务的同时,后台挂上(run_in_background) for i in $(seq 1 20); do 信号=$(ssh data "tmux capture-pane -t dna

By ladydd

Agent 心跳机制·设计与实现

0. 一句话点破本质 **心跳不是闹钟,是"带着完整世界快照的自我唤醒"。**闹钟只解决"什么时候醒";心跳真正要解决的是你点出的那个问题——醒来的那个瞬间,清楚自己是谁、任务到哪了、这一跳该干什么。我所有跑得好的心跳,提示词都写得像给一个失忆的陌生人看的;所有出过事的心跳,都是因为假设"我还记得"。 1. 第一性原理:为什么"醒来知道干啥"这么难 一个长期任务里的 agent 面临三重失忆: 1. 上下文会被压缩——多轮之后早期细节只剩摘要,心跳打进来时,那条心跳提示词可能是上下文里唯一高保真的任务描述 2. 世界在你睡着时变了——下属可能干完了、卡死了、跑偏了,你脑子里的"进度"从睡着那刻就开始过期 3. 任务本身会变—

By ladydd

我没手动映射 3000,公网为什么还能访问?一次 UPnP 误开孔复盘

写在前面:标题里的“自己打开”只是当时的主观感受。路由器没有失控,也不存在神秘穿透。真正发生的是:排障自动化从局域网主动调用了 UPnP AddPortMapping,路由器按协议新增了公网映射。 1. 原本的设计边界 家里的 Open WebUI 跑在一台 Ubuntu 主机的 Docker 中: 内网主机 192.168.x.x:3000 路由器上手动配置的入口是: 公网 TCP 13000 → 内网主机:3000 外部用户不直接访问家宽端口,而是先到云端 Caddy: 用户浏览器 → https://ai.example.com (云端 Caddy) → http://home.example.com:13000 (DDNS → 家宽公网

By ladydd
陕公网安备61011302002223号 | 陕ICP备2025083092号