设计一个极简资源占用的个人助理智能体

Fri, 23 Oct 2026 00:00:00 +0000

在资源受限的环境（例如 512MB 内存、1 个共享 vCPU 的 VPS）中部署 AI 智能体，最大的挑战不是模型推理能力，而是常驻进程的内存占用与不可控的运行开销。

本文分享一套极简智能体方案，核心设计目标是：空闲时接近零开销，按需拉起重组件。

网关：采用 Telegram 等单一渠道，利用 httpx 实现长轮询，不引入庞大的 bot 框架，不开 Webhook 服务端口。
零 AI 路由：在进入 LLM 之前，先进行命令前缀和规则匹配。命中确定性技能则直接执行，不调用 LLM。这层路由通常能过滤大部分低价值请求，节省 API Token 和运行资源。

状态机：手写简单的 asyncio 状态机（约 150 行），限制最多 3 到 4 步。通过结构化的 action_type（tool_call, clarify, cannot_proceed, done）解决智能体"只计划不执行"的问题。
调度：弃用复杂的 APScheduler，使用 SQLite 任务表结合一个"睡到下一个到期任务"的协程进行调度。若要求极致，可利用 systemd timer 在需要时唤醒进程。

记忆：核心数据采用 SQLite + FTS5 全文检索，避免部署笨重的向量数据库。夜间通过远程任务进行压缩和去重。仅在确实需要语义检索时，配合远程 embedding 和 sqlite-vec 按需启用。
工具：实施风险分级注册表。高风险动作需走 pending_confirmation 闸门。MCP 服务以 stdio 子进程方式懒启动，用完即退。浏览器自动化是最大内存开销项，强制单实例，任务结束立即 Kill。

硬限制方案：写入 systemd 配置（MemoryMax=400M, CPUQuota, TasksMax），并配少量 zram。超限时由 systemd 杀掉子进程，确保主进程稳健。

Optimization on CAO ZUOHUA