§10 认知型 Agent 会监控自己、会进化

10.1 2026 年的"第三次觉醒"

2026 年 5 月。掘金一篇文说 Agent 正经历"第三次觉醒"：

2023 工具调用。2024 Agent 框架。2025 多智能体。

2026，从"工具调用者"变"认知主体"。

10.2 认知架构长这样

传统 Agent：接收→理解→选工具→执行→返回。被动。

认知架构：感知→注意→记忆→推理→决策→反思→学习。主动。

关键在：它有个持续运转的"心智"。

示意图 16：认知型 Agent 的主动心智循环

flowchart TD
  P["感知"] --> A["注意"]
  A --> M["记忆"]
  M --> R["推理"]
  R --> D["决策"]
  D --> Re["反思"]
  Re --> L["学习"]
  L --> P
  style Re fill:#0ea5a4,stroke:#0f766e,color:#fff

10.3 元认知：知道自己不知道

元认知，是"对认知的认知"。

Agent 表现为四件事：

• 置信度估计：给答案打可靠分。
• 知识边界：知道自己不懂哪块。
• 错误检测：发现自个儿推理的漏洞。
• 策略选择：何时该检索、何时该推理。

# 低置信度就触发检索增强
def answer(query):
    ans = llm.generate(query)
    score = self_check(ans)      # 自评可靠度 0-100
    if score < 50:
        return retrieve_and_regenerate(query)  # 不可靠，去查
    if score < 70:
        return add_disclaimer(ans)             # 中等，加免责
    return ans                                 # 高，直接给

示意图 17：元认知——知道自己不懂

flowchart TD
  Q["问题"] --> Gen["生成答案"]
  Gen --> Sc{"自评置信度"}
  Sc -->|"高 ≥70"| Out["直接给"]
  Sc -->|"中 50-70"| Dis["加免责说明"]
  Sc -->|"低 <50"| Ret["检索重生成"]
  style Sc fill:#e8f0fe,stroke:#2563eb

10.4 反思：干完复盘

反思（Reflection）是元认知核心。

执行前：计划是啥？预期是啥？ 执行中：实际咋样？偏了没？ 执行后：哪些对？哪些改？

这让 Agent 从错误里学，越干越对。

10.5 价值对齐：给 Agent 装道德罗盘

Agent 越自主，安全越要紧。

Anthropic 提了 Constitutional AI（宪法式 AI）：给 Agent 一列原则。

"不执行损害用户数据的操作"
"处理敏感信息要二次确认"
"拒绝非法或不道德请求"
"解释自己的决策过程"

每个动作先用原则过一遍。违规就拦下，给替代方案。

10.6 它会主动服务

认知 Agent 不止"你问才答"。

谷歌报告举了个例：物流 Agent 下午 3 点标记"配送失败"。

它自动查原因、重约次日最早时段、发 10 美元补偿、短信告知客户。

全程客户没投诉。Agent 主动把事办了。

§10 讲完"进化"。最后一章，给你能落地的搭建建议。