Seven Mental · 心智七篇
中 EN
← Knowledge Atlas · Concept

Autonomy Slider（自主度滑块）

自主度滑块：产品中用户可调节的 AI 自主权级别，部分自主产品设计
念
CONCEPT · AUTONOMY SLIDER · PARTIAL-AUTONOMY PRODUCTS

Autonomy Slider

Autonomy Slider — Karpathy’s design principle for partial-autonomy products

Right now, build Iron Man suits (augmentation), not Iron Man robots (full agent). But don’t lose the slider — products should reserve a path to higher autonomy. This is the decade of agents, not the year of agents.

Cursor’s autonomy ladder
Tab-completeUser in control, AI only suggestsHuman control: high
Cmd+K (edit selection)User sets scope and intentHuman control: mid-high
Cmd+L (edit whole file)User gives intent, AI decides editsHuman control: mid
Cmd+I (whole-repo agent)User gives the goal, AI picks the pathHuman control: low
Context management·Multi-LLM orchestration·Dedicated GUI (diff beats text)·Adjustable autonomy

Tesla Autopilot: from the perfect 2013 demo to today still unsolved — 12 years of gradual evolution.

→ Agentic Systems · Harness Engineering · Generation-VerificationKarpathy YC (2025)

Autonomy Slider（自主度滑块）

定义

产品中用户可调节的 AI 自主权级别。Karpathy 在 Software Is Changing (Again) 中提出这个概念，用于描述一类部分自主产品——既不是纯手动工具，也不是全自主 agent，而是在两极之间提供一个连续的滑块。

具体案例

Cursor 的自主度阶梯

操作自主度人类控制
Tab 补全最低用户在掌控，AI 只提建议
Cmd+K（改选中代码）低用户指定范围和意图
Cmd+L（改整个文件）中用户给出意图，AI 决定具体改动
Cmd+I（全 repo agent）最高用户只给目标，AI 自主决策路径

Perplexity 的自主度阶梯

  • Quick search → Research → Deep research（10 分钟后返回结果）

Tesla Autopilot

仪表盘 GUI 展示神经网络感知结果，自主功能渐进式扩展。Karpathy 在 Tesla 5 年的经验：2013 年完美 demo 到 12 年后仍未完全解决——“这是 agent 的十年，不是 agent 之年”。

设计原则

部分自主产品的四个共性特征：

  1. 上下文管理：LLM 负责信息组装
  2. 多 LLM 编排：embedding、chat、diff apply 等模型协作
  3. 专用 GUI：利用人类视觉系统加速审计（diff 的红绿比读文本快得多）
  4. 自主度滑块：用户根据任务复杂度选择交出多少控制权

Iron Man 类比

Iron Man 战甲既是增强（Tony Stark 穿着操控）又是 agent（可自主飞行）。Karpathy 的论断：现阶段应该造战甲（augmentation），不是造机器人（full agent）。但不要丢掉 slider——产品应该预留向更高自主度演进的路径。

与 wiki 其他概念的关系

  • Agentic Systems — autonomy slider 是 workflows↔agents 连续体的产品化表达。Anthropic 的”从简单开始”原则在产品层表现为默认低自主度
  • Harness Engineering — harness 是 autonomy slider 背后的工程——约束 agent 的自由度就是在调节滑块
  • Guardrails — guardrails 在每个自主度级别提供安全边界
  • Generation-Verification Loop — 滑块越高，单次验证的 scope 越大，对 GUI 和审计工具的要求越高

References

  • sources/karpathy-software-is-changing-again.md — Karpathy 2025 YC 演讲