Escalate

🛡️ 渐进信任,智能升级

智能升级决策系统:从保守询问开始,通过观察用户授权模式逐步建立信任,自动判断何时自主处理、何时请示人类

收藏
7.1k
安装
2.5k
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Escalate 是一套自适应权限升级框架,核心机制是「观察-学习-确认-存储」。系统默认所有操作处于 ask 状态(需人类确认),通过追踪用户的授权语言(如"你决定"、"直接做"),在同类场景出现2次以上委托后,主动提议升级为 confirmed 自主权限。

显著优点

1. 渐进式信任建立:不像传统规则引擎,它从保守出发,用实际交互数据而非预设规则决定权限边界
2. 硬边界保护:对资金、删除、外发通信、凭证、法律、生产部署等6类高风险操作设置 blocked 永久封锁,零例外

3. 低摩擦升级格式:请示时提供A/B/C结构化选项 + "你决定"快捷出口,降低用户认知负担

4. 动态重评估机制:即使已获 confirmed 权限,高 stakes 场景仍会二次确认,避免路径依赖风险

5. 可审计的信任档案boundaries.md + patterns.md 双文件存储,支持人工审查和回滚

潜在缺点与局限性

  • 冷启动延迟:新场景必须经历2次观察+1次确认,无法立即响应紧急高频需求
  • 用户认知负担:"你决定"的歧义性——用户可能随口一说,系统却将其视为授权信号
  • 类别粒度依赖category/action 的分类质量直接影响学习效果,模糊分类导致权限泛滥或过度保守
  • 无时间衰减:未提及权限过期或信任衰减机制,长期积累的 locked 权限可能成为隐患
  • 多用户场景未覆盖:设计假设单一人类用户,团队/角色权限切换无支持

适合人群

  • 高频使用AI助手、希望减少重复确认的技术从业者
  • 对AI边界有明确认知、愿意投入初期训练成本的用户
  • 需要可追溯权限日志的合规敏感场景(配合手动审计)

常规风险

| 风险类型 | 说明 |
|---------|------|
| 过度授权 | 用户习惯性说"你决定"导致权限膨胀 |
| 类别误分 | 新操作被归入已授权类别,绕过安全检查 |
| 档案篡改 | `patterns.md` 手动编辑破坏信任链条 |
| 社会工程 | 恶意提示诱导系统相信已获授权 |

建议配合定期人工审查 confirmed/locked 列表,并对 blocked 类别保持零容忍。

Escalate 内容

手动下载zip · 3.7 kB
boundaries.mdtext/markdown
请选择文件