Prompt Safe

🛡️ Token安全提示组装 · 零溢出保障

通过两阶段上下文构建和内存安全阀机制,确保LLM提示永不因token溢出而失败,专为高稳定性Agent设计

收藏
12.6k
安装
2.8k
版本
1.0.1
CLS 安全性认证2026-07-13
点击查看完整报告 >

使用说明

核心定位

prompt-assemble 是一套标准化的token安全提示组装框架,核心目标是绝对避免API因内存相关token溢出而失败。它采用两阶段上下文构建内存安全阀机制,在保证系统稳定性的同时最大化相关上下文利用率。

核心用法

框架强制遵循六阶段工作流:
1. 基础配置:设定模型上下文窗口(默认MiniMax-M2.1 204K tokens)和85%安全阈值(173,400 tokens)

2. 最小上下文构建:系统提示 + 最近3条消息 + 当前输入,默认零内存

3. 内存需求判定:通过关键词触发器(如"previously"、"earlier we discussed"等)智能识别是否需要历史检索

4. 内存检索与摘要:最多检索3条记忆,每条压缩至3行以内

5. Token估算与安全阀:超标时仅丢弃内存层,保留系统提示和用户输入完整

6. 最终组装输出

关键安全原则:系统提示和用户输入绝对不可降级或截断,仅有内存层可丢弃。

显著优势

  • 零溢出保障:硬性85%安全阈值,彻底杜绝API失败风险
  • 层级化降级策略:内存始终作为"可丢弃增强",非刚性依赖
  • Token决策集中化:所有预算判断统一在组装层完成,避免分散失控
  • 轻量触发机制:关键词驱动而非盲目检索,节省token开销
  • 生产级标准:明确定义允许/禁止的记忆内容类型(禁存原始对话日志、推理痕迹)

潜在局限

  • 保守设计:85%阈值可能浪费15%可用容量,极端长上下文场景效率略降
  • 触发词依赖:非关键词形式的隐式上下文引用可能漏检
  • 摘要信息损失:3行限制可能丢失关键细节
  • 实现复杂度:六阶段流程对简单Agent可能过重
  • 模型特化:默认配置针对MiniMax-M2.1,其他模型需手动调整

适合人群

  • 构建高可用性生产级Agent的开发者
  • 需要处理长对话历史的客服/助理类应用
  • API稳定性有零容忍要求的企业场景
  • 设计多轮复杂交互工作流的AI系统架构师
  • 已有内存系统但需要安全防护层的存量项目

常规风险

  • 误判触发:过于严格的触发词列表可能漏掉真正需要上下文的查询,导致回答脱节
  • 阈值僵化:固定85%未考虑不同模型token计算差异(如中文字符)
  • 内存污染:若上游检索质量差,安全阀前的摘要过程可能引入噪声
  • 调试盲区:丢弃内存时仅返回系统通知,缺乏详细日志追溯
  • 跨模型迁移:未封装为通用库时,切换模型需同步修改多处硬编码参数

安全解读

核心用法

Prompt Assemble 是一款专为 Agent 系统设计的 Token 安全提示组装框架,核心解决 LLM 调用中的「内存检索导致 Token 溢出」这一隐性故障。

其工作流程采用六阶段架构:
1. Base 配置:设定模型上下文窗口(如 MiniMax-M2.1 的 204K tokens)与 85% 安全阈值

2. 最小上下文构建:仅加载系统提示 + 最近 3 轮对话 + 当前输入,默认零内存

3. 内存需求判定:通过关键词触发器(如 "previously"、"last time")智能识别是否需要历史记忆

4. 内存检索与摘要:按需检索 Top-3 记忆,每份压缩至 3 行以内

5. Token 估算与安全阀:超标时仅丢弃内存层,保留系统提示与用户输入完整性

6. 最终组装输出

关键设计原则:内存永远是可丢弃的增强项,绝非刚性依赖。硬性规则包括:禁止降级系统提示、禁止截断用户输入、禁止「侥幸拼接」。

显著优点

  • 零故障保证:通过 85% Token 阈值的安全阀,从根本上消除 API 调用失败的内存类故障
  • 架构清晰:两阶段构建(最小上下文 → 条件式内存追加)使 Token 预算决策完全集中于组装层
  • 智能按需加载:关键词触发机制避免无意义内存检索,降低延迟与成本
  • 数据标准严格:明确区分「允许存入长期记忆」(用户偏好、确认结论)与「禁止存入」(原始对话日志、推理轨迹),防止记忆污染
  • 纯标准库实现:仅依赖 typing,零第三方依赖攻击面

潜在局限

  • T3 来源可信度:维护者为个人开发者 alexunitario,无组织背书,长期维护可持续性待观察
  • 关键词触发局限:内存需求判定依赖固定关键词列表,可能漏检语义隐含的历史引用(如 "that issue")
  • 静态 Token 估算:采用估算而非精确分词,极端情况下可能存在 5-10% 误差余量
  • 无多模态支持:当前设计针对文本 Token,图像/音频的 Token 换算需外部扩展
  • 单语言实现:仅提供 Python 版本,其他语言生态需自行移植

适合人群

  • 构建生产级 Agent 系统的开发者,尤其是对话记忆复杂的长会话场景
  • 需要硬约束保障 API 稳定性的金融、医疗等高可用领域
  • 正在从「快速原型」迁移至「稳定生产」的 LLM 应用团队
  • 对 Token 成本敏感、需精细控制上下文窗口的 SaaS 服务商

常规风险

  • 供应链风险:T3 来源建议 fork 后内部维护,防范作者账号异常
  • 估算误差风险:建议预留 10% 缓冲阈值应对估算偏差
  • 关键词覆盖不足:关键业务场景建议扩展自定义触发词库
  • 内存摘要信息损失:3 行压缩可能导致关键细节丢失,需配合记忆内容标准优化
  • 版本锁定建议:当前 v1.0.1 已通过 S+ 认证,升级新版本需重新安全审计

Prompt Safe 内容

references文件夹
scripts文件夹
手动下载zip · 8.7 kB
memory_standards.mdtext/markdown
请选择文件