manipulation-detector

🔍 识别操控话术,保持清醒判断

文本操控检测工具,识别紧急感、虚假权威等8种操控模式,帮助用户保持适度怀疑而不陷入偏执。

收藏
9.7k
安装
2.3k
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Manipulation Detector 是一款基于 Python 的命令行工具,用于分析文本中常见的操控/影响力策略。用户可通过管道输入或直接读取文件的方式使用:

echo "可疑文本" | python3 scripts/detect.py
python3 scripts/detect.py article.txt

检测的八大操控模式

| 模式 | 典型特征 |
|------|---------|
| **urgency** | 人为制造时间压力("立即行动"、"限时") |
| **authority_claims** | 无根据的权威声明("相信我"、"专家一致同意") |
| **social_proof** | 利用从众心理("人人都在做"、"别被落下") |
| **fear_uncertainty** | FUD策略("你会后悔"、"他们不想让你知道") |
| **grandiosity** | 夸大重要性("革命性"、"新秩序"、"帝国") |
| **dominance_assertions** | 权力宣示("你们都将"、"服从") |
| **us_vs_them** | 对立框架("敌人"、"精英"、"羊群") |
| **emotional_manipulation** | 直接情感操控、过度标点 |

评分系统

  • 0-5分:✅ 低风险 — 通常可信
  • 5-15分:⚠️ 中等风险 — 建议批判性阅读
  • 15+分:🚨 高风险 — 强烈建议保持怀疑

显著优点

1. 教育价值高:明确列出操控手法,提升用户媒体素养
2. 轻量易用:纯 Python 实现,无需复杂依赖

3. 量化输出:数字评分降低主观判断门槛

4. 场景明确:专为评估未知来源内容设计

潜在局限

  • 模式≠意图:可能误伤合法紧急通知
  • sophistication盲区:高阶操控者避免关键词堆砌
  • 无事实核查:只检测修辞手法,不验证真伪
  • 过度依赖风险:评分仅作参考,非最终判决

适合人群

  • 社交媒体活跃用户
  • 新闻消费者与内容创作者
  • AI Agent 开发者(校准"帮助性偏见")
  • 对信息可信度敏感的研究者

常规风险

| 风险类型 | 说明 |
|---------|------|
| 假阳性 | 真实紧急情况被误判为操控 |
| 假阴性 | 微妙心理操控未被关键词捕获 |
| 工具依赖 | 用户可能将评分当作绝对真理 |
| 对抗规避 | 操控者可针对性绕过检测模式 |

设计理念

针对 AI 助手"天生乐于助人、容易轻信"的脆弱性,本工具旨在培养"好奇且怀疑"的认知习惯,而非制造偏执。

manipulation-detector 内容

scripts文件夹
手动下载zip · 6.0 kB
detect.pytext/plain
请选择文件