glin-profanity

Glin Profanity 是一款面向多语言场景的敏感内容检测与审核工具，基于 GLINCKER 开源项目开发，提供 JavaScript/TypeScript 和 Python 双语言 SDK 支持。该技能主要用于识别和过滤用户生成内容中的不当言论，特别针对现代网络环境中常见的规避手段进行了深度优化，包括 leetspeak 变形（如 f4ck、sh1t）、Unicode 同形异义词（如 Cyrillic 字符伪装）以及混淆文本。核心功能涵盖实时文本检测、批量内容审核、上下文感知分析和可选的 TensorFlow.js 机器学习毒性检测，支持包括阿拉伯语、中文、俄语、印地语在内的 24 种语言，并针对医疗、游戏、技术等专业领域提供上下文白名单机制。

该工具的显著优势在于其多维度的检测能力。首先，通过正则表达式和 Unicode 归一化技术，有效识别传统关键词过滤难以捕捉的变体形式；其次，内置的上下文分析模块可根据领域场景（医疗术语、游戏黑话等）动态调整敏感度，大幅降低误判率；再者，提供 React Hook 封装和 LRU 结果缓存机制，便于前端集成并优化高频检查场景的性能。此外，灵活的自定义词库和替换策略使其能够适应不同社区的内容标准。

然而，该技能也存在一定局限性。作为 T3 级社区来源项目，虽然代码透明可审计，但缺乏企业级背书和长期维护承诺。机器学习检测模块依赖 TensorFlow.js，在浏览器端运行时可能带来额外的资源加载开销和初始化延迟。多语言支持虽广，但对低资源语言的检测准确率可能不及英语等主流语言。此外，过度敏感的过滤规则可能导致"过度审查"，影响正常交流体验，需要运营团队投入时间调优白名单和置信度阈值。

目标用户群体主要包括：社交平台开发者需要构建评论审核系统、在线游戏运营商管理玩家聊天频道、教育机构过滤学习社区内容、以及任何涉及 UGC（用户生成内容）的产品团队。特别适合需要防御性强（抗绕过）且支持多语言的内容安全方案的中大型应用。

使用时的常规风险包括：依赖项安全（需验证 npm/pip 包来源避免供应链攻击）、性能考量（ML 模型首次加载耗时）、以及业务层面的误判风险（建议配置人工复核流程）。作为纯文档型技能，其本身不包含可执行代码，但实际集成时需确保 glin-profanity 库的版本锁定，避免自动更新引入破坏性变更。

核心功能与用法

Glin Profanity 是一款专注于内容审核的开源库，提供 JavaScript/TypeScript 与 Python 双语言 SDK，核心能力围绕多维度脏话检测展开：

1. 基础检测：通过预置词库匹配脏话，支持 24 种语言（含阿拉伯语、中文、俄语、印地语等）
2. 变形识别：自动识别 Leetspeak（如 f4ck、sh1t、@$$）与 Unicode 同形字符（如西里尔字母 fսck 伪装 fuck）
3. 上下文感知：提供医疗、游戏、技术、教育四大领域的白名单机制，降低误报
4. 可选 ML 增强：基于 TensorFlow.js 的毒性检测模型，支持毒性、侮辱、威胁等细分维度评分

典型接入方式为创建 Filter 实例并配置检测参数，或直接调用 checkProfanity() 获取包含布尔结果、检测到的词汇及脱敏文本的完整对象。React 开发者可使用 useProfanityChecker Hook 实现实时输入检测。

显著优点

• 规避检测全面：Leetspeak 三级强度（basic/moderate/aggressive）与 Unicode 规范化组合，覆盖主流文本变形手段
• 多语言原生支持：区别于多数仅支持英美的库，内置阿拉伯语、中文等 24 种语言词库
• 性能优化：内置 LRU 缓存机制，批量处理场景可通过 batchCheck() 提升吞吐
• 生态完善：同时覆盖 npm 与 PyPI，提供 React Hook 与详细文档，降低接入成本

潜在局限与风险

• 文化敏感性挑战：24 种语言的词库维护依赖社区，非英语场景可能存在本地化不足或过度敏感问题
• ML 模型依赖：TensorFlow.js 毒性检测为可选功能，需额外加载模型，增加包体积与运行时内存占用
• 误报不可避免：医疗场景（如 "breast tumor"）即使开启领域白名单，仍需人工复核边界案例
• 动态变形滞后：新型网络用语、拼音缩写、emoji 组合等新型规避手段可能无法实时覆盖

适合人群

• 社交平台、游戏社区、电商 UGC 模块的开发者
• 需快速上线内容审核功能、无自研 NLP 团队的中小型产品
• 多语言产品团队，需统一审核标准而非按语言拆分方案

常规风险

• 依赖库安全风险：本 Skill 为纯文档，但实际引用的 glin-profanity 库需关注 npm/PyPI 的 CVE 公告，建议锁定版本
• ML 模型来源：若启用 TensorFlow.js 毒性检测，需确保模型文件完整性校验，避免加载篡改模型
• 配置敏感性：leetspeakLevel 与 confidenceThreshold 参数需根据业务场景实测调优，激进配置可能导致正常内容误拦截