Scrapling - Stealth Web Scraper

🕸️ 智能反爬网页抓取框架

开源Python网页抓取框架,支持Cloudflare绕过、浏览器指纹伪装和自适应元素追踪,适合爬取反爬站点与动态渲染页面

收藏
10k
安装
2.3k
版本
1.0.3
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心功能

Scrapling 是由安全研究员 D4Vinci 开发的开源 Python 网页抓取框架,主打反检测能力开发者体验的平衡。其核心架构基于三层抓取模式:

| 模式 | 技术栈 | 适用场景 |
|:---|:---|:---|
| `http`(默认) | `curl_cffi` + TLS 指纹伪装 | 常规静态站点,速度优先 |
| `stealth` | Patchright(Playwright 魔改分支)+ 指纹欺骗 | Cloudflare/PerimeterX 等反爬场景 |
| `dynamic` | 完整 Chromium 自动化 | 重度 JS 单页应用 |

显著优点

1. 反检测能力突出:内置 patchright(Playwright 的 stealth 分支)提供浏览器指纹随机化、WebDriver 特征隐藏、自动化标志抹除,实测可绕过 Cloudflare Turnstile 和常见 bot 检测。

2. 自适应元素追踪auto_save 机制将页面元素的"指纹"(选择器、属性、相对位置)持久化到本地,当目标站点改版时,可基于相似度算法重新定位对应元素,降低维护成本。

3. API 设计简洁:统一接口 Fetch() 覆盖三种模式,CSS/XPath 提取、会话保持、异步支持均内建,无需额外封装。

潜在局限

  • 依赖体积大:完整安装约 200MB(Chromium + 多库),首次部署较慢
  • 法律边界敏感:stealth 模式的设计初衷是绕过反爬机制,用户需自行承担合规责任
  • MCP server 暴露面:若启动本地 HTTP 服务(scrapling mcp),需确保网络隔离

适合人群

  • 需要抓取被 Cloudflare 保护的公开数据的数据工程师
  • 维护大量抓取任务、希望减少 selector 失效维护成本的爬虫开发者
  • 具备法律合规判断能力、尊重 robots.txt 的技术用户

常规风险

| 风险类型 | 说明 |
|:---|:---|
| 法律合规 | 绕过反爬机制可能违反目标站点 ToS,甚至触犯 CFAA(美国)等法规 |
| 依赖安全 | `patchright` 为社区 fork,更新频率低于上游 Playwright,需关注安全补丁 |
| 指纹追踪 | 即使 stealth 模式,高频请求仍可能通过行为模式被识别 |
| 数据残留 | `auto_save` 写入本地文件,多用户环境需注意权限隔离 |

Scrapling - Stealth Web Scraper 内容

references文件夹
scripts文件夹
手动下载zip · 5.7 kB
patterns.mdtext/markdown
请选择文件