Scrapling - Stealth Web Scraper

🕸️ 智能反爬虫网页数据抓取框架

开源 Python 网页抓取框架,支持 Cloudflare 反爬虫绕过、指纹伪装和自适应元素追踪,提供 HTTP/隐身/动态三种抓取模式

收藏
4.9k
安装
2.3k
版本
1.0.1
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心功能

Scrapling 是一款基于 Playwright 和 curl_cffi 的 Python 网页抓取框架,专为绕过现代反爬虫机制设计。框架提供三种递进式抓取模式:HTTP 模式(默认)通过 TLS 指纹伪装实现快速静态抓取;隐身模式启动 headless Chromium 并注入反检测脚本,可绕过 Cloudflare Turnstile、DataDome 等常见防护;动态模式则启用完整浏览器环境,用于渲染重度 JavaScript 单页应用。

框架的标志性特性是自适应元素追踪(Adaptive Scraping)——通过 auto_save=True 将 DOM 元素的指纹特征(结构、属性、文本相似度)持久化到本地,当目标站点改版导致选择器失效时,可基于历史指纹智能匹配新位置。这一设计显著降低了长期维护成本。

显著优点

  • 反检测能力成熟:预置 20+ 项浏览器指纹伪装,包括 WebGL/Canvas/Fonts 一致性、Permissions API 伪造、Chrome 运行时特征模拟等,经测试可稳定通过 Cloudflare Challenge
  • API 设计简洁:统一接口 Fetcher() 覆盖三种模式,CSS/XPath/文本匹配提取一行完成,无需深入 Playwright 底层
  • 性能分层合理:HTTP 模式接近 curl 速度,隐身模式在检测绕过与资源消耗间取得平衡,动态模式按需启用

潜在局限

  • Chromium 依赖:隐身/动态模式需下载约 100MB 浏览器二进制,首次安装耗时且占用磁盘空间
  • 法律边界模糊:框架明确支持绕过反爬虫机制,虽文档强调合规使用,但技术能力本身存在被滥用于爬取受保护内容的风险
  • 自适应指纹存储auto_save 持久化的元素特征可能包含站点特定信息,在多用户环境或 CI/CD 中需注意数据隔离

适合人群

  • 需从受 Cloudflare/DataDome 保护的公开页面提取数据的开发者
  • 维护长期抓取任务、希望降低选择器失效维护成本的工程团队
  • 研究反检测技术或需对比多种绕过方案的爬虫工程师

常规风险

  • robots.txt/TOS 违反:技术绕过能力不自动授予法律权限,商用场景需法律评估
  • MCP server 暴露:框架提供的 scrapling mcp 命令启动本地 HTTP 服务,若在未隔离环境运行可能被局域网内其他进程利用
  • 指纹特征过时:浏览器版本迭代快,预置指纹可能随 Chrome 更新逐渐失效,需关注上游版本同步

Scrapling - Stealth Web Scraper 内容

references文件夹
scripts文件夹
手动下载zip · 4.1 kB
patterns.mdtext/markdown
请选择文件