Clawpod

🦀 住宅代理驱动的智能网页抓取工具

通过 Massive 住宅代理网络实现全功能网页抓取,支持 JS 渲染、地理定位和真实浏览器指纹,适合高隐蔽性数据爬取需求。

收藏
11k
安装
2.2k
版本
0.1.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

ClawPod 是基于 agent-browser(Vercel Labs 开源工具)和 Massive 住宅代理网络的网页抓取解决方案。核心工作流分为四步:

1. 构建代理 URL — 将 Massive 凭证编码为代理地址,支持通过 URL 参数实现地理定位(国家、城市、邮编)、粘性会话(固定 IP)和设备类型(移动端/桌面/TV)的精细控制
2. 启动浏览器会话 — 使用 agent-browser --proxy "$PROXY_URL" open <url> 启动基于 Playwright/Chromium 的无头浏览器,自动完成 JS 渲染和完整页面加载

3. 内容提取 — 支持多模态输出:纯文本 (get text body)、HTML 源码、可访问性快照 (snapshot -i,结构化交互元素)、屏幕截图 (screenshot)

4. 会话管理 — 通过 close 命令终止浏览器守护进程,更换代理配置时需先关闭再重启

关键特性:代理参数(尤其是用户名中的地理定位标记)必须进行 URL 编码(?%3F, &%26, 空格→%20),否则会导致连接失败。粘性会话通过 session 参数实现,默认 15 分钟 TTL,可选 strict/flex 模式应对代理错误。

显著优点

  • 高隐蔽性:真实 Chromium 浏览器指纹 + Massive 住宅 IP,绕过常见反爬机制
  • 全功能渲染:原生支持 SPA、动态内容、Cookie 和重定向处理,无需手动解析 JS
  • 企业级代理网络:Massive 提供全球分布式住宅 IP,支持城市级精确定位
  • 多模态输出:文本、HTML、结构化快照、截图一体化
  • 灵活会话控制:粘性 IP 适合需要登录态或连续操作的场景

潜在缺点与局限性

  • 启动延迟:首次 open 需 3-8 秒加载 Chromium,高频短任务场景效率受限
  • 单实例限制:同一时间仅能运行一个浏览器实例,多任务需串行或外部调度
  • 配置复杂度:URL 编码要求严格,参数组合规则繁琐(如 subdivision+zipcode 会忽略 city
  • 商业依赖:完全依赖 Massive 代理服务,需注册账号并配置环境变量,存在供应商锁定
  • 成本因素:住宅代理按流量计费,大规模抓取成本显著高于数据中心代理
  • 代理切换成本:更换地理定位或会话必须 close 重开,无法运行时热切换

适合人群

  • 需要抓取反爬严格网站(电商、社交媒体、票务平台)的数据工程师
  • 需要模拟真实用户地理位置进行本地化测试的 QA/产品团队
  • 需要渲染 JS -heavy 页面(React/Vue SPA)的自动化工作流
  • 对请求隐蔽性和成功率有较高要求的企业级爬虫场景

常规风险

| 风险类别 | 具体描述 |
|---------|---------|
| **凭证泄露** | `MASSIVE_PROXY_USERNAME`/`PASSWORD` 以环境变量形式存在,若日志或错误信息未脱敏可能暴露 |
| **URL 注入** | 目标 URL 若来自不可信输入,可能触发 SSRF 或访问内部网络,需校验白名单 |
| **代理误用** | 过于狭窄的地理参数(如特定邮编)可能导致请求失败或频繁超时 |
| **合规风险** | 住宅代理的使用需遵守目标网站的 ToS 及当地数据保护法规(GDPR/CCPA) |
| **成本失控** | 未设置流量上限或错误循环可能导致高额账单 |
| **会话过期** | 粘性会话 TTL 固定不续期,长任务需预判时间或分片处理 |

Clawpod 内容

手动下载zip · 3.7 kB
SKILL.mdtext/markdown
请选择文件