Clawpod

🦀 住宅代理驱动的智能网页抓取工具

通过 Massive 住宅代理网络实现全功能网页抓取,支持 JS 渲染、地理定位和真实浏览器指纹,适合高隐蔽性数据爬取需求。

收藏
11k
安装
2.2k
版本
0.1.0
CLS 安全性认证2026-08-11
点击查看完整报告 >

使用说明

核心用法

ClawPod 是基于 agent-browser(Vercel Labs 开源工具)和 Massive 住宅代理网络的网页抓取解决方案。核心工作流分为四步:

1. 构建代理 URL — 将 Massive 凭证编码为代理地址,支持通过 URL 参数实现地理定位(国家、城市、邮编)、粘性会话(固定 IP)和设备类型(移动端/桌面/TV)的精细控制
2. 启动浏览器会话 — 使用 agent-browser --proxy "$PROXY_URL" open <url> 启动基于 Playwright/Chromium 的无头浏览器,自动完成 JS 渲染和完整页面加载

3. 内容提取 — 支持多模态输出:纯文本 (get text body)、HTML 源码、可访问性快照 (snapshot -i,结构化交互元素)、屏幕截图 (screenshot)

4. 会话管理 — 通过 close 命令终止浏览器守护进程,更换代理配置时需先关闭再重启

关键特性:代理参数(尤其是用户名中的地理定位标记)必须进行 URL 编码(?%3F, &%26, 空格→%20),否则会导致连接失败。粘性会话通过 session 参数实现,默认 15 分钟 TTL,可选 strict/flex 模式应对代理错误。

显著优点

  • 高隐蔽性:真实 Chromium 浏览器指纹 + Massive 住宅 IP,绕过常见反爬机制
  • 全功能渲染:原生支持 SPA、动态内容、Cookie 和重定向处理,无需手动解析 JS
  • 企业级代理网络:Massive 提供全球分布式住宅 IP,支持城市级精确定位
  • 多模态输出:文本、HTML、结构化快照、截图一体化
  • 灵活会话控制:粘性 IP 适合需要登录态或连续操作的场景

潜在缺点与局限性

  • 启动延迟:首次 open 需 3-8 秒加载 Chromium,高频短任务场景效率受限
  • 单实例限制:同一时间仅能运行一个浏览器实例,多任务需串行或外部调度
  • 配置复杂度:URL 编码要求严格,参数组合规则繁琐(如 subdivision+zipcode 会忽略 city
  • 商业依赖:完全依赖 Massive 代理服务,需注册账号并配置环境变量,存在供应商锁定
  • 成本因素:住宅代理按流量计费,大规模抓取成本显著高于数据中心代理
  • 代理切换成本:更换地理定位或会话必须 close 重开,无法运行时热切换

适合人群

  • 需要抓取反爬严格网站(电商、社交媒体、票务平台)的数据工程师
  • 需要模拟真实用户地理位置进行本地化测试的 QA/产品团队
  • 需要渲染 JS -heavy 页面(React/Vue SPA)的自动化工作流
  • 对请求隐蔽性和成功率有较高要求的企业级爬虫场景

常规风险

| 风险类别 | 具体描述 |
|---------|---------|
| **凭证泄露** | `MASSIVE_PROXY_USERNAME`/`PASSWORD` 以环境变量形式存在,若日志或错误信息未脱敏可能暴露 |
| **URL 注入** | 目标 URL 若来自不可信输入,可能触发 SSRF 或访问内部网络,需校验白名单 |
| **代理误用** | 过于狭窄的地理参数(如特定邮编)可能导致请求失败或频繁超时 |
| **合规风险** | 住宅代理的使用需遵守目标网站的 ToS 及当地数据保护法规(GDPR/CCPA) |
| **成本失控** | 未设置流量上限或错误循环可能导致高额账单 |
| **会话过期** | 粘性会话 TTL 固定不续期,长任务需预判时间或分片处理 |

安全解读

核心用法

ClawPod 是一个纯文档型 Skill,指导用户通过 Massive 住宅代理网络执行高级网页抓取任务。其核心工作流分为四步:构建代理 URL(需对用户名进行 URL 编码)、使用 agent-browser --proxy 启动浏览器并打开目标页面、通过 get text/snapshot/screenshot 等命令提取内容、最后 close 关闭会话。

该 Skill 支持丰富的代理参数配置:地理位置定向(country/city/subdivision/zipcode)、粘性会话(session/sessionttl/sessionmode)、设备类型定向(mobile/common/tv)。所有参数通过 URL 编码嵌入代理用户名中,实现精细化的出口 IP 控制。

显著优点

真实浏览器环境:基于 Playwright/Chromium,自动执行 JavaScript、处理 Cookie 与重定向,使用真实浏览器指纹,极难被反爬虫系统识别。

住宅代理网络:Massive 提供海量真实住宅 IP,相比数据中心代理具有更高的信任度和更低的封禁率。

精细化控制能力:支持国家、城市、州省、邮编多级地理定位;支持 1-240 分钟粘性会话;支持移动/桌面/电视设备类型模拟。

结构化数据提取snapshot -i 命令可获取可访问性树(accessibility tree),特别适合提取 SPA 应用的交互元素和结构化内容。

潜在缺点与局限性

外部依赖繁重:需自行注册 Massive 账号、获取凭证、安装 agent-browser 及 Chromium,首次启动有 3-8 秒延迟。

代理配置复杂:URL 编码要求严格,?=& 等特殊字符必须转义,配置错误会导致连接失败。

单会话限制--proxy 为启动时参数,整个浏览器守护进程生命周期内代理配置固定,变更需关闭重开。

成本因素:Massive 为商业代理服务,大规模使用需付费,Skill 本身不提供代理流量。

适合的目标群体

  • 需要抓取 JavaScript 渲染页面的数据分析师、研究人员
  • 需要进行地理位置敏感测试的开发者与 QA 工程师
  • 需要模拟真实用户行为的自动化测试团队
  • 需要规避反爬虫机制的网络数据采集从业者
  • 关注隐私与匿名性的安全研究人员

常规使用风险

凭证泄露风险:代理用户名密码需设置为环境变量,存在被其他进程或日志记录的风险,建议使用专用环境或密钥管理服务。

合规性风险:住宅代理使用需遵守目标网站 ToS 及当地法规,滥用可能导致账号封禁或法律问题。

依赖维护风险:agent-browser 与 Chromium 版本需保持兼容,npm 全局安装可能带来权限与版本冲突问题。

性能与稳定性:代理网络存在节点波动,过度狭窄的地理定位参数可能导致连接失败;sticky session 到期后 IP 会强制更换。

供应商锁定:深度绑定 Massive 代理网络,迁移至其他代理服务商需重构代理 URL 格式与参数体系。

Clawpod 内容

手动下载zip · 3.7 kB
SKILL.mdtext/markdown
请选择文件