Crawl From X

🐦 X 内容自动抓取与 Markdown 归档

X/Twitter 自动化抓取工具,支持多用户管理、增量备份、智能容错,适合社交媒体监控与资讯聚合

收藏
3k
安装
1.2k
版本
2.5.1
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Crawl From X 是基于 OpenClaw Browser Relay 的 X/Twitter 内容抓取工具,通过命令行完成全流程操作:

1. 用户管理python3 craw_hot.py {add|remove|list} [username] 维护监控列表
2. 内容抓取python3 craw_hot.py crawl [username] 批量获取当日帖子,支持全量/单用户模式

3. 结果输出:自动生成 URL 列表(txt)和完整 Markdown 报告,含媒体、互动数据、X Article 长文章

技术实现上采用双 API 冗余策略(fxtwitter 主用 + syndication 备用),配合浏览器自动化实现动态渲染内容获取。v2.0+ 版本引入进程锁防重复运行、增量实时写入、浏览器自动恢复等工程化特性。

显著优点

| 维度 | 说明 |
|------|------|
| 可靠性 | 智能容错机制(网络错误 5 次重试、浏览器崩溃自动重启、无新帖智能跳过) |
| 数据完整性 | 增量写入 + `flush()` 强制落盘,故障不丢数据 |
| 内容深度 | 支持 X Article 长文章完整提取、多媒体链接、互动统计 |
| 运维友好 | 详细日志分级、实时进度显示、进程锁防冲突 |

潜在局限

  • 强依赖 Browser Relay:必须安装 OpenClaw 浏览器扩展并保持登录状态,架构耦合度高
  • 反爬风险:固定延迟策略(0.5-1.5s)在高频抓取场景下可能触发平台风控
  • 私密账号限制:无法突破 X 的访问权限控制
  • 单点故障:fxtwitter/syndication API 任一失效即降级为纯 URL 模式

适合人群

  • 研究人员:需要结构化归档特定账号的公开发言
  • 资讯聚合者:自动化追踪行业 KOL 动态
  • 品牌监控:竞品社交媒体声量跟踪
  • 技术爱好者:OpenClaw 生态的深度用户

常规风险

  • 账号安全:需在浏览器中保持 X 登录态,存在会话劫持理论风险
  • 合规边界:抓取行为需符合 X Robot.txt 及当地数据法规(如 GDPR)
  • API 稳定性:第三方 API 服务变更可能导致功能降级

Crawl From X 内容

scripts文件夹
手动下载zip · 18.8 kB
craw_hot.pytext/plain
请选择文件