Kekik Crawler

🕷️ 轻量无头爬虫 · 预设即开即用

基于 Scrapling 的无浏览器爬虫框架,支持预设模板、检查点续爬与结构化输出,适合确定性数据抓取场景。

收藏
3.2k
安装
1.2k
版本
0.1.0-rc1
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Kekik Crawler 是一款基于 Scrapling 的轻量级无浏览器爬虫工具,采用单一职责原则(SRP)的清晰架构设计。用户通过命令行快速启动抓取任务,支持两种输入模式:直接传入 URL 列表(--urls)或使用查询词组合(--queries)。框架内置 person-research 和 deep-research 两种预设模板,分别对应常规人物信息检索与深度调研场景,输出格式支持 JSONL 行存储与结构化报告(JSON)。

任务执行由 core/crawl_runner.py 统一编排,具备检查点(checkpointing)机制,可在异常中断后恢复进度。输出目录默认为 outputs/,便于结果管理与后续分析。

显著优点

  • 无浏览器依赖:基于 Scrapling 实现纯 HTTP 请求抓取,资源占用低,适合大规模并发
  • 架构清晰:SRP 设计降低模块耦合,便于二次开发与维护
  • 预设驱动:内置常用场景模板,降低配置门槛
  • 容错续爬:检查点机制保障长周期任务的可靠性
  • 输出友好:JSONL + JSON 报告双轨输出,兼容主流数据分析流程

潜在局限

  • 无浏览器环境意味着无法处理重度 JavaScript 渲染页面(SPA、动态加载内容)
  • 预设模板覆盖场景有限,复杂反爬策略需自行扩展
  • 缺少分布式调度能力,单机性能天花板明显
  • 文档与社区支持较新,生态成熟度不及 Scrapy 等老牌框架

适合人群

  • 需要快速搭建轻量爬虫的数据工程师与分析师
  • 追求代码简洁、避免浏览器开销的技术团队
  • 从事人物信息调研、舆情监控等确定性抓取场景的研究者

常规风险

  • 反爬封禁:高频请求易触发 IP 限制,需配合代理池与请求频率控制
  • 数据合规:抓取个人信息需遵循 GDPR、个保法等法规,避免法律风险
  • 目标站点变更:HTML 结构变动导致解析失效,需持续维护选择器规则
  • 检查点一致性:极端情况下检查点文件损坏可能造成进度丢失

Kekik Crawler 内容

backends文件夹
core文件夹
plugins文件夹
tests文件夹
手动下载zip · 16.2 kB
__init__.pytext/plain
请选择文件