Quant Data Quality

🔍 量化数据质量一站式检查方案

量化数据质量检查技能,提供完整性/准确性/一致性/时效性四维检查清单与修复方案,配套Python代码模板与报告生成。

收藏
11.1k
安装
2.9k
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

数据质量检查技能评估

核心用法

本技能为量化策略项目提供系统化的数据质量检查框架,覆盖四大核心维度:完整性(数据量、缺失日期/股票)、准确性(零/负价格、异常收益率、inf值、极端值)、一致性(价格-成交量对齐、跨源数据比对)、时效性(最新日期、滞后天数)。技能内置可直接运行的Python代码片段,支持价格数据、因子数据、信号数据三类核心数据类型的检查,并提供标准化数据质量报告模板。

显著优点

1. 场景触发智能:自动识别"数据质量""因子数据""信号数据"等关键词触发,降低使用门槛
2. 代码即拿即用:提供pandas/numpy标准检查代码,无需重复造轮子

3. 问题-方案闭环:针对4类高频问题(价格缺失、因子nan、极端值、信号过期)给出根因分析与修复建议

4. 可量化评估:内置100分制质量评分体系,支持完整性/准确性/一致性/时效性四维量化

5. 报告模板化:提供Markdown格式标准报告模板,便于存档与协作

潜在缺点与局限性

1. 数据源依赖:代码示例假设parquet格式与特定路径结构,非标准结构需适配
2. 检查维度有限:未覆盖数据精度、单位一致性、复权状态等细节检查

3. 修复建议偏原则性:Winsorize、缺失值填充等操作需用户自行实现具体逻辑

4. 无自动化调度:未提供定时检查或CI/CD集成方案,依赖手动触发

适合人群

  • 量化研究员/策略开发者在回测前进行数据验收
  • 数据工程师构建数据管道质量门禁
  • 中小型量化团队缺乏专职数据QA角色的场景

常规风险

  • 误判风险:简单阈值(如收益率>20%)可能误伤 legitimate 极端行情,需结合业务调整
  • 检查盲区:跨源一致性检查仅列检查项而无代码实现,执行一致性依赖用户自觉性
  • 时效性陷阱:"滞后天数"计算基于系统当前时间,若服务器时区/时间不同步会导致误判
  • 未覆盖数据安全:技能专注质量检查,无数据脱敏、权限控制等安全相关内容

Quant Data Quality 内容

手动下载zip · 4.0 kB
clawhub.yamltext/plain
请选择文件