数据质量检查技能评估
核心用法
本技能为量化策略项目提供系统化的数据质量检查框架,覆盖四大核心维度:完整性(数据量、缺失日期/股票)、准确性(零/负价格、异常收益率、inf值、极端值)、一致性(价格-成交量对齐、跨源数据比对)、时效性(最新日期、滞后天数)。技能内置可直接运行的Python代码片段,支持价格数据、因子数据、信号数据三类核心数据类型的检查,并提供标准化数据质量报告模板。
显著优点
1. 场景触发智能:自动识别"数据质量""因子数据""信号数据"等关键词触发,降低使用门槛
2. 代码即拿即用:提供pandas/numpy标准检查代码,无需重复造轮子
3. 问题-方案闭环:针对4类高频问题(价格缺失、因子nan、极端值、信号过期)给出根因分析与修复建议
4. 可量化评估:内置100分制质量评分体系,支持完整性/准确性/一致性/时效性四维量化
5. 报告模板化:提供Markdown格式标准报告模板,便于存档与协作
潜在缺点与局限性
1. 数据源依赖:代码示例假设parquet格式与特定路径结构,非标准结构需适配
2. 检查维度有限:未覆盖数据精度、单位一致性、复权状态等细节检查
3. 修复建议偏原则性:Winsorize、缺失值填充等操作需用户自行实现具体逻辑
4. 无自动化调度:未提供定时检查或CI/CD集成方案,依赖手动触发
适合人群
- 量化研究员/策略开发者在回测前进行数据验收
- 数据工程师构建数据管道质量门禁
- 中小型量化团队缺乏专职数据QA角色的场景
常规风险
- 误判风险:简单阈值(如收益率>20%)可能误伤 legitimate 极端行情,需结合业务调整
- 检查盲区:跨源一致性检查仅列检查项而无代码实现,执行一致性依赖用户自觉性
- 时效性陷阱:"滞后天数"计算基于系统当前时间,若服务器时区/时间不同步会导致误判
- 未覆盖数据安全:技能专注质量检查,无数据脱敏、权限控制等安全相关内容