总候选VID
664.76万
阶段1.1实际结果
一次性存量脚本负责识别并重建Step2关系基础数据;从Nebula写图开始,后续全部复用现有线上ETL任务。当前仅运行只读dry-run,尚未进入任何业务写库阶段。
实际数据截至 2026-07-29 17:38,其余为当前容量预估
| 状态 | 阶段 | 处理方式 | 主要处理内容 | 实际 / 预计数据量及耗时 | 触发下一步 |
|---|---|---|---|---|---|
| ✓ 已完成 | 0. 增量规则上线 | 正式项目增量ETL | 上线执行依据案号否决规则,避免存量修复结果再次被旧规则聚合。 | 代码实施、历史回查分批与批内缓存、双模块编译及10项指定单元测试均已通过;已提交、推送并部署`4b5b1019ec`(部署状态由用户确认)。 | 阶段2 execute前置条件已满足,不阻塞当前dry-run。 |
| ✓ 已完成 | 1.1 全历史候选扫描 | 存量刷数脚本 | 扫描历史案件关系,识别多入边候选VID。 | 实际:扫描约1.084亿条link,得到664.76万候选VID;耗时约36分钟。 | 进入执行来源分析。 |
| 进行中 | 1.2 执行来源分析 | 存量刷数脚本 | 回查被执行人、终本、失信人,按执行依据案号规则进行保守初筛。 | 实际:总量664.76万,已分析628.00万,初步冲突38.69万,完整确认32.57万,分析不完整64.99万;已耗时20小时27分。 当前阶段预计剩余约1.2~2小时。 |
完成后进入十类司法来源完整复核。 |
| 待处理 | 1.3 全来源复核及计划生成 | 存量刷数脚本 | 回查十类司法来源、二次合并,生成五张Step2表before/after严格计划。 | 预计:执行来源完整确认约34万~35万VID,最终自动执行量暂按20万~35万VID准备;预计8~18小时。 | 人工验收dry-run数量、规则和错误分布。 |
| 待处理 | 2. 重建Step2五张结果表 | 存量刷数脚本 | 重建node、link、两张edge及source_all关系,并更新相关case_node.update_time。 | 预计:20万~35万异常VID及其来源关系;预计2~8小时。 | 通过case_node.update_time触发NebulaCaseNodeEtl。 |
| 待处理 | 3. 图关系及案件分量重建 | 现有ETL · NebulaCaseNodeEtl | 同步Nebula图,重新计算连通分量,生成、更新或失效flow/process。 | 预计:20万~35万个变更node;预计2~10小时,少量超大案件分量可能额外耗时。 | flow状态或更新时间发生变化。 |
| 待处理 | 4. Flow变化展开 | 现有ETL · SfCaseFlowsChangeEtl | 把新增、更新和废弃flow展开为各司法来源维度的待处理记录。 | 预计:涉及约14万~25万个现有flow,产生约30万~60万条flow变化;预计2~15小时,少量超大案件分量可能显著增加耗时。 | 生成维度待回写数据。 |
| 待处理 | 5. 来源表案件ID回写 | 现有ETL · NebulaDimToBeChangeEtl等 | 将新的案件关系ID回写到各司法来源子表。 | 预计:约60万~180万条维度变更;预计1~8小时。 | 来源表案件关系完成同步。 |
| 待处理 | 6. ES新增、更新及删除 | 现有ETL · EntDetailCaseFlowsToEsEtl | 同步三个ES集群,新增新文档、更新正常文档并清理废弃旧文档。 | 预计:约30万~60万次文档操作;实际写入约15分钟~1.5小时,另有0~11小时调度等待。 | 三个ES集群最终一致。 |
| 待处理 | 7. 完成验收 | 存量脚本 / 只读核查 | 核对新旧分量、五张关系表、flow/process、来源表ID及三个ES集群。 | 预计:核查20万~35万拆分VID、约14万~25万现有flow及三个ES集群结果;预计1~3小时。 | 确认存量关系修复完成。 |