Judicial Case Data Operations

司法案件存量关系修复
运行进度看板

一次性存量脚本负责识别并重建Step2关系基础数据;从Nebula写图开始,后续全部复用现有线上ETL任务。当前仅运行只读dry-run,尚未进入任何业务写库阶段。

总候选VID
664.76万
阶段1.1实际结果
已分析
628.00万
当前阶段实际处理量
当前阶段进度
94.47%
剩余约36.76万VID
当前速度
约52–85/s
近期速度 / 整体平均速度
当前阶段剩余
约1.2–2小时
整体完成时间待后续阶段校准
FLOW IMPACT ESTIMATE
约14万–25万件
预计受影响的现有司法案件,即flow表有效unique_id;当前中心值约19万件。
进入全来源复核
约34.5万VID
按当前5.187%确认率外推,完整复核后可能因其他来源桥接而合并回去。
FLOW变化容量
约30万–60万条
包含新增、更新及废弃状态变化;按多数异常分量拆成两个分量估算。
EXECUTE至三个ES完成
正常1–2天
保守按2–3天准备,已包含少量超大案件分量的额外耗时和ES最长约11小时调度等待。

处理流水线

已完成 进行中 待处理
PRE-0
增量规则上线
已部署
1.1
全历史候选扫描
✓ 已完成
1.2
执行来源分析
● 进行中 · 94.47%
1.3
全来源复核与计划
待处理
2
重建Step2五表
待处理
3
图关系与分量重建
待处理
4
Flow变化展开
待处理
5–6
来源回写与ES同步
待处理
7
完成验收
待处理

阶段明细与职责边界

实际数据截至 2026-07-29 17:38,其余为当前容量预估

状态 阶段 处理方式 主要处理内容 实际 / 预计数据量及耗时 触发下一步
✓ 已完成 0. 增量规则上线 正式项目增量ETL 上线执行依据案号否决规则,避免存量修复结果再次被旧规则聚合。 代码实施、历史回查分批与批内缓存、双模块编译及10项指定单元测试均已通过;已提交、推送并部署`4b5b1019ec`(部署状态由用户确认)。 阶段2 execute前置条件已满足,不阻塞当前dry-run。
✓ 已完成 1.1 全历史候选扫描 存量刷数脚本 扫描历史案件关系,识别多入边候选VID。 实际:扫描约1.084亿条link,得到664.76万候选VID;耗时约36分钟。 进入执行来源分析。
进行中 1.2 执行来源分析 存量刷数脚本 回查被执行人、终本、失信人,按执行依据案号规则进行保守初筛。 实际:总量664.76万,已分析628.00万,初步冲突38.69万,完整确认32.57万,分析不完整64.99万;已耗时20小时27分。
当前阶段预计剩余约1.2~2小时。
完成后进入十类司法来源完整复核。
待处理 1.3 全来源复核及计划生成 存量刷数脚本 回查十类司法来源、二次合并,生成五张Step2表before/after严格计划。 预计:执行来源完整确认约34万~35万VID,最终自动执行量暂按20万~35万VID准备;预计8~18小时。 人工验收dry-run数量、规则和错误分布。
待处理 2. 重建Step2五张结果表 存量刷数脚本 重建node、link、两张edge及source_all关系,并更新相关case_node.update_time。 预计:20万~35万异常VID及其来源关系;预计2~8小时。 通过case_node.update_time触发NebulaCaseNodeEtl。
待处理 3. 图关系及案件分量重建 现有ETL · NebulaCaseNodeEtl 同步Nebula图,重新计算连通分量,生成、更新或失效flow/process。 预计:20万~35万个变更node;预计2~10小时,少量超大案件分量可能额外耗时。 flow状态或更新时间发生变化。
待处理 4. Flow变化展开 现有ETL · SfCaseFlowsChangeEtl 把新增、更新和废弃flow展开为各司法来源维度的待处理记录。 预计:涉及约14万~25万个现有flow,产生约30万~60万条flow变化;预计2~15小时,少量超大案件分量可能显著增加耗时。 生成维度待回写数据。
待处理 5. 来源表案件ID回写 现有ETL · NebulaDimToBeChangeEtl等 将新的案件关系ID回写到各司法来源子表。 预计:约60万~180万条维度变更;预计1~8小时。 来源表案件关系完成同步。
待处理 6. ES新增、更新及删除 现有ETL · EntDetailCaseFlowsToEsEtl 同步三个ES集群,新增新文档、更新正常文档并清理废弃旧文档。 预计:约30万~60万次文档操作;实际写入约15分钟~1.5小时,另有0~11小时调度等待。 三个ES集群最终一致。
待处理 7. 完成验收 存量脚本 / 只读核查 核对新旧分量、五张关系表、flow/process、来源表ID及三个ES集群。 预计:核查20万~35万拆分VID、约14万~25万现有flow及三个ES集群结果;预计1~3小时。 确认存量关系修复完成。