Files
DCTS/docs/troubleshooting.md
T
fmq cd370d88e7 feat(all): 任务引擎双阶段解耦、僵尸涡旋修复、动态 CPU 配额与前端详情页重构
将 TLUSTY/SYNSPEC 拆为各自独立的 enabled/policy/strategies 阶段,
以策略链自动弹栈取代单级 seed_step 布尔回退;定向修复 2026-08-02
僵尸任务涡旋事故;新增节点并发配额热调;前端详情页从 1412 行巨型
视图拆为薄控制器 + detail 子模块,并补齐工具层与单测。

引擎与调度(task_engine_decoupling_design.md)
- models.rs: 新增 StagePolicy / EngineStageConfig / TaskSpec 阶段字段、
  normalize_compat() 校正旧版在途消息策略链、failed_stage 归因
- scheduler.rs: resolve_dispatchable_chain 派发门控、
  trigger_strategy_fallback 按 failed_stage 精确弹栈;启动期
  force_recompute/skip_converged(默认)/skip_failed 三策略
- db.rs: tasks 表 +7 列持久化阶段配置;终态守卫
  (mark_grid_point_running 仅 pending/queued→running;
  record_task_report 拒绝迟到失败翻黑 converged);策略弹栈快照

僵尸涡旋修复(runbook-20260802-zombie-vortex-fix.md)
- 全链路跨库活性交叉校验:派发/claim/孤儿回收/回退统一查 MQ 队列活性,
  活则放行、死则清僵尸,结构性消除"每点重复派发"
- stop/重启卫生:清队列同步 delete_tasks_by_ids,杜绝遗留 pending 行
- report_task: 幂等吸收 + 409 区分迟到冗余结果,仅 state_changed 时回退
- MQ: NULL workflow_name 回填 __legacy__、requeue 后迟到上报被 403 竞态修复

动态 CPU 配额(dynamic_cpu_slots_design.md)
- admin.rs: POST /admin/nodes/:id/quota(Option<Option<i32>> 区分
  缺字段/显式 null);nodes 表 +admin_max_slots
- worker.rs: effective_max_slots = min(admin, physical),心跳下发原子生效

科学产物保全(tlusty_result_artifacts.md)
- runner.rs: SYNSPEC 启动前快照 fort.12/fort.14 → .bfac/.emflux 防覆盖
- 半失败点(大气收敛+光谱失败)改判 Failed 并写入 note;仅 SYNSPEC
  场景不再恒判失败;撤销归档 LRU 200 上限改为永久保留
- executor.rs: 透传 synspec_params 数值参数(此前固定 None)

前端(dashboard/)
- workflowDetail.js 1412→328 行,拆出 views/detail/{ctx,overview,
  pointsTable,parSets,pointPanel}.js,AbortController 治理监听/请求生命周期
- 删除 wfActions.js,新增 wfEnginePanel.js(双阶段三维配置编辑面板)
- 新增 utils/{errors,format,icons,polling,yamlStage}.js 纯函数模块
- 路由级动态 import 代码分割;节点配额三点菜单 + Modal 管理
- 首次引入 node:test 单测(format/polling/yamlStage/psCache,644 行)
- 系统性补齐 a11y:skip-link、ARIA、Tab 键盘漫游、toast 关闭、退出动画

文档与工具
- 新增 6 篇设计/调研:引擎解耦、动态配额、涡旋 runbook、
  光谱正确性分析、收敛判断、产物归档
- PIPELINE/design/api/database 等协同重写为分布式 C/S 架构口径
- scripts/fetch_results.sh 跨节点产物备份;import_results 按 cno 升序导入
- workflows/sdB_cno.yaml: 新增 tlusty/synspec_stage 配置块,修正 wstart 笔误
2026-08-04 23:40:52 +08:00

3.8 KiB
Raw Blame History

DCTS 故障排查与 FAQ (Troubleshooting & FAQs)

汇集 DCTS 计算过程中的常见故障、物理发散问题排查方法及节点恢复指南。


1. 物理计算发散排查 (TLUSTY Divergence)

现象 1nl 阶段出现 DIVD ... BIGNITER 达到上限发散

  • 原因:初猜大气与当前网格点的真实 NLTE 大气物理状态相差过大,线性化半径无法收敛。
  • 排查步骤
    1. 查看归档的 conv.json(节点端在 DCTS_RESULT_DIR/<model_name>/conv.json,服务端在 DCTS_SEEDS_DIR/<model_name>/conv.json):
      cat data/seeds/<model_name>/conv.json
      
    2. 失败任务的各阶段输入/日志/收敛诊断(<name>.<label>.5/.6/.err/.nst/.7_chmax*.9)经白名单归档到节点 result_dir,供排错;沙盒 task_* 在结算后清理。
    3. 解决方案:确保服务端 DCTS_SEEDS_DIR(默认 data/seeds)下存有相近 T_{\text{eff}} / \log g 的已收敛 .7 种子。若 tlusty_strategiesseed_step,调度器会在失败回退时自动注入近邻种子重试(Seed-Stepping 种子步进)。

现象 2lte 阶段报错或瞬间终止

  • 原因:输入的物理参数超出了灰色大气基本假设或基础原子数据(原子能级/光致电离截面)损坏缺失。
  • 排查步骤
    1. 验证 data/ 目录中的 ATO / ISO 数据文件是否齐全。
    2. 检查 gen_input5 生成的参数中 TEFF 是否小于 10000K 或大于 120000K。

2. 节点与网络故障 (Node & Network Issues)

现象 1Worker 节点提示 Unauthorized: Invalid or missing authentication token

  • 原因:该节点的专属 node token 已失效或被重发覆盖(节点鉴权不依赖任何环境变量,而是使用审批时下发的专属 token)。
  • 解决办法:删除节点本地 runtime/.node_token 文件并重启节点进程,使其重新免凭据提交注册申请,等待管理员在 Dashboard 审批授权后获取新 token。

现象 2:任务长时间处于 Running 状态没有进展

  • 原因:Worker 节点在计算中途遭遇断电、内存溢出(OOM)或僵死进程卡死。
  • 自动恢复:Master 服务端后台线程会在超过 DCTS_STALE_SEC(默认 21600 秒 / 6 小时,约为单任务超时的 3 倍缓冲)后自动将 claimed 态任务重置为 pending 放回队列。
  • 手动恢复:若需立即重置挂起任务,最稳妥的方式是重启 server(启动恢复逻辑会处理卡死态)。若必须直接操作队列库,注意队列表的正确列名与状态:
    -- task_queue 表的状态列是 status,领用列是 claimed_by_node_id(非 assigned_node);
    -- 领用中的任务是 status='claimed'(非 'running')。
    UPDATE task_queue SET status='pending', claimed_by_node_id=NULL
     WHERE status='claimed';
    

现象 3:网络抖动或后端滚动重配下提示 向服务端上报任务 ... 结果失败

  • 原因:在较长时效(如1-2小时)的运算完结回传一瞬间,Server 恰遇热更重启或遭遇防火墙短暂会话剔除。
  • 容灾机制:Worker 内置了超强的 8 轮指数级自适应退避长跳上报防护(跨度可自 1s 到 60s 顺次延迟,支撑 2 分钟以上的长时断裂耐受窗口);上报失败时产物仍会尽力归档到本地 DCTS_RESULT_DIR/<model_name>/(白名单保留科学产物),沙盒随后清理。若真正超出了总重试界限,可从 result_dir/<model_name>/ 直接调出最终收敛物(.7/.spec 等)手工补录。

3. 日志与现场诊断

日志控制通过 RUST_LOG 环境变量配置:

# 查看服务端调试级别日志
RUST_LOG=info,server=debug ./target/release/server

# 查看节点端详细网络与子进程调用日志
RUST_LOG=info,node=debug,common=trace ./target/release/node