工业与科研 AI 为何不能只存结果？从决策记录到人工接管

一个模型给出了最优参数，一次实验得到了预测结果。几周后，团队想知道：当时用了哪批数据？某个方案为什么被排除？如果设备条件变化，原结论还能不能用？

只有最终数值，通常回答不了这些问题。它保留了结论，却可能丢失结论成立的条件。

AI for Science 活动复盘中的几位嘉宾，将讨论指向了数据可信度、设计取舍和人工判断。下文据此整理项目设计参考。需要先说明：嘉宾观点与现场自述不等于独立性能验证，也不是统一行业标准或监管合规结论。

工业 AI 数据质量不能只用数据量衡量。观测不足与输入不可靠，需要不同的处理方式。

复盘转述了凡喜红的做法：先引入热传导、扩散等物理方程作为约束，再用现场数据校正参数。这提供了一种应对稀疏数据的思路，即利用已有机理限制模型的搜索范围。至于它在稀疏数据下的实际效果，材料提供的是嘉宾自述，不能直接推广到其他设备或任务。

闫晨强调的是另一个问题：数据可能存在偏差、统计口径不一致，甚至经过人为调整。即使记录很多，也不代表输入值得信任。

对课程或科研项目，可以先分别检查：

物理约束可以为缺少观测的地方提供假设，但不能自动修复错误标签或不明来源的数据。只保存输出，会让后来的人看不出：结论依赖了多少真实观测，又依赖了哪些尚待检验的假设。

姜朔在复盘中强调，设计意图、约束变化以及性能、成本和制造工艺之间的取舍，往往没有完整地留在最终文件里。许可则把注意力放到科研项目状态、阶段决策，以及专家改变判断时的上下文。

这些观点揭示了一类容易遗漏的信息：结果告诉你选中了什么，决策记录才可能说明为什么这样选。

举一个假设情形：课程项目最初以预测误差最低为目标，后来增加了计算资源限制，团队因此换用更小的模型。如果只留下最终模型和测试分数，接手者可能误以为它在所有条件下都是最佳选择，也无法判断资源限制取消后是否应该重新比较。

被否决的方案同样值得留下简短说明。某条路线可能因为当时缺设备、预算不足或数据不完整而暂停，并不代表技术上已经被证伪。把这些状态统一写成“失败”，会损失后续研究的线索。

因此，AI for Science 可复现性至少包含两个不同的问题：

重跑成功不代表判断正确；但缺少判断依据，即使重跑出同一个数，也难以解释它还能用在哪里。

过程记录不必从复杂平台开始。对学生项目或小型研究团队，可以先在现有实验记录中加入下面这些字段。它们是设计建议，不是强制标准。

涉及随机过程时，还应记录随机种子及相关设置。但固定种子本身不保证跨环境完全一致，仍需说明项目接受怎样的数值差异。

这里的“决策过程”指可核对的工程记录，不是让模型生成一段听起来合理的思考独白。模型事后给出的理由，不能替代真实发生过的参数变更、实验比较和人工审批记录。

保存输入也不意味着把敏感原始数据复制到所有日志里。可以使用有权限控制的数据引用与版本标识，让复核者知道去哪里检查。

这些记录能够提供排错和复核线索，不能单独证明系统准确、安全或具备实际部署能力。

许可提出的可靠性主张包括：知道结论的适用边界、能够复现计算、保留输入与规则等过程信息，并在不确定时拒答和上报。落到项目中，AI 人工接管需要回答“何时停、谁来接、怎样恢复”。

可以先围绕以下情形设定检查问题：

最后一个问题呼应了姜朔的提醒：虚拟环境中的单一指标优化，未必能得到工程上可实现的方案。不过，具体切换阈值仍要结合任务风险和可用资源确定，不能从活动观点直接推导出来。

触发暂停后，流程还应说明由谁接手、需要补充什么证据，以及谁有权恢复运行。人工改判也要留痕，否则系统只是把不可追溯的环节从模型转移给了人。

你可以用一次小型交接测试检查现有项目：请未参与开发的同学或同事，依据记录重跑一个结果，解释一次方案否决，并指出一个必须暂停的条件。卡住的地方，就是下一轮该补的记录。

若准备用项目申请美国的 Research Engineer 或 Applied Scientist 等岗位，这种演示也能具体呈现你的工程判断。展示清楚项目何时有效、哪里仍不确定，比把一次成功运行描述成“工业级可靠”更有依据。