技术汇报 · TECHNICAL BRIEFING

钢厂物料运输列车
智能辅助系统

在钢厂环境、双向行驶的机车上,于无人值守、恶劣光照、外部配合受限的条件下,可靠地防止在停止信号显示下起步。本汇报分两部分:当前难点问题的逐项剖析,与整体技术解决方案

红 · 黄 · 绿 — 行车信号 / 蓝 · 白 — 调车信号
作业形态内线调车 + 外线正线 · 双向行驶 运行方式车载自主 · 无人值守 系统性质辅助提醒 · 不介入操纵
PART 01

当前难点问题

十二个已识别的关键问题,按成像颜色、归属线路、座舱感知、工程数据四类组织。其中两项标记为待验证——它们是本项目真实的技术风险所在,其余问题均已有确定对策。

1.0 / 总览

先建立三个核心认知

大部分表面上的"识别不准",根源不在算法。看清问题的真实性质,是整套方案成立的前提。

12
已识别关键问题
5
高严重度
2
待实测验证(真实风险)
10
已有确定对策
认知 A

颜色偏差的根因是过曝饱和,不是算法误判

信号灯过曝时,红色通道饱和溢出、绿色通道被抬升——红灯呈现为黄色;蓝灯同理偏向青绿。那一刻像素里已不存在正确的颜色信息,任何算法都无法还原。病在成像端,须在成像端治。

认知 B

"哪个信号管本轨"不在图像之中

多轨汇集处,归属取决于车辆所在股道与前方道岔开向——这些信息不在信号灯画面里。提高识别精度永远解决不了归属问题,必须转换求解方式。

认知 C

主场景是"停车后发车",而非行进中

最主要的作业时刻车辆是静止的:可多帧合成、从容调曝光、无运动模糊与时限约束、归属最简单。运动模糊、远距小目标、实时性等一大批难题,在主场景中天然缓解。

1.1 / 问题地图

十二个问题 · 四类归组

GROUP A

成像与颜色

P3待验证

颜色偏差:红显示为黄、蓝显示为绿,阴雨天更差

现象远看信号颜色与人眼判断不一致,蓝绿混淆语义相反、最危险 根因过曝饱和 + 白平衡漂移 + 强红外污染 + 压缩削减颜色细节 对策压曝光防饱和 · 红外截止滤光 · 现场标定分类器 · 灯位判定免疫颜色
P12已有对策

既有监控摄像头不适用于信号颜色判读

现象监控相机自动曝光按整幅画面优化,会把小而亮的信号灯打白 根因职责冲突:改为信号专用配置会破坏其查看车周的本职 对策增设开发方独占控光的专用信号相机,既有摄像头原封不动
P2已有对策

远距离小目标:内线约 50m 起,外线更远

现象目标仅数像素,检测与颜色分辨均困难 根因光学问题而非算力问题;定焦长焦又存在视场窄、振动放大 对策长焦/双视场镜头为远处争取像素 + 减振安装
P4已有对策

背景绿色物体干扰与轻微遮挡

现象植被等绿色物体使"按颜色找绿灯"频繁误触发 根因人眼是先认出信号机再看灯色,纯颜色阈值照抄不了这个顺序 对策先检测信号机壳体、再判读壳内亮灯;重度遮挡如实输出"未识别"
GROUP B

归属与线路

P5已有对策 · 有能力上限

多轨汇集处无法判定"哪个信号管本轨"

现象咽喉区视野内多架信号机,当前依赖驾驶员经验判断 根因归属取决于股道与道岔开向,信息不在图像中,纯视觉不可解 对策口令×视觉核对为主干 + 分线路加固 + 保守兜底(详见 1.3)
P6已有对策

内线 / 外线:两套信号体系、两套定位条件

现象内线调车(蓝/白当家)、外线正线(红黄绿+进出站信号);厂内卫星定位差、外线不可施工 对策线路模式判定 + 双语义切换;定位手段按线对调(内线轨旁标签 / 外线 RTK 定位)
P7已有对策

双向行驶:车头端与在岗驾驶位随方向变化

现象两个驾驶位于驾驶舱对角,单端安装反向即失效 对策两端各一路信号相机 + "活动端选择"机制(方向 + 座位占用)
P1已有对策

信号灯安装位置不一:左侧 0.8m / 左侧 3m / 右侧地面

根因识别逻辑不能写死画面固定区域 对策覆盖全部安装形态的训练数据 + 全画面检测
GROUP C

座舱感知

P9待验证

语音环境:舱内强噪、无书面口令规范、无按键交互

现象语音为主的方案面临钢厂+机车双重噪声;口令词表无现成文档 根因常听常判(无按键说话)天然易误触发 对策每驾驶位定向近讲麦克风 · 小词表离线关键词识别 · 置信门限 · 词表从实录音频自建
P8已有对策

舱内相机固定斜俯、无正对面部机位、安全帽混戴

现象不可转动变焦,拍到什么用什么;眼部特征无保证 对策疲劳检测以姿态/头姿方法为主(低头·点头·瘫坐),对视角与安全帽均稳健
GROUP D

工程与数据

P10已有对策

无人值守下的长期稳定性

现象运行期无人操作、无人重启,任何进程冻结即彻底失效 根因嵌入式媒体管线的缓冲池耗尽、资源未释放会直接冻结整机 对策硬件看门狗 + 崩溃自恢复 + 掉流显性降级 + 资源生命周期纪律
P11已有对策 · 耗时长

训练数据与真值缺失(外部配合受限)

现象信号台账、口令规范、控制信号接口均无法由需求方提供 对策车载设备先以采集模式上车 + 以驾驶员行为作间接标注依据,全部资料自建
1.2 / 两大待验证风险

真正的技术不确定性只有两处

其余十个问题的对策路径明确,属工程实施;下面两项须以实测数据确认可行性——它们决定了方案中信号与语音两条线各自的能力上限,也是建议"可行性验证先行"的原因。

P3 · 颜色可分性

曝光受控
红灯 = 红
过曝饱和
红灯 → 黄白

发光信号灯亮度极高,摄像头一旦过曝,颜色信息在像素层面即已丢失——这是"红变黄、蓝变绿"的物理根源,与算法无关。

  • 验证方法:以可锁定短曝光的工业相机录制原始格式图像,停车点静止段与行进段分别采集,跨晴 / 阴雨 / 夜间
  • 手机与监控相机的自动处理会放大偏色——据其得出的悲观结论不具参考性
  • 注意信号灯脉冲调光:曝光须跨过一个调光周期,防止拍到"灭"的相位
保险绳:即使颜色在个别条件下仍不可分,灯位判定(信号机各灯位颜色固定,判"哪个位置在亮")对颜色偏差天然免疫。

P9 · 强噪声下的语音识别

语音被确定为意图识别的主通道——依据是铁路"呼唤应答"作业制度:驾驶员在发车等关键节点本就口呼所见信号与操作意图,口令为固定小词汇集。

  • 有利面:小词表离线关键词识别(非开放语音识别),且不需改变驾驶员既有习惯
  • 风险面:钢厂 + 机车双重强噪;无书面口令规范,词表须从实录音频中聚类自建
  • 无按键交互 → 常听常判,依赖置信门限与错误预算约束误触发
  • 验证方法:舱内实录数日音频,评估目标口令在真实噪声下的可检出性
降级路径:若强噪下识别不可行,语音权重下调,以车辆运动(起步检测)+ 手势承担触发与意图,功能不塌方。
1.3 / 最深的结构性难题

P5 归属问题:换一种求解方式

为什么纯视觉不可解

在多股道汇集的咽喉区,前方视野内同时出现多架信号机。"哪架管辖本轨"取决于车辆当前所在股道前方道岔的开向——这两个信息都不在信号灯的图像里。把识别精度提高到 100%,系统依然不知道该看哪一盏。

当前该判断完全依赖驾驶员的驾驶经验——这恰恰提示了正确解法。

角色转换

替驾驶员判断"哪盏是本轨信号" —— 几乎不可解
↓ 转换为 ↓
核对"驾驶员口呼的信号"与"摄像头看到的显示"是否一致 —— 可实现

驾驶员的呼唤应答口令本身携带归属与意图,其经验替系统完成了归属判断;口令称通行而对应方位为停止信号,即为最高价值的告警。系统不承诺确定性归属,只做交叉核对。

PART 02

整体技术解决方案

一台自包含的车载感知主机:装上车、接上电即可运行,不依赖需求方任何系统。先作采集设备积累数据,再逐里程碑开启功能——核心交付是发车防护

2.0 / 方案总纲

五条设计铁律

外部依赖最小化

不接车辆控制信号、不装轨旁设施、不等资料台账。运动与方向由加速度计 + 卫星定位 + 画面光流自行导出;信号台账、口令词表、颜色标定全部从自采数据建立。

设备即采集工具,先录后训

硬件先以采集模式上车,被动录制数周跨天气数据;以驾驶员行为(停驻—等待—起步)作间接标注依据,为图像与音频打标。

发车防护优先

主场景车辆静止:颜色、振动、实时性、归属全面简化。先攻克低风险高价值的发车防护,行进模式在其成熟后扩展。

一套管线、两种模式

信号识别只建一条管线:发车模式(静止、门限严)与行进模式(连续、门限放宽、更多"未识别"与保守提醒),不做两套系统。

一个机制反复使用

所有感知源产出统一格式的带时间戳"证据",由唯一的融合判定模块统一消费、施加错误预算后输出提醒;录制、回放、上报调度室均为同一通道的支路。

2.1 / 系统架构

一台主机,一条主干

RK3588 级工业主机拉取既有海康视频流承担舱内与车周任务;专用信号相机(两端各一路)独立承担颜色关键的信号判读;加速度计、卫星定位与麦克风由主机直接采集。

既有海康 RTSP舱内×2 · 前后侧专用信号相机 ×2两端 · 我方控光IMU + GPS麦克风 ×2车载感知盒 · RK3588 · Linux · 无人值守RTSP 解码 · 传感采集(裸帧 / IMU / GPS / 音频)感知源信号 · 姿态(疲劳+手势) · 语音 关键词识别 · 运动·活动端每源产出统一「证据」:时间戳 · 置信 · 方位融合器 + 错误预算唯一判定点 · 发车防护闭环录制器全源同步落盘 (NVMe)看门狗 / 自愈崩溃自重启 · 显性降级录制 / 回放 / 上报调度室 = 同一统一事件通道的单向支路提醒输出声 / 光 / 提示屏上报调度室(可选)发出即可·断网不影响
图 1 · 系统架构总览 — 感知 → 证据 → 融合 → 提醒VIMA · 工程示意
唯一判定点

融合判定模块是全系统唯一的提醒出口:消费全部证据、施加错误预算、输出提醒 / 未识别 / 事件记录。

上报调度室 = 可选支路

单向发送、不等待回应;调度室离线不影响车上任何实时功能。车载自主是硬性原则。

无人值守自愈

硬件看门狗 + 进程守护 + 崩溃自恢复 + 掉流/掉相机的显性降级与记录,杜绝静默失效。

2.2 / 摄像头职责划分

既有摄像头不动,信号判读专机专用

监控相机的自动曝光按整幅画面优化、输出为压缩视频——两者都不利于小目标颜色;将其改为信号专用配置又会破坏查看车周的本职。故信号颜色判读由开发方独占控光的专用相机承担。

既有海康 RTSP舱内 / 前 / 后 / 侧主算力盒 · RK3588硬件多路解码 · NPU(AI 推理)疲劳 / 手势 / 态势 / (关键词识别)融合 + 运动·定位输入(自导出)局域网发『信号结果』专用信号相机(两端 · 本地裸传感器)颜色路径不过压缩既有海康『不』用于信号继续看车周 / 录像原封不动
图 2 · 摄像头职责划分 — 既有监控相机不承担信号判读VIMA · 工程示意
2.3 / 信号判读流水线

照抄人眼的顺序,而非提取某种颜色

STEP 1

检测信号机壳体

训练检测器全画面搜索,覆盖全部安装形态——绿色植被并非壳体,从源头排除。

STEP 2

判读壳内亮灯

灯位优先(各灯位颜色固定,对偏色免疫);判亮依据 = 高亮 + 高饱和 + 紧凑近圆。

STEP 3

颜色对策

压曝光防饱和 → 红外截止 → 现场标定分类器 → 曝光跨过调光周期防频闪漏检。

STEP 4

时序融合

多帧投票、跟踪,多帧一致才采信,抑制单帧抖动。

STEP 5

如实输出

读不准 → 输出"未识别"。声明不确定属正确行为,不计入错误。

发车模式 主 · 门限严

  • 车辆静止 → 多帧合成、从容调节曝光,判读置信度高
  • 停车停留期间持续读取朝前信号,发车瞬间给出结论
  • 归属最简单:一盏发车信号 + 驾驶员口令

行进模式 次要但必要 · 门限放宽

  • 同一管线连续运行,核心是"接近停止信号却未减速"的提醒
  • 运动条件下放宽的是可达精度,不是优先级
  • 更早输出"未识别"、更多保守提醒兜底
2.4 / 核心交付

发车防护闭环

车停 → 停留期间从容读准信号 → 检测到发车(加速度计"由静转动"或发车口令,均自行导出、不接车辆接口)→ 核对信号:停止显示而起步,立即报警。

运行中IMU静止 + GPS驻留停车停留期持续读朝前信号(多帧合成)IMU『静→动』或 发车口呼检测发车取此刻信号判读结果信号 = 停止(红/蓝)信号 = 允许未识别★ 报警静默保守提醒活动端选择:方向 / 座位占用 → 定车头端信号相机 + 在岗司机
图 3 · 发车防护流程(状态机)VIMA · 工程示意
活动端选择

依据行驶方向与座位占用,选定当前车头端的信号相机、在岗驾驶位的舱内相机与麦克风——双向行驶下贯穿三项功能的公共机制。

三证据交叉

语音口令 = 驾驶员声明的意图与归属;视觉 = 实际信号显示;车辆运动 = 客观事实。三者交叉核对,不一致即告警。

疲劳与手势共线

舱内姿态识别一条管线服务两项功能:疲劳(低头·点头·瘫坐,对安全帽混戴稳健)持续运行,手势作口令的辅助确认。

2.5 / 归属方案

三层防御,不承诺确定性

主干

口令 × 视觉核对 —— 零基建,内外线通用

驾驶员呼唤应答口令携带归属与意图;系统核对口令与摄像头所见是否一致。这是唯一不依赖任何基础设施、在内线与外线均成立的手段。

加固

分线路定位 —— 内线轨旁标签,外线高精度定位

内线:轨旁 RFID 标签 + 岔口测绘查表确定当前股道(厂内卫星定位信号差);外线:RTK 高精度卫星定位 + 自测轨道地图(开阔、不可施工但可观测)。与口令互相印证。

兜底

如实呈现 + 保守提醒 —— 驾驶员权威

无法判定时,呈现视野内全部信号及其方位,给出保守提醒("前方岔口存在停止信号,请确认进路"),最终判断交还驾驶员。

2.6 / 数据方案

资料全部自建:采集 → 间接标注

外部配合受限的应对:全源(专用相机原始格式 · 舱内两路 · 音频 · 运动 · 定位)同步落盘,事件段加长保留;跨天气 × 昼夜 × 多驾驶员 × 内外线积累,以驾驶员行为作间接标注依据。

待标注对象间接标注来源
信号显示真值运动分段"停于信号前 → 等待 → 起步":起步时刻信号大概率为允许,长时间停驻大概率为停止
口令词表围绕发车事件聚类音频,提取驾驶员复现的短语
信号—股道归属驾驶员口呼与行为同视野内信号的对应关系
颜色标定对真实各色信号实拍,建立本相机颜色映射 / 训练分类器
停车点与线路边界定位数据停驻聚类 + 厂区边界地理围栏
2.7 / 实施路线

先易后难,风险前置验证

排序原则:外部依赖最小、快出成果、待验证风险最先落定。数据需求小的功能先交付,依赖长期数据积累的随数据成熟推进。

M0

采集主机上车低风险

全源同步录制 / 回放,看门狗自愈;开始被动积累数据——一切后续工作的前提。

M1

疲劳检测低风险

姿态法,复用既有舱内视频流,最快形成可见成果。

M2

运动与活动端状态机低风险

停 / 动 / 方向 / 在岗座位;发车事件触发——全系统的时序基准。

M3

静止信号感知P3 验证在此落定

检测 → 判读 + 颜色标定;发车静止场景下颜色难度显著降低。

M4

发车防护闭环 —— 主交付物中风险

M2 + M3 联动:停止显示而起步 → 报警。

M5

语音核对P9 验证在此落定

词表自建的离线关键词识别 + 口令一致性核对(同时是归属主干)。

M6

行进模式高风险

同管线连续运行的行进中提醒,门限放宽,在 M4 成熟后扩展。

M7

单机车试点调优中风险

真实环境运行,按错误预算调整门限,完成验收度量。

M8+

外线深化 · 上报调度室 · 多机车推广

基于试点数据规划。

2.8 / 验收口径

错误预算三分,不用单一"准确率"

系统不操纵车辆,单次错误不直接致祸;真正的失效模式是告警疲劳——误提醒过频将导致系统被忽略乃至关闭。单一准确率会掩盖最危险的一类错误。

打扰预算

误提醒危险(误喊停)。驾驶员看一眼实况即可排除,代价是打扰与信任消耗。

每运行小时次数上限 · 可相对宽松

误导硬上限

误提醒安全(把停止判为允许,尤以蓝绿混淆为甚)。会削弱驾驶员警觉,是最不该出现的一类。

显著更严 · 不可突破的红线 · 蓝绿单列考核

未识别率

读不准时主动声明"未识别"属正确行为,不硬猜、不误导。

不计入错误 · 仅约束占比上限