红外夜视观瞄轮廓提取
红外夜视观瞄系统是现代军事装备的核心感知器件。从单兵热像仪到装甲车火控系统,红外探测器捕获的热辐射图像可在完全黑暗、烟雾、逆光等极端条件下呈现目标信息 #Bai-2011。全球夜视设备市场 2025 年规模约 101.9 亿美元,军用夜视系统预计 2034 年达 147.3 亿美元 #Background-2025。
在这些观瞄系统中,一个关键的图像处理环节是目标凸显——在原始红外图像上叠加目标轮廓,帮助射手快速识别威胁。这本质上就是我们系列中反复讨论的"红外轮廓图像"的一个典型工程应用:从热辐射场中提取目标边界,再以颜色渲染叠加回原始图像。
本文作者来自江苏北方湖光光电有限公司——中国兵器工业集团下属的专业夜视观瞄设备研制单位 #Li-2024。他们面对的工程约束极为严苛:FPGA 芯片资源有限、必须满足 25 Hz 实时帧率、分辨率高达 $1280 \times 1024$、功耗受限。在这种约束下,深度学习目标检测 #Wu-2023 虽然效果更好,但无法在观瞄系统的 FPGA 上运行。
论文的核心思路是:以经典 Sobel 算子为骨架,通过四级增强管线(高斯滤波去噪、Sobel 梯度、指数对比度增强、暗背景边缘去除)弥补 Sobel 在红外图像中的先天不足,最终在 Intel Cyclone IV FPGA 上以 <2% 的资源占用实现实时目标轮廓提取。这是一种典型的"工程优化优先"路线——不追求理论最优的边缘检测质量,而是在硬约束下让经典方法真正可用。
Sobel 算子是最经典的边缘检测算子之一,运算简单(仅需两次 $3 \times 3$ 卷积),非常适合 FPGA 流水线实现 #Xu-2022。然而,直接将 Sobel 应用于红外夜视图像会遇到三个严重问题:
问题一:噪声伪边缘
红外图像受限于探测器器件工艺,不可避免地存在条纹噪声和随机噪声 #Li-2024。Sobel 算子本质上是梯度计算,对噪声极度敏感——任何灰度跳变都会被识别为"边缘",导致大量伪边缘淹没真实目标轮廓。
问题二:边缘断裂
标准 Sobel 通过硬阈值分割提取边缘,处于阈值附近的梯度值会被"撕裂"。在红外图像中,目标的温度梯度通常比可见光图像的颜色梯度更平缓,这使得阈值附近的边缘断裂问题更为严重,目标边界不连续、不闭合。
问题三:暗背景干扰
Sobel 算子无法区分"亮目标边缘"和"暗背景边缘"。在红外夜视场景中,树干、围栏、地面纹理等暗区域同样会产生梯度变化,被 Sobel 检测为边缘。这些干扰边缘使画面杂乱,反而降低了目标的凸显性。
本文设计了一条两路并行的处理管线,路径 A 负责边缘提取,路径 B 负责局部阈值计算,最终在判定节点汇合:
阶段 1 · 高斯滤波预处理
对输入红外图像 $I(x,y)$ 施加 $2n+1$ 阶二维高斯卷积,抑制条纹噪声与随机噪声:
其中高斯核函数为:
$\sigma^2$ 为图像方差,控制平滑程度。高斯滤波的效果可从图 1(b) → (c) 的对比中直观验证:经过滤波后,大量由噪声引起的杂散边缘被消除,保留的梯度变化来自真实的灰度跳变。
阶段 2 · Sobel 边缘检测
使用标准 $3 \times 3$ Sobel 模板 $G_X$ 和 $G_Y$ 分别计算水平和垂直梯度:
梯度幅值为:
其中 $g_x$ 和 $g_y$ 分别为 $G_X$ 和 $G_Y$ 与图像的卷积结果。这一步计算量极小(仅 2 次 $3 \times 3$ 卷积 + 1 次平方和开方),完全适合 FPGA 流水线。
阶段 3 · 指数对比度增强
这是本文最具技巧性的环节。直接对梯度图 $g(x,y)$ 做硬阈值分割会导致边缘断裂,因此引入一个Sigmoid 型指数映射展宽阈值附近的灰度值:
其中 $p$ 为输入梯度灰度值,$q$ 为增强后输出值,$Th$ 和 $E$ 为可调参数。该函数在 $p \approx Th$ 附近具有最大的灰度拉伸率,使得弱边缘被增强、强边缘保持饱和,从而获得连续性更好的目标边界。参数 $Th$ 控制展宽中心位置,$E$ 控制展宽陡度,需根据不同红外系统的图像特征手动调优 #Li-2024。
参数披露状态
| 参数 | 作用 | 论文是否给出具体值 |
|---|---|---|
| 高斯核尺寸 $n$ | 控制滤波窗口大小 | 未披露(仅给出 $2n+1$ 表达式) |
| $Th$ | 对比度增强中心阈值 | 未披露("根据不同系统确定") |
| $E$ | 对比度增强陡度 | 未披露 |
| 全局阈值 | 边缘候选筛选 | 未披露 |
| 目标阈值 $T_{\text{target}}$ | 暗边缘去除判据 | 未披露 |
阶段 4 · 暗背景边缘去除
这是管线的最后一级,也是最具"红外场景特异性"的操作。在红外夜视观瞄中,典型目标(人员、车辆)表现为高亮度区域,而暗背景(树干、围栏、地面)的边缘是干扰信息。本文提出基于 $3 \times 3$ 局部均值的阈值判断:
判定规则:当 $\mu_{\text{local}} > T_{\text{target}}$ 时保留边缘,否则视为暗背景边缘予以去除。从图 1(d) → (e) 的效果可以看到,树干和马路围栏的暗边缘被有效抑制,而人物的亮目标轮廓被完整保留。
这篇论文最值得关注的不仅是算法本身,更是它在严苛硬件约束下的工程实现。平台选择为 Intel Cyclone IV EP4CE75U19I7 芯片,具体资源如下:
| 资源类型 | 消耗量 | 芯片总资源 | 利用率 |
|---|---|---|---|
| 逻辑单元 | 1,462 | 75,408 | 1.9% |
| 存储器位 | 38,866 bits | 2,810,880 bits | 1% |
| 嵌入式乘法器 | 4 | 400(9 位) | 1% |
三个数字全部低于 2%,这意味着算法对硬件资源的需求极为克制。在同一块 FPGA 上,还有大量其他功能模块(非均匀校正、盲元补偿、图像增强、显示合成等)需要共享资源,<2% 的占用率使得该算法可以轻松嵌入现有观瞄系统的处理链路。
行缓存器:流式处理的关键
FPGA 中图像视频以流水线形式处理,无法像 CPU/GPU 那样随机访问像素。实现 $3 \times 3$ 卷积需要同时获取相邻 3 行的像素数据。本文使用 shift register IP 核构建两级行缓存器:
- Shift Register 2:存储第 $n-2$ 行数据
- Shift Register 1:存储第 $n-1$ 行数据
- 当前行:第 $n$ 行数据
三路数据并行送入 $3 \times 3$ 卷积核,实现完全流水线的滑窗运算。
查找表技巧:1 个时钟完成指数运算
公式 (7) 中的指数运算在 FPGA 中是一大难点——直接实现需要消耗大量逻辑资源和乘法器。本文采用了一个精妙的工程技巧:离线预计算所有 256 个灰度值的指数运算结果,存入 FPGA 片上 ROM(只读存储器),运行时以像素灰度值作为地址索引,单个时钟周期即可完成指数运算。这一查找表策略将复杂的非线性运算转化为简单的存储器访问,是 FPGA 图像处理中的经典手法。
算法在 FPGA 中的实现框图如下所示,核心设计思想是两路并行 + 时序对齐:
原始红外图像输入后一分为二:
- 路径 A(边缘提取路):高斯滤波 → 行缓存 → Sobel 边缘检测 → 指数对比度增强(ROM 查找表)→ 全局阈值 → 候选边缘
- 路径 B(局部阈值路):$3 \times 3$ 局部均值计算 → 数据延迟(与路径 A 的流水线延迟对齐)
两路在最终判定节点汇合:比较路径 B 的局部均值与目标阈值 $T_{\text{target}}$,决定路径 A 输出的候选边缘是保留还是去除。最终边缘可以不同颜色渲染(论文中使用红色)并叠加回原始红外图像,实现目标凸显。
实时性能指标
| 配置项 | 数值 | 披露状态 |
|---|---|---|
| FPGA 芯片 | Intel Cyclone IV EP4CE75U19I7 | 论文披露 |
| 视频分辨率 | $1280 \times 1024$ | 论文披露 |
| 帧频 | 25 Hz | 论文披露 |
| 像素时钟 | 未披露 | 未披露 |
| 处理延迟(帧级) | 未披露(估计为数行延迟) | 未披露 |
| 功耗 | 未披露 | 未披露 |
在 $1280 \times 1024$ 分辨率、25 Hz 帧率下,算法能够完全满足实时处理需求。由于采用全流水线设计,每帧的处理延迟仅为数个行周期(约微秒量级),远小于帧间隔的 40 ms。
静态图像仿真对比
论文在静态红外图像上进行了逐步消融式的视觉对比(图 1),清晰展示了每个增强阶段的贡献:
| 处理阶段 | 效果 | 解决的问题 |
|---|---|---|
| 原始 Sobel (b) | 大量杂散边缘,目标淹没在噪声中 | — |
| + 高斯滤波 (c) | 杂散边缘明显减少 | 噪声伪边缘 |
| + 指数对比度增强 (d) | 进一步抑制弱干扰,保留主要目标轮廓 | 边缘断裂 |
| + 暗边缘去除 (e) | 树干、围栏等暗背景边缘被抑制 | 暗背景干扰 |
| Canny 算子 (f) | 边界连续性稍差于本文方法 | — |
实时系统验证
在真实红外夜视观瞄系统中测试(图 2),视频帧率 25 Hz、分辨率 $1280 \times 1024$。结果显示:
- 开启勾边功能后,背景中除天地线外的绝大多数背景边缘被有效消除
- 人物目标的红色轮廓清晰可见,起到目标凸显作用
- 使用 Hou & Zhang #Hou-2007 的谱残差方法评价显著度:勾边后目标显著区域更集中在人物附近
FPGA 边缘检测横向对比
将本文方法与其他基于 FPGA 的边缘检测工作对比:
| 工作 | 算法 | FPGA 平台 | 分辨率 | 针对红外优化 |
|---|---|---|---|---|
| 徐旭 2022 #Xu-2022 | Sobel | 未详述 | 未详述 | 否 |
| 崔玉 2021 #Cui-2021 | 改进 Canny | FPGA | 未详述 | 否 |
| 隋旭阳 2021 #Sui-2021 | Canny 加速 | FPGA | 实时视频 | 否 |
| Ravivarma 2021 #Ravivarma-2021 | Sobel | FPGA | 未详述 | 否 |
| 本文 | 增强 Sobel | Cyclone IV | $1280 \times 1024$ @ 25Hz | 是(三级后处理) |
关键区别:上述工作均将边缘检测作为通用图像处理任务,未考虑红外图像的目标特性(高亮度目标 + 暗背景干扰)。本文的核心贡献不是更好的边缘检测算子,而是针对红外夜视观瞄场景的领域适配。
局限性
可复现性不足
论文未给出 $Th$、$E$、$n$、$T_{\text{target}}$ 等关键参数的具体数值,仅说明"根据不同系统确定"。这使得其他研究者无法直接复现算法,也限制了方法在不同红外系统间的迁移性。
其他局限包括:仅测试了静态图像和简单人物动态场景,缺乏多目标、复杂天气、不同距离的鲁棒性验证;缺乏定量指标(F1、Chamfer 距离等)对比;消融实验仅以视觉方式呈现,未给出各模块的独立贡献度。
对本系列的启发
尽管论文在学术贡献上有限(属于工程应用型工作),但它为我们的红外轮廓图像压缩系列提供了几个有价值的观察:
- 红外轮廓图的真实应用形态:本文展示的轮廓提取结果(红色边缘叠加在红外图像上)就是红外轮廓图在军事领域的典型应用形态。压缩这类数据时,需要保留的是轮廓的连通性和目标几何形状,而非每个边缘像素的精确位置。
- 暗背景边缘去除 ≈ 结构化稀疏:论文的局部阈值判断本质上是一种空间自适应的稀疏化操作——只保留亮区域的边缘,其余全部置零。这与我们系列中讨论的"红外轮廓图应被视为稀疏结构图"的观点高度一致。
- FPGA 约束定义了压缩的上限:在观瞄系统中,轮廓提取已经是 FPGA 上实时完成的,后续的压缩编码同样需要在资源受限的平台上运行。本文 <2% 的资源占用意味着,剩余的 98% 资源需要支撑图像处理、显示合成和潜在的压缩编码——这对压缩算法的复杂度提出了硬约束。
参考来源
- 李文, 王洪涛, 黄晓江等. 红外夜视观瞄系统的目标轮廓提取方法及 FPGA 实现. 太赫兹科学与电子信息学报, 2024, 22(12): 1388-1393. DOI: 10.11805/TKYDA2023132. PDF
- 白宏刚. 红外夜视技术及其军事应用. 现代物理知识, 2011, 23(6): 44-46. HTML
- 背景调研综合:Fortune Business Insights, Global Market Insights, 光电股份 (600184) 年报等. Researching
- 吴捷, 马小虎. 基于特征融合与通道感知的无人机红外目标跟踪算法. 激光与红外, 2023, 53(4): 626-632. DOI: 10.3969/j.issn.1001-5078.2023.04.022. DOI
- 徐旭, 陈曦. 基于 FPGA 的 Sobel 边缘检测算法的实现. 电子测试, 2022, 36(23): 63-65. CNKI
- 崔玉, 俞建定, 邹洪彬等. 改进的 Canny 实时边缘检测算法在 FPGA 上的实现. 无线通信技术, 2021, 30(4): 27-31. CNKI
- Katırcıoğlu F. Edge detection method based on heat conduction matrix for infrared image. Optical Engineering, 2020, 59(9): 093103. DOI
- 隋旭阳, 陈卓, 刘议聪等. 基于 FPGA 的实时视频边缘检测系统. 兵工自动化, 2021, 40(2): 58-60. DOI: 10.7690/bgzdh.2021.02.015. DOI
- Ravivarma G, Gavaskar K, Malathi D, et al. Implementation of Sobel operator based image edge detection on FPGA. Materials Today: Proceedings, 2021, 45(2): 2401-2407. DOI: 10.1016/j.matpr.2020.10.825. DOI
- Hou Xiaodi, Zhang Liqing. Saliency detection: a spectral residual approach. CVPR 2007: 1-8. DOI: 10.1109/CVPR.2007.383267. DOI