ESC
输入关键词搜索文章
目录

红外夜视观瞄轮廓提取

太赫兹科学与电子信息学报 2024 · Sobel + Gaussian + FPGA
一篇来自兵工厂的工程论文:不追求边缘检测的理论最优,而是在 FPGA 资源 <2% 的硬约束下,用四级增强管线让 Sobel 算子在红外夜视场景中真正可用。
<2%FPGA 资源占用
25 Hz实时帧率
1280×1024分辨率
1462逻辑单元
论文信息:李文, 王洪涛, 黄晓江等. 红外夜视观瞄系统的目标轮廓提取方法及 FPGA 实现. 太赫兹科学与电子信息学报, 2024, 22(12): 1388-1393. DOI: 10.11805/TKYDA2023132. PDF 原文
Part 1 · 引言
为什么红外夜视观瞄需要目标轮廓提取?

红外夜视观瞄系统是现代军事装备的核心感知器件。从单兵热像仪到装甲车火控系统,红外探测器捕获的热辐射图像可在完全黑暗、烟雾、逆光等极端条件下呈现目标信息 #Bai-2011。全球夜视设备市场 2025 年规模约 101.9 亿美元,军用夜视系统预计 2034 年达 147.3 亿美元 #Background-2025

在这些观瞄系统中,一个关键的图像处理环节是目标凸显——在原始红外图像上叠加目标轮廓,帮助射手快速识别威胁。这本质上就是我们系列中反复讨论的"红外轮廓图像"的一个典型工程应用:从热辐射场中提取目标边界,再以颜色渲染叠加回原始图像。

本文作者来自江苏北方湖光光电有限公司——中国兵器工业集团下属的专业夜视观瞄设备研制单位 #Li-2024。他们面对的工程约束极为严苛:FPGA 芯片资源有限、必须满足 25 Hz 实时帧率、分辨率高达 $1280 \times 1024$、功耗受限。在这种约束下,深度学习目标检测 #Wu-2023 虽然效果更好,但无法在观瞄系统的 FPGA 上运行。

论文的核心思路是:以经典 Sobel 算子为骨架,通过四级增强管线(高斯滤波去噪、Sobel 梯度、指数对比度增强、暗背景边缘去除)弥补 Sobel 在红外图像中的先天不足,最终在 Intel Cyclone IV FPGA 上以 <2% 的资源占用实现实时目标轮廓提取。这是一种典型的"工程优化优先"路线——不追求理论最优的边缘检测质量,而是在硬约束下让经典方法真正可用。

Part 2 · 问题剖析
Sobel 算子在红外图像上为什么"水土不服"?

Sobel 算子是最经典的边缘检测算子之一,运算简单(仅需两次 $3 \times 3$ 卷积),非常适合 FPGA 流水线实现 #Xu-2022。然而,直接将 Sobel 应用于红外夜视图像会遇到三个严重问题:

问题一:噪声伪边缘

红外图像受限于探测器器件工艺,不可避免地存在条纹噪声随机噪声 #Li-2024。Sobel 算子本质上是梯度计算,对噪声极度敏感——任何灰度跳变都会被识别为"边缘",导致大量伪边缘淹没真实目标轮廓。

问题二:边缘断裂

标准 Sobel 通过硬阈值分割提取边缘,处于阈值附近的梯度值会被"撕裂"。在红外图像中,目标的温度梯度通常比可见光图像的颜色梯度更平缓,这使得阈值附近的边缘断裂问题更为严重,目标边界不连续、不闭合

问题三:暗背景干扰

Sobel 算子无法区分"亮目标边缘"和"暗背景边缘"。在红外夜视场景中,树干、围栏、地面纹理等暗区域同样会产生梯度变化,被 Sobel 检测为边缘。这些干扰边缘使画面杂乱,反而降低了目标的凸显性。

替代方案的代价:Canny 算子 #Cui-2021 边缘定位更精确,但其非极大值抑制和双阈值滞后处理计算复杂,FPGA 资源消耗约 5-15% #Background-2025。Katırcıoğlu 的热传导矩阵方法 #Katircioglu-2020 边缘质量更好,但模型较为复杂,需要构建热传导矩阵并迭代计算,不利于在资源受限的 FPGA 平台上实时部署。本文的策略是:保持 Sobel 的低复杂度优势,通过针对性预处理和后处理解决上述三个问题。
Part 3 · 方法详解
四级增强管线:让 Sobel 在红外场景真正可用

本文设计了一条两路并行的处理管线,路径 A 负责边缘提取,路径 B 负责局部阈值计算,最终在判定节点汇合:

算法仿真对比效果图
图 1:算法仿真效果图对比。(a) 原始红外图像 → (b) 直接 Sobel(大量杂散边缘)→ (c) 高斯滤波+Sobel(杂散边缘减少)→ (d) 指数对比度增强后(进一步抑制)→ (e) 暗边缘去除后(树干和围栏边缘被抑制)→ (f) Canny 结果(边界连续性稍差)。来源:论文 Fig.7 #Li-2024

阶段 1 · 高斯滤波预处理

对输入红外图像 $I(x,y)$ 施加 $2n+1$ 阶二维高斯卷积,抑制条纹噪声与随机噪声:

$$R(x, y) = \sum_{k=-n}^{n} \sum_{t=-n}^{n} I(x+k,\; y+t) \cdot G(k, t)$$

其中高斯核函数为:

$$G(x, y) = \frac{1}{2\pi\sigma^2} \exp\!\left(-\frac{x^2 + y^2}{2\sigma^2}\right)$$

$\sigma^2$ 为图像方差,控制平滑程度。高斯滤波的效果可从图 1(b) → (c) 的对比中直观验证:经过滤波后,大量由噪声引起的杂散边缘被消除,保留的梯度变化来自真实的灰度跳变。

阶段 2 · Sobel 边缘检测

使用标准 $3 \times 3$ Sobel 模板 $G_X$$G_Y$ 分别计算水平和垂直梯度:

$$G_X = \begin{bmatrix} -1 & 0 & +1 \\ -2 & 0 & +2 \\ -1 & 0 & +1 \end{bmatrix}, \quad G_Y = \begin{bmatrix} +1 & +2 & +1 \\ 0 & 0 & 0 \\ -1 & -2 & -1 \end{bmatrix}$$

梯度幅值为:

$$g(x, y) = \sqrt{g_x(x, y)^2 + g_y(x, y)^2}$$

其中 $g_x$$g_y$ 分别为 $G_X$$G_Y$ 与图像的卷积结果。这一步计算量极小(仅 2 次 $3 \times 3$ 卷积 + 1 次平方和开方),完全适合 FPGA 流水线。

阶段 3 · 指数对比度增强

这是本文最具技巧性的环节。直接对梯度图 $g(x,y)$ 做硬阈值分割会导致边缘断裂,因此引入一个Sigmoid 型指数映射展宽阈值附近的灰度值:

$$q = \frac{1}{1 + \left(\dfrac{Th}{p}\right)^E} \times 255$$

其中 $p$ 为输入梯度灰度值,$q$ 为增强后输出值,$Th$$E$ 为可调参数。该函数在 $p \approx Th$ 附近具有最大的灰度拉伸率,使得弱边缘被增强、强边缘保持饱和,从而获得连续性更好的目标边界。参数 $Th$ 控制展宽中心位置,$E$ 控制展宽陡度,需根据不同红外系统的图像特征手动调优 #Li-2024

参数披露状态

参数作用论文是否给出具体值
高斯核尺寸 $n$控制滤波窗口大小未披露(仅给出 $2n+1$ 表达式)
$Th$对比度增强中心阈值未披露("根据不同系统确定")
$E$对比度增强陡度未披露
全局阈值边缘候选筛选未披露
目标阈值 $T_{\text{target}}$暗边缘去除判据未披露

阶段 4 · 暗背景边缘去除

这是管线的最后一级,也是最具"红外场景特异性"的操作。在红外夜视观瞄中,典型目标(人员、车辆)表现为高亮度区域,而暗背景(树干、围栏、地面)的边缘是干扰信息。本文提出基于 $3 \times 3$ 局部均值的阈值判断:

$$\mu_{\text{local}}(x, y) = \frac{1}{9} \sum_{i=-1}^{1} \sum_{j=-1}^{1} I(x+i,\; y+j)$$

判定规则:当 $\mu_{\text{local}} > T_{\text{target}}$ 时保留边缘,否则视为暗背景边缘予以去除。从图 1(d) → (e) 的效果可以看到,树干和马路围栏的暗边缘被有效抑制,而人物的亮目标轮廓被完整保留。

Part 4 · 算法参数与工程约束
FPGA 约束下的工程智慧

这篇论文最值得关注的不仅是算法本身,更是它在严苛硬件约束下的工程实现。平台选择为 Intel Cyclone IV EP4CE75U19I7 芯片,具体资源如下:

资源类型消耗量芯片总资源利用率
逻辑单元1,46275,4081.9%
存储器位38,866 bits2,810,880 bits1%
嵌入式乘法器4400(9 位)1%

三个数字全部低于 2%,这意味着算法对硬件资源的需求极为克制。在同一块 FPGA 上,还有大量其他功能模块(非均匀校正、盲元补偿、图像增强、显示合成等)需要共享资源,<2% 的占用率使得该算法可以轻松嵌入现有观瞄系统的处理链路。

行缓存器:流式处理的关键

FPGA 中图像视频以流水线形式处理,无法像 CPU/GPU 那样随机访问像素。实现 $3 \times 3$ 卷积需要同时获取相邻 3 行的像素数据。本文使用 shift register IP 核构建两级行缓存器:

  • Shift Register 2:存储第 $n-2$ 行数据
  • Shift Register 1:存储第 $n-1$ 行数据
  • 当前行:第 $n$ 行数据

三路数据并行送入 $3 \times 3$ 卷积核,实现完全流水线的滑窗运算。

查找表技巧:1 个时钟完成指数运算

公式 (7) 中的指数运算在 FPGA 中是一大难点——直接实现需要消耗大量逻辑资源和乘法器。本文采用了一个精妙的工程技巧:离线预计算所有 256 个灰度值的指数运算结果,存入 FPGA 片上 ROM(只读存储器),运行时以像素灰度值作为地址索引,单个时钟周期即可完成指数运算。这一查找表策略将复杂的非线性运算转化为简单的存储器访问,是 FPGA 图像处理中的经典手法。

IR 图像输入 路径 A 路径 B 高斯滤波 Sobel 边缘 指数对比度 ROM 查找表 全局阈值 3×3 局部 均值计算 数据延迟 时序对齐 暗边缘去除 阈值判断 目标轮廓 FPGA 资源占用:逻辑单元 1,462 (1.9%) · 存储器 38,866 bits (1%) · 乘法器 4 (1%) Intel Cyclone IV EP4CE75U19I7 · 25 Hz @ 1280×1024
图 3:FPGA 两路并行管线架构。路径 A(蓝)完成边缘提取链,路径 B(橙)计算局部阈值,通过时序对齐在判定节点汇合,实现暗背景边缘去除。
Part 5 · FPGA 实时推理管线
两路并行 + 时序对齐的实时架构

算法在 FPGA 中的实现框图如下所示,核心设计思想是两路并行 + 时序对齐

FPGA 实时成像系统效果
图 2:实时红外成像系统效果。(a) 关闭勾边功能的人物图像 → (b) 开启勾边后的凸显效果(红色轮廓叠加,背景边缘被有效消除)→ (c)(d) 分别为两者的显著度图,可见勾边后目标显著区域更集中。来源:论文 Fig.8 #Li-2024

原始红外图像输入后一分为二:

  • 路径 A(边缘提取路):高斯滤波 → 行缓存 → Sobel 边缘检测 → 指数对比度增强(ROM 查找表)→ 全局阈值 → 候选边缘
  • 路径 B(局部阈值路)$3 \times 3$ 局部均值计算 → 数据延迟(与路径 A 的流水线延迟对齐)

两路在最终判定节点汇合:比较路径 B 的局部均值与目标阈值 $T_{\text{target}}$,决定路径 A 输出的候选边缘是保留还是去除。最终边缘可以不同颜色渲染(论文中使用红色)并叠加回原始红外图像,实现目标凸显。

实时性能指标

配置项数值披露状态
FPGA 芯片Intel Cyclone IV EP4CE75U19I7论文披露
视频分辨率$1280 \times 1024$论文披露
帧频25 Hz论文披露
像素时钟未披露未披露
处理延迟(帧级)未披露(估计为数行延迟)未披露
功耗未披露未披露

$1280 \times 1024$ 分辨率、25 Hz 帧率下,算法能够完全满足实时处理需求。由于采用全流水线设计,每帧的处理延迟仅为数个行周期(约微秒量级),远小于帧间隔的 40 ms。

Part 6 · 实验验证
静态仿真 + 实时系统验证

静态图像仿真对比

论文在静态红外图像上进行了逐步消融式的视觉对比(图 1),清晰展示了每个增强阶段的贡献:

处理阶段效果解决的问题
原始 Sobel (b)大量杂散边缘,目标淹没在噪声中
+ 高斯滤波 (c)杂散边缘明显减少噪声伪边缘
+ 指数对比度增强 (d)进一步抑制弱干扰,保留主要目标轮廓边缘断裂
+ 暗边缘去除 (e)树干、围栏等暗背景边缘被抑制暗背景干扰
Canny 算子 (f)边界连续性稍差于本文方法

实时系统验证

在真实红外夜视观瞄系统中测试(图 2),视频帧率 25 Hz、分辨率 $1280 \times 1024$。结果显示:

  • 开启勾边功能后,背景中除天地线外的绝大多数背景边缘被有效消除
  • 人物目标的红色轮廓清晰可见,起到目标凸显作用
  • 使用 Hou & Zhang #Hou-2007 的谱残差方法评价显著度:勾边后目标显著区域更集中在人物附近

FPGA 边缘检测横向对比

将本文方法与其他基于 FPGA 的边缘检测工作对比:

工作算法FPGA 平台分辨率针对红外优化
徐旭 2022 #Xu-2022Sobel未详述未详述
崔玉 2021 #Cui-2021改进 CannyFPGA未详述
隋旭阳 2021 #Sui-2021Canny 加速FPGA实时视频
Ravivarma 2021 #Ravivarma-2021SobelFPGA未详述
本文增强 SobelCyclone IV$1280 \times 1024$ @ 25Hz是(三级后处理)

关键区别:上述工作均将边缘检测作为通用图像处理任务,未考虑红外图像的目标特性(高亮度目标 + 暗背景干扰)。本文的核心贡献不是更好的边缘检测算子,而是针对红外夜视观瞄场景的领域适配

Part 7 · 讨论与启发
从兵工厂论文中提炼的研究启示

局限性

可复现性不足

论文未给出 $Th$$E$$n$$T_{\text{target}}$ 等关键参数的具体数值,仅说明"根据不同系统确定"。这使得其他研究者无法直接复现算法,也限制了方法在不同红外系统间的迁移性。

其他局限包括:仅测试了静态图像和简单人物动态场景,缺乏多目标、复杂天气、不同距离的鲁棒性验证;缺乏定量指标(F1、Chamfer 距离等)对比;消融实验仅以视觉方式呈现,未给出各模块的独立贡献度。

对本系列的启发

尽管论文在学术贡献上有限(属于工程应用型工作),但它为我们的红外轮廓图像压缩系列提供了几个有价值的观察:

  1. 红外轮廓图的真实应用形态:本文展示的轮廓提取结果(红色边缘叠加在红外图像上)就是红外轮廓图在军事领域的典型应用形态。压缩这类数据时,需要保留的是轮廓的连通性和目标几何形状,而非每个边缘像素的精确位置。
  2. 暗背景边缘去除 ≈ 结构化稀疏:论文的局部阈值判断本质上是一种空间自适应的稀疏化操作——只保留亮区域的边缘,其余全部置零。这与我们系列中讨论的"红外轮廓图应被视为稀疏结构图"的观点高度一致。
  3. FPGA 约束定义了压缩的上限:在观瞄系统中,轮廓提取已经是 FPGA 上实时完成的,后续的压缩编码同样需要在资源受限的平台上运行。本文 <2% 的资源占用意味着,剩余的 98% 资源需要支撑图像处理、显示合成和潜在的压缩编码——这对压缩算法的复杂度提出了硬约束。
核心判断:本文不是一篇边缘检测的理论创新论文,而是一份来自兵工厂一线的工程实践报告。它的价值在于展示了红外轮廓提取在真实军事系统中的工程约束和解决策略——这些约束(FPGA 资源 <2%、实时 25Hz、参数经验调优)是学术论文中经常被忽略但工程上至关重要的因素。
References · 参考来源
文献索引

参考来源

  • 李文, 王洪涛, 黄晓江等. 红外夜视观瞄系统的目标轮廓提取方法及 FPGA 实现. 太赫兹科学与电子信息学报, 2024, 22(12): 1388-1393. DOI: 10.11805/TKYDA2023132. PDF
  • 白宏刚. 红外夜视技术及其军事应用. 现代物理知识, 2011, 23(6): 44-46. HTML
  • 背景调研综合:Fortune Business Insights, Global Market Insights, 光电股份 (600184) 年报等. Researching
  • 吴捷, 马小虎. 基于特征融合与通道感知的无人机红外目标跟踪算法. 激光与红外, 2023, 53(4): 626-632. DOI: 10.3969/j.issn.1001-5078.2023.04.022. DOI
  • 徐旭, 陈曦. 基于 FPGA 的 Sobel 边缘检测算法的实现. 电子测试, 2022, 36(23): 63-65. CNKI
  • 崔玉, 俞建定, 邹洪彬等. 改进的 Canny 实时边缘检测算法在 FPGA 上的实现. 无线通信技术, 2021, 30(4): 27-31. CNKI
  • Katırcıoğlu F. Edge detection method based on heat conduction matrix for infrared image. Optical Engineering, 2020, 59(9): 093103. DOI
  • 隋旭阳, 陈卓, 刘议聪等. 基于 FPGA 的实时视频边缘检测系统. 兵工自动化, 2021, 40(2): 58-60. DOI: 10.7690/bgzdh.2021.02.015. DOI
  • Ravivarma G, Gavaskar K, Malathi D, et al. Implementation of Sobel operator based image edge detection on FPGA. Materials Today: Proceedings, 2021, 45(2): 2401-2407. DOI: 10.1016/j.matpr.2020.10.825. DOI
  • Hou Xiaodi, Zhang Liqing. Saliency detection: a spectral residual approach. CVPR 2007: 1-8. DOI: 10.1109/CVPR.2007.383267. DOI