Processing math: 100%
New website getting online, testing
A multilayer linear fusion algorithm for endoscopic image enhancement
  • Abstract

    An image contrast and brightness enhancement algorithm for human upper gastrointestinal endoscopy is proposed to address the problem of blurring of details such as insufficient and uneven illumination in endoscopic images. The algorithm improves and weighted fusion of the adaptive gamma-corrected luminance enhancement algorithm and contrast-limited adaptive histogram equalization algorithm. The input images are processed separately and the final weighted fused enhanced image is obtained. The proposed algorithm is applied to the partial images of the upper gastrointestinal tract in the open access dataset and compared with the existing algorithms for algorithm effect testing experiments, using peak signal-to-noise ratio (PSNR), structural similarity (SSIM), and natural image quality evaluator (NIQE) as the image evaluation metrics. The experimental results show that the proposed algorithm enhances the image with higher quality than other algorithms, which significantly improves the image quality and provides a good basis for image detection.

    Keywords

  • 本文算法的主要过程:使用改进伽马校正亮度增强算法提升内窥镜图像亮度;使用改进CLAHE算法提升图像对比度;结合亮度增强算法与改进CLAHE算法的优势进行内窥镜图像增强。

    医用内窥镜[]是一种用于辅助医疗诊断的专业成像仪器,它通过患者身上的自然腔道或者微创型切口进入人体,获得人体内部器官的组织形态图像。专业人员可以通过这些图像对患者的病情进行准确的诊断,因此图像质量的好坏直接影响到对病情的判断。此外,在机器人辅助微创手术(MIS)中[],内窥镜也发挥着重要的作用。然而,由于受到人体内组织结构的限制,内窥镜下不同部位的光照强度和均匀度难以保持一致,造成内窥镜图像中产生过曝光和阴影等问题,对于内部细微组织和轻度病变的显示效果不够清晰,容易导致检测人员误诊和漏诊,给患者的诊断和治疗带来更多困难。图像增强技术的出现解决了“看不清”和“看不准”的问题,提高了内窥镜图像的质量,帮助医护人员更加准确有效地判断病情,为患者的治疗提供了更多的帮助。近年来,基于内窥镜超高清图像的增强处理技术和图像增强算法[]成为了研究热点。例如,奥林巴斯公司[]开发的窄带成像内窥镜系统(NBI),利用特定波长的滤光片将红绿蓝三种颜色组合来改变波段使之变窄,再根据波段的不同穿透深度来显示出血管。Okuhata等[]提出了一种基于Retinex的图像增强算法,对估计的亮度进行伽马校正来增强图像的对比度。Xia等[]将内窥镜图像中光线充足的区域保留下来,使用伽马校正提高光线不足区和有损区亮度,但是这种方法可能会导致亮度过饱和。直方图均衡化(HE)通过改变图像的动态像素范围,使其大致均匀分布来实现对比度增强。有限对比度自适应直方图均衡化[](CLAHE)在此基础上增加了对比度自适应限制来提升图像对比度。其次,伽马校正[](GC)也是像素域中常用的对比度增强方法,适用于处理不同亮度的图像,但需要手动设置适当的伽玛值。随后,Cao等提出了改进自适应伽马校正亮度对比度增强( AGCWD )[]算法,通过加权分布函数来精调统计直方图以减少不良影响的发生。刘光辉等[]提出了一种并行混合注意力的渐进融合图像增强方法,改善了低照度图像的细节信息丢失问题。Fan等[]使用了一种改进的麻雀搜索算法来提升磁共振(MR)图像对比度。An等[]提出了一种基于Retinex理论的内窥镜图像增强网络(EIEN),对内窥镜图像中进行亮度和对比度增强。徐胜军等[]提出了一种双频域特征聚合图像增强网络,提升了低照度图像的细节纹理可见度。但在本文研究的复杂的胃部环境中,传统的深度学习方法难以获得足够有效的内窥镜图像。因此,传统的深度学习方法[]并不是最适合本文应用场景的方法。针对上消化道胃部组织内窥镜图像亮度和对比度增强问题,本文提出了一种将伽马校正的亮度增强算法与CLAHE算法多层线性融合,以实现图像的亮度与对比度增强,从而提高内窥镜图像的亮度和对比度。鉴于内窥镜图像常受畸变噪声等影响,引入多层线性融合的方法,实现了内窥镜图像的亮度与对比度增强,解决了原始图像模糊的问题。

    本文主要的创新点:1)采用基于Retinex理论的自适应伽马校正进行内窥镜图像亮度增强;2)改进CLAHE算法的限制阈值以提升内窥镜图像对比度;3)引入多层线性融合策略将两种方法结合,实现细节丰富的内窥镜图像增强。

    Vout =Vγin,

    其中:Vout 表示输出图像的灰度值,Vin则表示输入图像的灰度值,γγ函数的幂指数系数。

    对内窥镜图像进行亮度增强,先从原始的图像信号S中提取并估计出来入射光照度L,然后基于Retinex理论公式,就可以得到物体自身的反射光信号R,处理反射光信号R来提高图像质量,达到亮度增强的目的,从而完成图像增强任务。

    Retinex理论[],又称视网膜皮层理论。物体的颜色是由物体对长波(红色)、中波(绿色)和短波(蓝色)光线的反射能力决定的,而不是由反射光强度的绝对值决定的。物体的色彩不受光照非均匀性的影响,具有一致性。它的理论假设原始图像信号S等于携带图像细节信息的目标物体的反射分量R和环境光的照射分量L的乘积:

    log(S+ϵ)log(S)=log(R×L)=log(R)+log(L),

    伽马校正通过调节γ函数的幂指数系数,改变图像的灰度值,使它能够呈现在最合适的范围内,从而达到改变内窥镜图像对比度和亮度的目的。

    S(x,y)=R(x,y)L(x,y).

    鉴于以Retinex理论为基本形式进行实际图像问题处理较为繁琐,因此在一般图像处理中常常将图像转换至对数域,使得乘积关系转换为和的关系。在这种基础上,进一步对图像进行处理。

    伽马校正又被称为幂律变化,由幂指数函数定义:

    其中: ϵ是一个很小的正值(如1e-6),用于防止对数函数在像素值为零时未定义问题。

    CLAHE算法是由HE算法转化来的,直方图均衡化通过调整灰度空间中像素点的直方图,从而增强图像的对比度。然而,这种方法可能引发较严重的噪声问题。为了克服这一问题,CLAHE算法对HE算法进行了改进,以在提升对比度的同时有效抑制噪声。该算法在多种应用场景中表现出良好的性能。在内窥镜图像中,普遍存在光照不均匀、清晰度低等问题,因此为了有效辅助医疗诊断,必须改善图像质量以提升图像清晰度。

    Figure 1. Flowchart of the multilayer fusion algorithm
    Full-Size Img PowerPoint

    Flowchart of the multilayer fusion algorithm

    本文提出了一种将亮度增强后的图像和改进 CLAHE 所得的图像结合相应的权重来进行线性融合的图像增强算法。第一层亮度增强算法是将输入图像进行色彩空间的转换,由RGB转换为HSV,其中V为亮度分量,利用改进后伽马校正对亮度分量V进行处理,使图像的亮度增强,对处理后的图像进行动态拉伸来使图像的对比度处于均匀的合适位置。将处理完的图像从HSV空间转换到RGB空间,根据R、G、B三个分量来计算饱和性权重Wstr1,并将RGB图像转换到LAB色彩空间来计算显著性权重Wslc1。第二层CLAHE算法进行改进CLAHE处理,先对输入的RGB图像进行颜色判断,通常情况下内窥镜图像中颜色占比小的通道为蓝、绿,为了使图像的后续处理效果更好,需要对图像进行颜色补偿,再进行灰度转换,对灰度图像进行直方图均衡化,并且加入对比度限制的自适应算法,以提高图像的对比度。将处理后的图像用R、G、B分量来进行饱和性权重Wstr2的计算,并将图像转到LAB空间进行显著性权重Wslc2的计算。最后第三层线性融合算法通过线性融合的方法,将权重归一化,对输入图像线性处理生成增强图像并输出。算法流程图如图1所示。

    V(x,y)=n×V(x,y)max(V(x,y)),

    将处理后的Vr分量与H和S分量结合组成HSV空间,再由HSV空间转换到RGB颜色空间,就可以得到经过改进的自适应伽马校正的亮度增强图像,实现内窥镜图像的亮度增强。

    根据伽马校正理论可以得到入射光照度,根据Retinex理论,由入射光照度和原始图像信号来估计物体本身反射光,进一步得到自适应伽马校正后的亮度分量值Vr,并将它与原始图像信号中的H和S值重新组合成颜色空间,得到由改进的自适应伽马校正的亮度增强的图像。由于对图像的低灰度区域的分量值Vr进行过线性拉伸[],为将经过增强后的图像处于更为合适的对比度范围内,需要再将处理后的Vr再一次经过分段函数的线性拉伸形式进行一次改进。

    对线性拉伸后的图像进行处理,基于Retinex理论由物体本身的反射光R和原始图像信号S来估计入射光照度L。采用自适应伽马校正原理来对图像的亮度分量进行处理,调节图像的亮度,在HSV颜色空间中,保持H和S分量不变,对亮度分量V采用自适应伽马校正。为提高算法的泛化能力对人体内部不同器官的内窥镜图像都适用,将伽马校正的可变参数γ设置为自适应值:

    其中:IV表示亮度分量值V,D(IV)表示IV的方差,ˉIV表示亮度分量值V的均值,c表示可调节系数,c的取值范围为[0,1]。

    Vr(x,y)={0.85×Vr(x,y)Vr(x,y)0.750.65×Vr(x,y)0.50Vr(x,y)<0.75Vr(x,y)0.25Vr(x,y)<0.506.5×(Vr(x,y))2Vr(x,y)<0.25,
    γ=expD(IV)cˉIVD(IV),

    其中:V(x,y)表示V分量在(x,y)位置处的增强值,V(x,y)表示V分量在(x,y)位置处的原始值,n表示线性拉伸系数,n的取值范围为[1,10],max(V(x,y))表示V分量的最大值。

    首先,内窥镜图像中存在光照不充分、不均匀的情况,亮度增强可以有效地改善亮度并实现图像增强。进行亮度增强的关键是将图像的低灰度级区域进行线性拉伸,使其处于合适的范围区间内。在内窥镜图像中进行亮度增强处理时,需要先将原始图像从RGB颜色空间转换到HSV颜色空间,这样不仅可以消除颜色偏移问题而且降低了算法运算量。

    对于内窥镜而言,它在人体内部组织部分尤其是本文研究的上消化道的胃组织中,呈现出的图像中红色成分更多,蓝色和绿色的颜色分量偏小。由于人体内部的狭隘空间也间接性导致内窥镜成像的不稳定,因此在图像的预处理部分先进行颜色判断,再进行蓝色和绿色的颜色补偿,提升红色主导像素的G、B分量值以平衡色彩分布,最后得到预处理后的图像。

    改进的CLAHE算法通过分析不同部位的内窥镜图像特征,通过设置极限阈值的方式对直方图的像素值进行限制,达到限制内窥镜图像的局部组织噪声放大和图像模糊的目的,实现内窥镜图像增强。

    Rcomp =R,Gcomp =G+kG(Rthres G),Bcomp =B+kB(Rthres B),
    T=Avg[n(AvgNumAvg)],

    其中:Hist(i)表示直方图的像素值,T表示极限阈值,L表示直方图中超过T的部分。CLAHE算法可以限制噪声过大,但是对于内窥镜图像来说,一般情况下由于人体各部位的复杂构造,会造成成像效果差等情况,使用CLAHE算法很难适应不同类型不同情况下的人体器官。因此对CLAHE的极限阈值进行改进,通过分析人体的口腔、上消化道食道、胃部、肠道、尿道等器官表面组织的像素,如式(9)所示。

    其中:RcompGcompBcomp​分别为补偿后的R、G、B分量值,Rthres表示红色阈值,kGkB为补偿系数,设置为0.1和0.2。

    Hist(i)=Hist(i)+L,Hist(i)<T,

    对于亮度增强后的图像,在图像的暗区域以及细节部分得到了明显的增强,但是仍然会存在影响医疗诊断的噪声,还需要进一步对图像进行噪声去除处理。对比度限制的自适应直方图均衡化算法可以有效抑制图像噪声[]

    式(9)计算出局部区域的平均像素值进一步来限制极限阈值,通过设置不同的极限阈值T来调节适应人体内部的不同器官部位,从而达到合适的范畴满足内窥镜图像增强的需要。

    其中:Avg表示平均像素值,T表示极限阈值,n为可调节系数,范围在[0,1]之间,[·]表示向下取整,Num表示直方图小子块的各个灰度级。

    显著性权重反映了像素显著性对图像增强的重要性。将处理后的图像从RGB颜色空间转换到LAB颜色空间,提取出L、A、B的通道值并进行归一化处理使之取值范围分布在[0,1],再计算出显著性权重Wslc,如下所示:

    W1=Wstr1+Wstc1Wstr1+Wstc1+Wstr2+Wstc2,

    其中:RgGgBg分别表示红、绿、蓝三种颜色通道值,σ表示饱和性权重计算系数。

    σ=SSminSmaxSmin,

    其中:W1W2分别表示亮度增强后的图像归一化权重,Wstr1Wstr2分别表示亮度增强和CLAHE处理后的图像饱和性权重,Wslc1Wslc2分别表示亮度增强和CLAHE处理后的图像显著性权重。

    Wstr=13×[(Rgσ)2+(Ggσ)2+(Bgσ)2],

    其中:LgAgBg分别表示L、A、B三种颜色通道值,ˉLˉAˉB则表示L、A、B三种颜色通道值的平均值。

    其中:S表示像素的饱和度值,SminSmax分别表示图像中饱和度的最小值和最大值。

    Figure 2. (a) Origin; (b) Layer1 luminance enhancement algorithm; (c) Layer 2 CLAHE algorithm; (d) Layer 3 linear fusion algorithm
    Full-Size Img PowerPoint

    (a) Origin; (b) Layer1 luminance enhancement algorithm; (c) Layer 2 CLAHE algorithm; (d) Layer 3 linear fusion algorithm

    W2=Wstr2+Wstc2Wstr1+Wstc1+Wstr2+Wstc2,

    分别计算得到两个图像的饱和性权重和显著性权重后,对两个权重再进行一次归一化处理,如下所示:

    Iout =W1I1+W2I2.
    Wslc=13×[(LgˉL)2+(AgˉA)2+(BgˉB)2],

    饱和性权重反映了像素饱和度对图像增强的重要性。将两种改进算法处理后的图像,进行线性融合,得到最终的增强图像。提取处理后图像的R、G、B通道值并进行归一化处理使之取值范围分布在[0,1],再计算饱和性权重Wstr,如下所示:

    最后将两种算法处理的图像I1I2进行线性加权融合,得到输出图像Iout,如图2所示。

    饱和性权重计算系数σ用于衡量像素的饱和度对权重的影响。其计算公式如下:

    为验证本文算法的有效性,对算法进行实验验证,如表1所示,选用开源数据集 (https://datasets.simula.no/hyper-kvasir/)[]。本文算法涉及到CLAHE、伽马校正、Cao等改进 AGCWD、Wei等低光照图像增强深度学习网络(Retinex-Net)[]、Guo等零参考深度曲线估计(Zero-DCE)[]和Wang等基于照度平方反比规律的亮度加权(ENDOIMLE)[]六种图像增强算法的比较,并对实验结果进行分析。实验选择该数据集的上消化道的内窥镜图像[]。本实验使用Windows 11 64位操作系统,基于Visual Studio C++编程语言进行开发,实验设备性能为:Intel(R)Core(TM) i5-13500H CPU @ 2.60 GHz 16 GB RAM, NVIDIA GeForce RTX4050。

    The contents of the HyperKvasir partial dataset

    数据集HyperKvasir部分内容

    1st layer 2nd layer 3rd layer No. of images
    Upper GI Anatomical landmarks Pylorus 999
    Retroflex-stomach 764
    Z-line 932
    Pathological findings Barrett's 41
    Barrett's Short Segments 53
    Esophagitis Grage-A 403
    Esophagitis Grage-B-D 260
    CSV Show Table

    本实验从主观和客观两个方面与现有的算法进行比较,依据图像评价指标对增强后的内窥镜图像进行评价,客观评价采用的评价指标为PSNR、SSIM、NIQE,实验选用的内窥镜图像由公共数据集提供,选择上消化道胃部图像作为代表:包括Pylorus、Retroflex-stomach、Z-line。由于篇幅限制,在这三个部位的图像分别采用999、764、932张图片进行算法测试,测试算法应用的可行性,并对各指标数据求平均值。

    D(v1,v2,Σ1,Σ2)=((v1v2)T(Σ1+Σ22)1(v1v2)),

    其中:μrefμdist分别是参考图像和失真图像的平均亮度,σ2refσ2dist分别是参考图像和失真图像的方差,σrefdist是两图像间的协方差,C1C2是稳定计算的常数,通常取C1=(K1L)2C2=(K2L)2,其中K1K2为默认参数分别取0.01和0.03,L为图像的最大像素值。

    NIQE是一种无需参考图像(无参考)的图像质量评价方法,它基于自然图像统计模型,通过计算测试图像与理想自然图像统计特性之间的偏差来评估图像质量。

    Ablation experiment

    消融实验

    GC (未线性拉伸)自适应GC改进CLAHE本文算法
    PSNR8.5610.2315.6819.55
    SSIM0.5790.7730.8970.948
    NIQE3.7853.3683.1863.246
    CSV Show Table
    PSNR=10×log10(I2MAXMSE)=20×log10(IMAXMSE),

    PSNR

    PSNR

    图像CLAHEGCAGCWDRetinex-NetZero-DCEENDOIMLE本文算法
    Pylorus17.188.2313.4517.6116.3714.3419.43
    Retroflex12.999.1513.9118.5117.6115.4118.96
    Z-line13.779.7714.9818.7718.0315.4519.56
    CSV Show Table

    其中:v1v2表示自然多元高斯模型与失真图像多元高斯模型的均值向量矩阵,Σ1Σ2则表示它们的协方差矩阵。

    SSIM(Iref ,Idist )=(2μref μdist +C1)(2σrefdist +C2)(μ2ref +μ2dist +C1)(σ2ref +σ2dist +C2),
    MSE=1mnm1i=0n1j=0[I(i,j)K(i,j)]2.

    主观评价: 经过改进的自适应伽马校正增强亮度算法在胃底部幽门(Pylorus)的低亮度区域呈现出良好的亮度增强效果。然而,在内窥镜镜头旋转导致的过曝光区域方面,该算法的表现有待提升。在这些情况下,图像的峰值信噪比以及结构相似度均出现下降。另一方面,改进后的CLAHE算法在上消化道胃的Z-line部分实现了较为明显且清晰的对比度改进。然而,对于低亮度区域的亮度增强效果较为有限。值得注意的是,本文提出的算法通过对亮度增强算法和改进CLAHE算法的融合,使图像的处理效果得到了进一步提升。经过这种融合处理,算法的泛化能力显著增强,能够在上消化道胃组织的完整区域实现出色的图像增强效果。此外,本文算法增强后的图像更加贴近人眼的感知能力,从而更好地满足实际应用中的需求。

    SSIM

    SSIM

    图像CLAHEGCAGCWDRetinex-NetZero-DCEENDOIMLE本文算法
    Pylorus0.9380.6550.8960.7110.7870.8810.955
    Retroflex0.8930.6530.8940.7780.7370.8840.936
    Z-line0.9130.7510.9010.7930.7640.8710.946
    CSV Show Table

    PSNR的定义基于均方误差(mean squared error,MSE),假设原始图像的尺寸为m×n,原始图像记为I,受噪声影响后的图像记为K,均方误差可以表示为

    客观评价: 通过对数据集中的上消化道不同部位的图像进行处理,并与现有算法进行对比,采用了通用的图像评价标准作为依据,包括峰值信噪比(PSNR)、结构相似度(SSIM)以及自然图像质量评价(NIQE),对增强后的图像进行了整体评估。

    根据均方误差的定义得出

    图像表现的自然程度可以由NIQE指标作为参考标准。表2展示了NIQE值,NIQE值越低表明图像的质量越好。PSNR和SSIM在一定程度上反映了图像的质量,它们的值越高,图像质量越好。表3显示了九组图像的PSNR值,表4显示了SSIM值,表5显示了消融实验的各个指标值,从表中的评估结果可以看出,本文算法在 PSNR 和 SSIM 指标上优于现有算法。表6展示了各算法的运行时间,从中看出虽然本文算法在效率上不如深度学习算法,但是优于其他传统图像处理算法。综上所述,本文算法在内窥镜图像领域具有显著效果,比现有算法更具优势。

    其中:MAXI表示图像最大像素值。

    SSIM指数的取值范围为[0,1],在利用SSIM对两幅图像进行比较时,得分越高意味着图像之间的结构相似性越强,而较低的得分则指示图像之间存在较大的失真。

    NIQE

    NIQE

    图像 原始图像 CLAHE GC AGCWD Retinex-Net Zero-DCE ENDOIMLE 本文算法
    Pylorus 3.776 3.371 3.762 3.586 3.626 3.893 3.705 3.543
    Retroflex 3.538 3.385 3.802 3.569 3.789 4.265 3.628 3.373
    Z-line 3.636 3.069 3.273 3.471 3.821 4.523 3.675 3.112
    CSV Show Table
    Figure 3. Comparison of different algorithms for three sets of images (a-c) of Pylorus
    Full-Size Img PowerPoint

    Comparison of different algorithms for three sets of images (a-c) of Pylorus

    Figure 4. Comparison of different algorithms for three sets of images (a-c) of Retroflex-stomach
    Full-Size Img PowerPoint

    Comparison of different algorithms for three sets of images (a-c) of Retroflex-stomach

    为进一步客观对比本文提出的算法相较于其他算法的优势,本文展示了所有方法在尺寸为750×600的图像上的运行时间,如表6所示。本文提出的算法相比深度学习模型,减少了模型参数的数量,降低了计算复杂度。在算法实现中,对自适应伽马校正和改进的CLAHE采用了并行计算,提高了算法的运行效率。因此,本文提出的算法虽然弱于深度学习的算法Retinex-Net和Zero-DCE,但优于传统图像处理算法。本文算法在保持图像增强效果的同时缩短了计算时间,提高了算法的实用性。

    图3所示,在Pylorus部分的算法对比测试中,ENDOIMLE会产生伪影,CLAHE和GC算法会产生明显的色差,而本文提出的算法不仅保留了原图像中的更多信息,提高了图像的亮度和对比度,并且表现的更自然。

    图4所示,在Retroflex-stomach部分的算法对比测试中,CLAHE算法会导致局部亮度变暗,与AGCWD和ENDOIMLE算法相比,本文提出的算法对胃壁皱褶处理后显示出了更完整的细节,更符合人眼的视觉观察。

    Run time

    计算时间

    算法CLAHEGCAGCWDRetinex-NetZero-DCEENDOIMLE本文算法
    时间/s40.3512.186.213.450.015.464.56
    CSV Show Table

    综上所述,与现有图像增强算法相比,本文算法不仅在内窥镜图像的细节和纹理方面呈现更清晰的效果,而且对于光照不均匀、暗区域等不清晰部分的增强效果更加显著。本文算法在主观评价方面符合视觉习惯,能更好地辅助医疗诊断;在客观评价指标上取得了更好的增强效果,增强后的图片质量更高且具有更多的细节信息。总体而言,该算法在图像质量的增强方面表现出色,性能更为出众,具备更高的鲁棒性。

    Figure 5. Comparison of different algorithms for three sets of images (a-c) of Z-line
    Full-Size Img PowerPoint

    Comparison of different algorithms for three sets of images (a-c) of Z-line

    为验证多层融合算法各模块的有效性,本文在对比实验的基础上增加了消融实验,将伽马校正后未线性拉伸的算法、自适应伽马校正算法、改进的CLAHE算法和本文完整算法对比,实验随机抽取数据集中100张图片,将各算法的增强图片在PSNR、SSIM、NIQE三种指标下求平均值,如表5所示,实验证明本文多层融合算法的各模块的有效性以及对伽马校正算法后进行线性拉伸的必要性。

    图5所示,在Z-line部分的算法对比测试中,提出的算法在色彩上表现更柔和,人们对于它的主观视觉感受更好,并且在表3中的图像客观评价标准中得分更高,生成的图像更适合服务于医疗诊断。

    本文的算法通过对内窥镜图像的特性进行深入分析,结合内窥镜在实际应用中的需求,基于现有公开数据集,在图像增强领域采用了两种方法的线性融合:一是改进的自适应伽马校正亮度增强,二是改进的有限对比度自适应直方图均衡化算法。为了验证算法的有效性,使用医学图像的通用质量评价指标与存在的算法进行了对比实验。实验结果证明,本文算法能够更有效地增强复杂的人体内部环境图像,为医疗诊断提供了更多的细节信息,还有助于提升诊断的准确性和效率。然而,本文算法尚存在限制和不足,特别是在处理受到人体体液等反射情况下的组织部分时表现不够清晰。增强图像的反光部位可以作为进一步优化的方向。未来的研究工作将聚焦于改进反光部位,将增强后的图像应用于病变检测中,为医疗诊断提供更可靠的辅助信息。

    所有作者声明无利益冲突

  • References

    [1]

    Aghanouri M, Ghaffari A, Serej N D, et al. New image-guided method for localisation of an active capsule endoscope in the stomach[J]. IET Image Process, 2019, 13(12): 2321−2327.

    DOI: 10.1049/iet-ipr.2018.6366

    CrossRef Google Scholar

    [2]

    Omisore O M, Han S P, Xiong J, et al. A review on flexible robotic systems for minimally invasive surgery[J]. IEEE Trans Syst Man Cybern Syst, 2022, 52(1): 631−644.

    DOI: 10.1109/TSMC.2020.3026174

    CrossRef Google Scholar

    [3]

    马龙, 马腾宇, 刘日升. 低光照图像增强算法综述[J]. 中国图象图形学报, 2022, 27(5): 1392−1409.

    DOI: 10.11834/jig.210852

    Ma L, Ma T Y, Liu R S. The review of low-light image enhancement[J]. J Image Graphics, 2022, 27(5): 1392−1409.

    DOI: 10.11834/jig.210852

    CrossRef Google Scholar

    [4]

    Horiuchi Y, Hirasawa T, Ishizuka N, et al. Diagnostic performance in gastric cancer is higher using endocytoscopy with narrow-band imaging than using magnifying endoscopy with narrow-band imaging[J]. Gastric Cancer, 2021, 24: 417−427.

    DOI: 10.1007/s10120-020-01125-w

    CrossRef Google Scholar

    [5]

    Okuhata H, Nakamura H, Hara S, et al. Application of the real-time Retinex image enhancement for endoscopic images[C]//Proceedings of the 2013 35th Annual International Conference of the IEEE Engineering in Medicine and Biology Society, Osaka, Japan, 2013: 3407–3410. https://doi.org/10.1109/EMBC.2013.6610273.

    Google Scholar

    [6]

    Xia W Y, Chen E C S, Peters T. Endoscopic image enhancement with noise suppression[J]. Healthcare Technol Lett, 2018, 5(5): 154−157.

    DOI: 10.1049/htl.2018.5067

    CrossRef Google Scholar

    View full references list
  • Cited by

    Periodical cited type(1)

    1. 宋萌,倪旭翔,王立强,袁波,陈可,张基强. 内窥镜下提高出血点可见性的饱和度色调映射算法. 光电工程. 2025(03): 3-12 . 本站查看

    Other cited types(0)

  • Author Information

  • Copyright

    The copyright belongs to the Institute of Optics and Electronics, Chinese Academy of Sciences, but the article content can be freely downloaded from this website and used for free in academic and research work.
  • About this Article

    DOI: 10.12086/oee.2024.240063
    Cite this Article
    Wang Shuangyuan, Yao Zhiyuan, Zhang Yurong, Xue Huaiqi, He Gengsheng. A multilayer linear fusion algorithm for endoscopic image enhancement. Opto-Electronic Engineering 51, 240063 (2024). DOI: 10.12086/oee.2024.240063
    Download Citation
    Article History
    • Received Date March 17, 2024
    • Revised Date May 29, 2024
    • Accepted Date May 30, 2024
    • Published Date June 24, 2024
    Article Metrics
    Article Views(1180) PDF Downloads(405)
    Share:
  • Related Articles

  • 1st layer 2nd layer 3rd layer No. of images
    Upper GI Anatomical landmarks Pylorus 999
    Retroflex-stomach 764
    Z-line 932
    Pathological findings Barrett's 41
    Barrett's Short Segments 53
    Esophagitis Grage-A 403
    Esophagitis Grage-B-D 260
    View in article Downloads
  • 图像 原始图像 CLAHE GC AGCWD Retinex-Net Zero-DCE ENDOIMLE 本文算法
    Pylorus 3.776 3.371 3.762 3.586 3.626 3.893 3.705 3.543
    Retroflex 3.538 3.385 3.802 3.569 3.789 4.265 3.628 3.373
    Z-line 3.636 3.069 3.273 3.471 3.821 4.523 3.675 3.112
    View in article Downloads
  • 图像CLAHEGCAGCWDRetinex-NetZero-DCEENDOIMLE本文算法
    Pylorus17.188.2313.4517.6116.3714.3419.43
    Retroflex12.999.1513.9118.5117.6115.4118.96
    Z-line13.779.7714.9818.7718.0315.4519.56
    View in article Downloads
  • 图像CLAHEGCAGCWDRetinex-NetZero-DCEENDOIMLE本文算法
    Pylorus0.9380.6550.8960.7110.7870.8810.955
    Retroflex0.8930.6530.8940.7780.7370.8840.936
    Z-line0.9130.7510.9010.7930.7640.8710.946
    View in article Downloads
  • GC (未线性拉伸)自适应GC改进CLAHE本文算法
    PSNR8.5610.2315.6819.55
    SSIM0.5790.7730.8970.948
    NIQE3.7853.3683.1863.246
    View in article Downloads
  • 算法CLAHEGCAGCWDRetinex-NetZero-DCEENDOIMLE本文算法
    时间/s40.3512.186.213.450.015.464.56
    View in article Downloads
[1]

Aghanouri M, Ghaffari A, Serej N D, et al. New image-guided method for localisation of an active capsule endoscope in the stomach[J]. IET Image Process, 2019, 13(12): 2321−2327.

DOI: 10.1049/iet-ipr.2018.6366

CrossRef Google Scholar

[2]

Omisore O M, Han S P, Xiong J, et al. A review on flexible robotic systems for minimally invasive surgery[J]. IEEE Trans Syst Man Cybern Syst, 2022, 52(1): 631−644.

DOI: 10.1109/TSMC.2020.3026174

CrossRef Google Scholar

[3]

马龙, 马腾宇, 刘日升. 低光照图像增强算法综述[J]. 中国图象图形学报, 2022, 27(5): 1392−1409.

DOI: 10.11834/jig.210852

Ma L, Ma T Y, Liu R S. The review of low-light image enhancement[J]. J Image Graphics, 2022, 27(5): 1392−1409.

DOI: 10.11834/jig.210852

CrossRef Google Scholar

[4]

Horiuchi Y, Hirasawa T, Ishizuka N, et al. Diagnostic performance in gastric cancer is higher using endocytoscopy with narrow-band imaging than using magnifying endoscopy with narrow-band imaging[J]. Gastric Cancer, 2021, 24: 417−427.

DOI: 10.1007/s10120-020-01125-w

CrossRef Google Scholar

[5]

Okuhata H, Nakamura H, Hara S, et al. Application of the real-time Retinex image enhancement for endoscopic images[C]//Proceedings of the 2013 35th Annual International Conference of the IEEE Engineering in Medicine and Biology Society, Osaka, Japan, 2013: 3407–3410. https://doi.org/10.1109/EMBC.2013.6610273.

Google Scholar

[6]

Xia W Y, Chen E C S, Peters T. Endoscopic image enhancement with noise suppression[J]. Healthcare Technol Lett, 2018, 5(5): 154−157.

DOI: 10.1049/htl.2018.5067

CrossRef Google Scholar

[7]

Cho W H, Hong K S. Extending dynamic range of two color images under different exposures[C]//Proceedings of the 17th International Conference on Pattern Recognition, Cambridge, UK, 2004: 853–856. https://doi.org/10.1109/ICPR.2004.1333906.

Google Scholar

[8]

Sdiri B, Kaaniche M, Cheikh F A, et al. Efficient enhancement of stereo endoscopic images based on joint wavelet decomposition and binocular combination[J]. IEEE Trans Med Imaging, 2019, 38(1): 33−45.

DOI: 10.1109/TMI.2018.2853808

CrossRef Google Scholar

[9]

Cao G, Huang L H, Tian H W, et al. Contrast enhancement of brightness-distorted images by improved adaptive gamma correction[J]. Comput Electr Eng, 2018, 66: 569−582.

DOI: 10.1016/j.compeleceng.2017.09.012

CrossRef Google Scholar

[10]

刘光辉, 杨琦, 孟月波, 等. 一种并行混合注意力的渐进融合图像增强方法[J]. 光电工程, 2023, 50(4): 220231.

DOI: 10.12086/oee.2023.220231

Liu G H, Yang Q, Yuan Y B, et al. A progressive fusion image enhancement method with parallel hybrid attention[J]. Opto-Electron Eng, 2023, 50(4): 220231.

DOI: 10.12086/oee.2023.220231

CrossRef Google Scholar

[11]

Fan X Y, Sun Z Q, Tian E G, et al. Medical image contrast enhancement based on improved sparrow search algorithm[J]. Int J Imaging Syst Technol, 2023, 33(1): 389−402.

DOI: 10.1002/ima.22794

CrossRef Google Scholar

[12]

An Z H, Xu C, Qian K, et al. EIEN: endoscopic image enhancement network based on retinex theory[J]. Sensors, 2022, 22(14): 5464.

DOI: 10.3390/s22145464

CrossRef Google Scholar

[13]

徐胜军, 杨华, 李明海, 等. 基于双频域特征聚合的低照度图像增强[J]. 光电工程, 2023, 50(12): 230225.

DOI: 10.12086/oee.2023.230225

Xu S J, Yang H, Li M H, et al. Low-light image enhancement based on dual-frequency domain feature aggregation[J]. Opto-Electron Eng, 2023, 50(12): 230225.

DOI: 10.12086/oee.2023.230225

CrossRef Google Scholar

[14]

姜鸿鹏, 章科建, 袁波, 等. 一种血管内窥镜图像增强算法[J]. 光电工程, 2019, 46(1): 180167.

DOI: 10.12086/oee.2019.180167

Jiang H P, Zhang K J, Yuan B, et al. A vascular enhancement algorithm for endoscope image[J]. Opto-Electron Eng, 2019, 46(1): 180167.

DOI: 10.12086/oee.2019.180167

CrossRef Google Scholar

[15]

Hessel C, Morel J M. An extended exposure fusion and its application to single image contrast enhancement[C]// Proceedings of 2020 IEEE Winter Conference on Applications of Computer Vision, Snowmass, USA, 2020: 137–146. https://doi.org/10.1109/WACV45572.2020.9093643.

Google Scholar

[16]

Ao J, Ma C B. Adaptive stretching method for underwater image color correction[J]. Int J Pattern Recognit Artif Intell, 2018, 32(2): 1854001.

DOI: 10.1142/S0218001418540010

CrossRef Google Scholar

[17]

Zhu Y Z, Xu C, Feng B, et al. Research on endoscopic image enhancement algorithm based on contrast fusion[C]// Proceedings of the 2021 IEEE 6th International Conference on Signal and Image Processing, Nanjing, China, 2021: 210–215. https://doi.org/10.1109/ICSIP52628.2021.9689033.

Google Scholar

[18]

Borgli H, Thambawita V, Smedsrud P H, et al. HyperKvasir, a comprehensive multi-class image and video dataset for gastrointestinal endoscopy[J]. Sci Data, 2020, 7(1): 283.

DOI: 10.1038/s41597-020-00622-y

CrossRef Google Scholar

[19]

Wei C, Wang W J, Yang W H, et al. Deep retinex decomposition for low-light enhancement[C]//Proceedings of British Machine Vision Conference 2018, Newcastle, UK, 2018: 155.

Google Scholar

[20]

Guo C L, Li C Y, Guo J C, et al. Zero-reference deep curve estimation for low-light image enhancement[C]//Proceedings of 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition, Seattle, USA, 2020: 1777–1786. https://doi.org/10.1109/CVPR42600.2020.00185.

Google Scholar

[21]

Wang L F, Wu B B, Wang X, et al. Endoscopic image luminance enhancement based on the inverse square law for illuminance and retinex[J]. Int J Med Robot, 2022, 18(4): e2396.

DOI: 10.1002/rcs.2396

CrossRef Google Scholar

[22]

Mohapatra S, Kumar Pati G, Mishra M, et al. Gastrointestinal abnormality detection and classification using empirical wavelet transform and deep convolutional neural network from endoscopic images[J]. Ain Shams Eng J, 2023, 14(4): 101942.

DOI: 10.1016/j.asej.2022.101942

CrossRef Google Scholar

Related Articles
Show full outline

Catalog

    He Gengsheng

    1. On this Site
    2. On Google Scholar
    3. On PubMed
    A multilayer linear fusion algorithm for endoscopic image enhancement
    • Figure  1

      Flowchart of the multilayer fusion algorithm

    • Figure  2

      (a) Origin; (b) Layer1 luminance enhancement algorithm; (c) Layer 2 CLAHE algorithm; (d) Layer 3 linear fusion algorithm

    • Figure  3

      Comparison of different algorithms for three sets of images (a-c) of Pylorus

    • Figure  4

      Comparison of different algorithms for three sets of images (a-c) of Retroflex-stomach

    • Figure  5

      Comparison of different algorithms for three sets of images (a-c) of Z-line

    • Figure  1
    • Figure  2
    • Figure  3
    • Figure  4
    • Figure  5
    A multilayer linear fusion algorithm for endoscopic image enhancement
    • 1st layer 2nd layer 3rd layer No. of images
      Upper GI Anatomical landmarks Pylorus 999
      Retroflex-stomach 764
      Z-line 932
      Pathological findings Barrett's 41
      Barrett's Short Segments 53
      Esophagitis Grage-A 403
      Esophagitis Grage-B-D 260
    • 图像 原始图像 CLAHE GC AGCWD Retinex-Net Zero-DCE ENDOIMLE 本文算法
      Pylorus 3.776 3.371 3.762 3.586 3.626 3.893 3.705 3.543
      Retroflex 3.538 3.385 3.802 3.569 3.789 4.265 3.628 3.373
      Z-line 3.636 3.069 3.273 3.471 3.821 4.523 3.675 3.112
    • 图像CLAHEGCAGCWDRetinex-NetZero-DCEENDOIMLE本文算法
      Pylorus17.188.2313.4517.6116.3714.3419.43
      Retroflex12.999.1513.9118.5117.6115.4118.96
      Z-line13.779.7714.9818.7718.0315.4519.56
    • 图像CLAHEGCAGCWDRetinex-NetZero-DCEENDOIMLE本文算法
      Pylorus0.9380.6550.8960.7110.7870.8810.955
      Retroflex0.8930.6530.8940.7780.7370.8840.936
      Z-line0.9130.7510.9010.7930.7640.8710.946
    • GC (未线性拉伸)自适应GC改进CLAHE本文算法
      PSNR8.5610.2315.6819.55
      SSIM0.5790.7730.8970.948
      NIQE3.7853.3683.1863.246
    • 算法CLAHEGCAGCWDRetinex-NetZero-DCEENDOIMLE本文算法
      时间/s40.3512.186.213.450.015.464.56
    • Table  1

      The contents of the HyperKvasir partial dataset

        1/6
    • Table  2

      NIQE

        2/6
    • Table  3

      PSNR

        3/6
    • Table  4

      SSIM

        4/6
    • Table  5

      Ablation experiment

        5/6
    • Table  6

      Run time

        6/6