一种基于局部回归模型的图像超分辨率重建方法
【技术领域】
[0001] 本发明涉及图像超分辨率重建的技术领域,特别是涉及一种基于局部回归模型的 图像超分辨率重建方法。
【背景技术】
[0002] 大部分数字图像应用中都需要高分辨率图像来分析和处理。图像分辨率描述的是 图像细节,所以更高分辨率的图像就具有更多的细节。获得高分辨率图像最直接的方法就 是用具有更好的棱镜和光学处理器的相机,但由于物理原因,这种方法具有局限性有时甚 至不可实现,而且常常需要对无法再次采集的已有图像提高分辨率。因而实用的方法是是 基于信号处理和机器学习的方法做超分辨率图像重建。超分辨率图像重建意图冲破图像获 取时的限制来增强图像的分辨率,并可以提高很多图像处理应用的性能。
[0003] 由于很多不同的高分辨率图像能产生相同的低分辨率图像,因此超分辨率图像重 建问题是一个病态问题,必须依赖一些图像先验才能得到稳健的估计结果。常见的图像先 验是简单的"平滑"先验,如,双立方插值。当一幅图像包含尖锐的不连续区域,如边缘、转角 等,简单的"平滑"先验用于超分辨率重建是就会产生振铃、锯齿、模糊和重影等问题。因此, 更理想的统计图像先验是从自然图像中学习得到的。纵然自然图像是稀疏信号,仅用少量 参数来表示其丰富的特征也是不可能的,基于样本的非参数方法用训练样本低/高分辨率 图像块整体来用于预测高分辨率图像中丢失的高频分量。但这些方法需要大量的训练块, 使其计算的有效性不强。
[0004] 目前很多超分辨率算法利用图像具有大量自相似性的事实,即,局部图像结构会 在不同的图像尺度重复出现,因此,图像超分辨率问题可以用这些样本而不是外部的数据 库来做正则化。Glasner等就提出一种用不同图像尺度的自相似样本块来正则化超分辨率 重建问题的框架。Yang等开发一种利用低分辨率图像建造的图像金字塔提取图像块对进行 字典学习的超分辨率算法。Freedman则利用样本图像块的局部自相似假设和迭代上采样低 分辨率图像扩展了基于样本超分辨率重建框架。
[0005] 目前这类利用局部图像结构自相似性的图像超分辨率重建方法大多需要额外的 训练样本作为重建的先验模型,而训练样本中的局部图像结构与待重建图像的局部图像结 构对重建的质量的影响较大,有一些超分辨率重建方法的模型框架过于复杂,计算复杂度 也过高。
【发明内容】
[0006] 本发明的目的是提供一种基于局部回归模型的图像超分辨率重建方法,学习得到 的字典可以更准确的反映出图像的先验模型,并将该模型应用到超分辨率重建中。
[0007] -种基于局部回归模型的图像超分辨率重建方法,包括如下步骤,
[0008] 步骤1:读入待重建低分辨率图像X〇,放大因子s;
[0009] 步骤2:对X〇高斯低通滤波得到其低频带图像Y〇,对X〇双立方插值近似输出高分辨 率图像的低频带图像Y;
[0010] 步骤3:对Υ划分成互相重叠的大小为a X a的图像块y;
[0011] 步骤4:根据步骤3得到的图像块y的位置(i,j)找到其在Yo中的对应位(ir,jr),其 中心=心'/^+〇. 5」,=[)以+0.5」,得至吁在¥。和χ。中的对应位相似样本块对{y°, x0};
[0012] 步骤5:由一阶局部回归模型计算步骤3得到的图像块y的高分辨率图像块X,公式 如下:
[0013]
[0014] 步骤6:计算步骤3得到的图像块y的非局部自相似块的对应位相似样本块对组 分别执行步骤5,将计算结果加权求和,公式如下:
[0015]
(2):
[0016] 权值^可通过共辄梯度法求解下列公式得到:
[0017]
[0018]
[0019] 步骤7 :对所有高分辨率图像块X叠加平均,得到高分辨率图像X。
[0020] 所述步骤5中映射梯度函数Vf利用对应位图像块对通过机器学习的方法得到字 典,来表示图像的先验模型,方法如下:
[0021 ]步骤501)从输入图像Xo、其低频带图像Yo的对应位置采样得到Q个对应位样本图像 块对 ?;
[0022]步骤502)将xQ与yQ之间的残差作为字典训练中高分辨率样本块向量乃二-少'〇 J.., 字典训练中的低分辨率样本块向量是乃将两组训练样本联合起来同时训练,则 用于字典训练的图像块对)
^*n〇rm(.)为归一化处理,M、N分别 为高、低图像特征块的矢量维数;
[0023]步骤503)目标字典为
高斯随机矩阵初始化字典DER_)XK,其中D h eRMXK,DieRNXK,K为字典中原子的个数,D的每列需作归一化处理;
[0024] 步骤504)迭代直至收敛:
[0025] a)固定D,用线性规划方法更新Λ ;
[0026]
(4)[0027] b)固定Λ,用Lasso算法更新D:
[0028] )
[0029] 步骤505)得到高低字典对{Dh,Di};
[0030] 步骤506)对于待重建图像块y,由下式求出其对应位样本块对{yQ,XQ}在低分辨率 字典Di下的稀疏解向量
[0031] (6)
[0032] 其中,F是特征提取算子,是将下列一维滤波器组应用到图像上得到的响应的综 合;一维滤波器组函数为:
[0033] fi=[-l,0,l],f2 = fiT,f3=[-l,2,-l],f4 = f3T (7)
[0034 ]步骤507)对于待重建图像块y,其对应位样本块对{y 〇,xo}的映射梯度函数Vf为:
[0035] Vf (yo) =Dhd* (8)。
[0036] 所述方法的步骤6中图像块y的非局部自相似块的搜索方法如下:
[0037] 步骤601)以(ir,jr)为中心,在Yo上一个13*13大小的窗内对所有块计算其与待重 建块间的欧式距_
[0038] 步骤602)如有dP <〖,块_)^被选为y的非局部相似块,其中t是预设的阈值,或者 是与y最相似的前J个块。
[0039] 本发明在利用局部一阶回归模型,充分利用局部图像结构会在不同的图像尺度重 复出现的事实,无需使用外部图像模型,直接对输入图像块用机器学习的方法学习得到先 验模型,用于重建时该先验模型较外部图像模型更准确。在应用局部回归模型重建时,对图 像中非局部自相似块分别重建,通过加权综合得到最终的重建结果。该发明的重建主客观 质量上$父现有算法都有提尚。
【附图说明】
[0040] 图1为基于局部回归模型的图像超分辨率重建方法实施例的整体流程图;
[0041] 图2为非局部自相似图像块的局部回归模型示意图。
【具体实施方式】
[0042]为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对 本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并 不用于限定本发明。
[0043]如图1所示,本发明的一种基于局部回归模型的图像超分辨率重建方法,该方法具 体实施步骤如下:
[0044]步骤1:读入待重建低分辨率图像X〇,放大因子s;
[0045]步骤2:对Xo高斯低通滤波得到其低频带图像Yo
,对Xo双立方插值近似输出高分辨 率图像的低频带图像Y;
[0046] 步骤3:对Y划分成互相重叠的大小为a X a的图像块y。
[0047] 步骤4:根据步骤3得到的图像块y的位置(i,j)找到其在Yo中的对应位(ir,jr) (4 =L"^+〇·5」,Λ =L//^ + 〇.5」),得到其在Υο和Χο中的对应位相似样本块对{yo,xo}。
[0048] 步骤5:由一阶局部回归模型计算步骤3得到的图像块y的高分辨率图像块X,公式 如下:
[0049]
[0050] 步骤6:搜索步骤3得到的图像块y的非局部自相似块,以(ir,jr)为中心,在Yo上一 个足够大的窗内对所有块计#
]有4 < t,块少〗被选为y的非局部相似 块,其中t是预设的阈值,或者是与y最相似的前J个块。对非局部自相似块的对应位相似 样本块对组X# 分别进行步骤5,将计算结果加权求和,公式如下:
[0051] (2)
[0052] 权值^可通过共辄梯度法求解下列公式得到:
[0053]
[0054]
[0055] 步骤7:对所有求出的高分辨率图像块X叠加平均得到高分辨率图像X。
[0056]其中,所述方法的步骤5中映射梯度函数Vf利用对应位图像块对通过机器学习的 方法得到字典,来表示图像的先验模型。方法如下:
[0057] 1)从输入图像XQ、其低频带图像YQ的对应位置采样得到的对应位样本图像块对 {y。}二
[0058] 2)将x〇与y〇之间的残差作为字典训练中1?分辨率样本块向量A = ? 字典训练中的低分辨率样本块向量是乃=将两组训练样本联合起来同时训练,则 ,
用于字典训练的图像块对^ 其中norm(.)为归一化处理,M、N分别 ., 为高、低图像特征块的矢量维数;
[0059] 3)目标字典为
用高斯随机矩阵初始化字典DeR(M+N)XK,其中D heRMXK, DieRWKj为字典中原子的个数,D的每列需作归一化处理;
[00
60] 4)迭代直至收敛:
[0061] a)固定D,用线性规划方法更新Λ
⑷[0063] b)固定 Λ,用Lasso(LEE Η,BATTLE A,RAINA R, et al .Efficient sparse coding algorithms[C]//.NIPS 2007:Advances in Neural Information Processing Systems, ??.801-808.)算法更新0
[0062]
[0064] ^5)
[0065] 5)得到高低字典对{Dh,Di}
[0066] 6)对于待重建图像块y,可以由下式求出其对应位样本块对{yQ,XQ}在低分辨率字 典Di下的稀疏解向量
[0067] (:6)
[0068] 其中,F是特征提取算子,是将下列一维滤波器组应用到图像上得到的响应的综 合。一维滤波器组函数为:
[0069] 负=[-1,0,1]32 =负'&=[-1,2,-1],心=67 (7)7)对于待重建图像块 y,其对 应位样本块对{y〇,XQ}的映射梯度函数Vf为:
[0070] Vf(yo)=Dha* (8)
[0071] 本发明方案所公开的技术手段不仅限于上述实施方式所公开的技术手段,还包括 由以上技术特征任意组合所组成的技术方案。
【主权项】
1. 一种基于局部回归模型的图像超分辨率重建方法,其特征在于,包括如下步骤, 步骤1:读入待重建低分辨率图像Xo,放大因子S; 步骤2:对Xo高斯低通滤波得到其低频带图像Yo,对Xo双立方插值近似输出高分辨率图 像的低频带图像Υ; 步骤3:对Y划分成互相重叠的大小为a X a的图像块y; 步骤4:根据步骤3得到的图像块y的位置(i,j)找到其在Yo中的对应位(ir,jr),其中得至i」y在Yo和Xo中的对应位相似样本块对{yo,Xo}; 步骤5:由一阶局部回归模型计算步骤3得到的图像块y的高分辨率图像块X,公式如下:步骤6:计算步骤3得到的图像块y的非局部自相似块的对应位相似样本块对组分别执行步骤5,将计算结果加权求和,公式如下:权值^可通过共辄梯度法求解下列公式得到:步骤7:对所有像素重叠的高分辨率图像块X叠加平均,得到高分辨率图像X。2. 根据权利要求1所述的基于局部回归模型的图像超分辨率重建方法,其特征在于,所 述步骤5中映射梯度函数Y/利用对应位图像块对通过机器学习的方法得到字典,来表示 图像的先验模型,方法如下: 步骤501)从输入图像Xo、其低频带图像Yo的对应位置采样得到Q个对应位样本图像块对步骤502)将Xo与yQ之间的残差作为字典训练中高分辨率样本块向量字典训练中的低分辨率样本块向量是将两组训练样本联合起来同时训练, 则用于字典训练的图像块对为其中norm(.)为归一化处理,M、N分 别为高、低图像特征块的矢量维数;步骤503)目标字典为 用高斯随机矩阵初始化字典DeR(M+N)XK,其中Dh£RM ) XK,meRNXK,K为字典中原子的个数,D的每列需作归一化处理; 步骤504)迭代直至收敛: a) 固定D,用线性规划方法更新Λ ;b) 固定Λ,用Lasso算法更新D:步骤505)得到高低字典对{Dh,Di}; 步骤506)对于待重建图像块y,由下式求出其对应位样本块对{yo, XQ}在低分辨率字典 Di下的稀疏解向量其中,F是特征提取算子,是将下列一维滤波器组应用到图像上得到的响应的综合;一 维滤波器组函数为: fi=[-l,0,l],f2 = fiT,f3=[-l,2,-l],f4=f3T (7) 步骤507)对于待重建图像块y,其对应位样本块对{yo,XQ}的映射梯度函数▽/为:3.根据权利要求1所述的基于局部回归模型的图像超分辨率重建方法,其特征在于,所 述方法的步骤6中图像块y的非局部自相似块的搜索方法如下: 步骤601)以(ir,jr)为中心,在Yo上一个13*13大小的窗内对所有块计算其与待重建块 间的欧式距离步骤602)如有dP<t,块被选为y的非局部相似块,其中t是预设的阈值,或者凡#是与 y最相似的前J个块。
【专利摘要】本发明公开一种基于局部回归模型的图像超分辨率重建方法,首先,对输入低分辨率图像,高斯低通滤波得到其低频带图像,双立方插值得到输出高分辨率图像的近似低频带图像。其次,重建时对高分辨率图像的低频带图像中每个图像块应用一阶回归模型,回归模型中高/低图像间的映射函数可对输入图像通过机器学习的方法得到,即利用输入低分辨率图像及其低频带图像对应位置采样得到对应位样本图像块对进行字典训练。最后,重建图像块的非局部自相似块分别应用一阶回归模型,加权综合得到重建的高分辨率图像块。本发明所提出方法无需利用外部图像模型,而是利用输入图像自身学习得到先验模型,依此模型重建出的高分辨图像取得了较好的主客观重建效果。
【IPC分类】G06T3/40
【公开号】CN105488759
【申请号】CN201510902909
【发明人】李欣, 崔子冠, 干宗良, 唐贵进, 朱秀昌
【申请人】南京邮电大学
【公开日】2016年4月13日
【申请日】2015年12月9日...