上海交通大学学报(自然版), 2021, 55(6): 757-763 doi: 10.16183/j.cnki.jsjtu.2020.068

基于亮度突变性与密度特征检测的厚板T形接头焊缝轮廓识别

何银水,, 李岱泽, 赵梓宇, 钱韦旭

南昌大学 资源环境与化工学院, 南昌 330031

Weld Seam Profile Identification with T-Joints Based on Intensity Mutation and Density Feature Detection for Thick Plate Welding Process

HE Yinshui,, LI Daize, ZHAO Ziyu, QIAN Weixu

School of Resources Environmental and Chemical Engineering, Nanchang University, Nanchang 330031, China

责任编辑: 陈晓燕

收稿日期: 2020-03-10  

基金资助: 国家自然科学基金(62066029)
国家自然科学基金(51665037)
南昌航空大学无损检测技术教育部重点实验室开放基金(EW201980090)

Received: 2020-03-10  

作者简介 About authors

何银水(1979-),男,安徽省安庆市人,讲师,主要从事机器人焊缝图像识别及其控制方面的研究工作.电话(Tel.):13767050849;E-mail:heyingshui117@163.com

摘要

基于激光视觉传感的厚板电弧焊接中,为实现自动化、智能化,焊接需要有效的焊缝轮廓提取方法.针对厚板T形接头熔化极活性气体保护焊中焊缝图像强烈的电弧干扰背景,提出了一种基于亮度突变性与密度特征检测的焊缝轮廓识别方法.首先,采用改进的Canny算法凸显焊缝轮廓边缘并抑制电弧干扰背景.然后,利用激光条纹在局部区域内存在亮度突变的特性,提出一种亮度突变检测方法对干扰背景进一步抑制.最后,在Otsu阈值分割处理的基础上,提出了基于带宽与密度特征逐列扫描去除干扰的算法,并将处理后的数据进行最近邻聚类,利用数据类的空间尺度特征识别焊缝轮廓.结果表明:提出的算法在处理电弧区域占图像面积近20%的强干扰时,能有效地提取不同填充阶段焊缝轮廓95%以上的整体信息,可为不同接头机器人自动化、智能化焊接的进一步实施提供参考.

关键词: 亮度突变性; 密度特征检测; 改进Canny算法; 焊缝轮廓识别; 视觉传感; T形接头

Abstract

There is a need for the effective weld seam profile extraction method to realize the automatic and intelligent welding process with thick steel plates based on laser vision sensing. In this paper, a method was proposed to identify the variable weld seam profiles from the strong arc background based on intensity mutation and density feature detection for the thick plate welding process with T-joints. First, an improved Canny algorithm was used to magnify the weld seam profile and restrain interference. Next, an intensity mutation detection method was proposed to further strengthen the weld seam profile because there exists intensity mutation in the local region surrounding the weld seam profile. Finally, an algorithm based on the band-width and density feature scanning method was proposed to further eliminate the interference data after the strengthened image was binarized with the Otsu algorithm. The weld seam profile was identified as clusters with their spatial scale features after the nearest neighbor clustering was dealt with. The results show that this method can identify over 95% of the weld seam profiles from the arc interference background whose area is about 20% of the image. It provides valuable reference for promoting the automatic and intelligent welding process with different joints.

Keywords: intensity mutation; density feature detection; improved Canny algorithm; weld seam profile identification; visual sensing; T-joints

PDF (2687KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

何银水, 李岱泽, 赵梓宇, 钱韦旭. 基于亮度突变性与密度特征检测的厚板T形接头焊缝轮廓识别[J]. 上海交通大学学报(自然版), 2021, 55(6): 757-763 doi:10.16183/j.cnki.jsjtu.2020.068

HE Yinshui, LI Daize, ZHAO Ziyu, QIAN Weixu. Weld Seam Profile Identification with T-Joints Based on Intensity Mutation and Density Feature Detection for Thick Plate Welding Process[J]. Journal of shanghai Jiaotong University, 2021, 55(6): 757-763 doi:10.16183/j.cnki.jsjtu.2020.068

随着我国海洋工程项目的不断深入,与之相关的大型设备厚板钢构件的制造需求日益俱增.自动化、智能化焊接技术是满足这一需求的重要方法.当前传感技术、信息处理技术和机器人控制与应用技术的快速发展为实现焊接自动化、智能化提供了可能.由于厚板焊接需要完成多层多道过程,基于视觉传感的焊缝信息检测被认为是实现这一过程的有效手段[1].基于结构光的视觉传感在待焊区域投射一条激光光带,获得焊枪前面连接段的焊缝轮廓图像[2],最终根据提取的轮廓特征信息实现焊枪的定位与跟踪.因此,焊缝轮廓的有效提取是实现这一过程的前提.

关于焊缝轮廓信息的获取已有诸多研究,如:文献[3,4]中根据激光条纹亮度分布特征,提出先获得感兴趣区域,然后在该区域内采用列方向的亮度多峰值检测算法提取焊缝轮廓.文献[5]中在改进的Hough算法基础上,对激光条纹提取算法进行了定量评价,获得了最优算法.文献[6]中提出了一种针对不同焊接环境的焊缝轮廓识别及其特征提取方法.近年来,视觉注意机制是机器视觉中一种新兴的技术[7,8],也被诸多研究者应用于焊缝信息提取,如文献[9]中提出了基于视觉注意模型的焊缝轮廓检测算法,尝试了从电弧背景中检测焊缝轮廓.另外,应用于图像分类的卷积神经网络技术近年来也被相关研究人员应用于焊缝识别[10].当前,焊缝提取算法多涉及传统的滤波、边缘检测、腐蚀和膨胀等处理[11,12,13],试验显示将这些传统方法应用于文中强电弧干扰背景(电弧区域占图像面积近20%)的焊缝图像时,难以取得好的提取效果.目前为止,还没有一种算法可以有效地从不同干扰背景中提取完整的焊缝轮廓信息.已有的焊缝轮廓提取算法较好地实现了对焊渣、飞溅、电弧光强度较小等干扰的去除,但对于厚板焊接激光条纹空间跨度大、焊缝图像含有强电弧区域产生的干扰的去除效果较差,焊缝轮廓信息丢失严重,以至降低后续焊缝跟踪精度.

厚板T形接头是海洋工程装备制造中典型的接头形式之一.本文针对厚板T形接头熔化极活性气体保护焊中采集的焊缝图像中面积比近20%的强电弧干扰与焊缝轮廓形貌多变的特点,采用基于改进的Canny算法凸显焊缝轮廓边缘并抑制电弧干扰.利用激光条纹在局部区域内存在亮度突变特性,提出了一种亮度突变性检测方法进一步抑制背景干扰,并根据焊缝轮廓与光源干扰的空间位置关系,提出了基于密度特征的去干扰的检测方法.基于最近邻聚类方法,将类的空间尺度特征应用于焊缝轮廓提取.多种焊缝轮廓的识别试验与对比验证了本文算法的有效性.本文算法在提取焊缝轮廓完整性及抗干扰能力方面为其他研究提供了参考.

1 改进Canny算法的图像预处理

本文焊缝轮廓提取过程主要通过4个核心算法步骤,如图1所示.(a)为具体步骤,(b)为4个算法步骤名称.焊接系统与图像采集见文献[9].

图1

图1   算法流程图

Fig.1   Flowchart of algorithm


1.1 Canny算法的基础

采集的焊缝图像显示,激光条纹局部区域内灰度值对比较大(见图2(a)),Canny算法可以有效实施检查.在实际应用中,常利用二维高斯滤波函数构造滤波器对图像进行高斯平滑处理,产生一组归一化的离散高斯核:

G(x,y)=12πσ2e-x2+y22σ2

式中:x,y为输入图像像素点的空间坐标值;σ为标准差.

图2

图2   基于改进Canny算法的焊缝图像预处理

Fig.2   Image reprocessing using improved Canny algorithm


Canny算法最优解在一阶阶跃型边缘方面表现为类似高斯函数的一阶导数,又由于高斯函数具有可分解性和圆对称性,因此可用一阶偏导数的有限差分来计算梯度的幅值和方向:

A(x,y)=gx2+gy2α(x,y)=arctan(gy/gx)

式中: gx=fsx, gy=fsy, fs为输入的图像f在 (x,y)位置的像素值.

在求得梯度幅值后,需寻找局部梯度值最大的像素点,即图像梯度幅值矩阵中的最大元素值.但不能说明该点就是边缘,要将非局部梯度最大值的像素点置0,这样才能去除部分非边缘点.

以上是Canny算法处理图像的基本步骤,应用于T形接头焊缝轮廓识别时,由于干扰的复杂性,传统的Canny算法在滤波处理时对像素与像素之间的信息未做考虑,使得滤波过程弱化图像边缘,导致边缘的信息丢失,图像常出现焊缝轮廓信息丢失、焊缝边缘断线以及干扰点难以去除等情况.

1.2 改进Canny算法

为解决上述问题,本文在Canny算法高斯滤波核基础上加入像素阈值对图像中边缘点的影响因子,利用2个像素之间的空间坐标关系生成高斯权重因子,即离目标像素越近的点对最终结果的影响越大,反之则越小,其表达式如下:

h(x)=kd-1(x)-+-+f(γ)c(γ,x)dxdy

式中:γ为输入图像f中各像素点的空间位置;f(γ)为输入的图像f在(x,y)位置的像素值;c为像素点在空间上的高斯权重; kdx表示结果的归一化,区分归一化运算在不同计算式中的应用,下文中 τ同理.同时,基于像素相似度特性,引入:

h(x)=kτ-1x-+-+fγpfγ,fxdxdy

式中:p为像素相似程度的权重.综合式(3)、(4)可得到基于空间距离与像素点相似程度的双边滤波式:

h(x)=k-1(x)-+-+f(γ)c(γ,x)p(f(γ),f(x))dxdy

式中:k(x)为结果的归一化.具体应用到本文的图像处理为

ω(i,j,k,l)=exp(-(i-k)2+(i-l)22σ2-I(i-j)2+(k-l)222σ2)

式中:像素点 i,jk,l的幅值分别为 Ii-jI(k-l).

由于改进的Canny算法考虑了像素在空间距离的关系、像素阈值的相关关系和像素灰度之间的相似程度,所以在实现滤波的同时还能够有效地凸显焊缝轮廓[14].采用该改进的Canny算法对T形接头焊缝图像进行预处理(见图2(b)),结果显示,经改进的Canny算法处理后,电弧区域受到了极大抑制.

2 亮度突变性检测

经改进的Canny算法处理后,焊缝轮廓亮度相对其上下局部区域存在突变性.为进一步消除电弧干扰,在列方向基于亮度变化设计检测方法如下:

F(i,j)=F(i,j)DIjt33DIjtmax(33DIjt),DIjt>DIjF(i,j)DIjtDIj33DIjtmax(33DIjt),其他

式中: [•]为取整运算;F(i,j)为图像在坐标(i,j)处的灰度值,j表示图像的列坐标; max为取最大值;

DIji=k=1412k(Sji+k-Sji-k)4
Sji=F̅i-2:i+2,j
DIj=1njtDIjt

式中: F̅i-2:i+2,j为j列所覆盖区域的平均灰度值; DIjt为相邻覆盖区域平均灰度值的变化率; nj为每列所覆盖区域的循环次数.对图2(b)进行处理,结果如图3所示.

图3

图3   图2(b)的亮度突变性检测结果

Fig.3   Intensity mutation detection results of Fig.2(b)


3 基于带宽密度特征检测的去噪

为了简化图像数据,对图3采用Otsu算法进行阈值分割(图4).图中显示大量干扰数据仍然存在.为了有效界定焊缝轮廓与干扰数据,本文根据数据点的空间分布特性,将数据点(灰度值为255)划分为高密度噪声、离散噪声和细微噪声3类,且经大量试验测试,得出如下3类检测方法.

图4

图4   二值化图像

Fig.4   Binary image


3.1 高密度检测

在纵向扫描带宽为L的图像空间区域内,像素点的灰度值集合 XjL=[xi,j,xi+1,j,,xi+L-1,j]T,其中灰度值为255的像素点数量为Q,如果Q大于临界值 allow1,则该带宽内所有255灰度的像素点为高密度噪声.在扫描过程中抑制高密度噪声点,即令其灰度值为0.扫描过程如图5所示,图中X、Y表示横纵坐标.

XjL=高密度噪声,Q>allow1非高密度噪声,Q<allow1

图5

图5   高密度噪声检测示意图

Fig.5   Diagram of high density noise detection


合理地设置纵向扫描带宽L和临界像素数allow1才能准确地抑制高密度噪声.L设置的基本原则是:在保证焊缝和噪声不会同时出现在扫描带内的前提下,尽可能地设置较大的纵向扫描带宽.allow1是区分高密度噪声与焊缝轮廓数据的关键指标,其设置的基本原则为:在保证焊缝完整性的前提下消除高密度噪声,因此将 allow1设置为焊缝最大纵向扫描带宽.根据上述原则,取L=50,allow1=15.图4处理后的效果如图6所示.

图6

图6   抑制高密度噪声结果

Fig.6   Results of high density noise suppression


3.2 离散度检测

抑制高密度噪声后,图像中仍存在部分低密度的离散噪声点,因其总体呈区域性集中分布,故在扫描时,分区降噪能够更加高效精准.根据离散噪声的空间分布特征可将其定义为,在纵向扫描带宽为L的图像空间区域内,像素点的灰度值集合 XjL=[xi,j,xi+1,j,,xi+L-1,j]T, XjL中灰度值为255的像素点的数量为N,其纵向空间位置记作序列 Y=[y1,j,y2,j,,yN,j]T,计算序列Y的标准差SD,记作纵向离散度,若纵向离散度大于临界像素数 allow2,则该带宽内所有255灰度的像素点为离散噪声(见图7).

y-=1Nr=1Nyr,j
SD=1Nr=1N(yr,j-y-)2
XjL=离散噪声,SD>allow2非离散度噪声,SD<allow2

图7

图7   离散噪声检测示意图

Fig.7   Diagram of discrete noise detection


纵向扫描带宽内灰度值为255的像素点为低密度离散噪声,噪声点的纵向位置即为其所在行序号Y.

纵向扫描带宽L与临界像素数 allow2的设置原则为:在保证纵向扫描带宽L大于所有低密度噪声区域最大带宽的前提下,尽可能地设置较小的纵向扫描带宽;allow2则是为了区分焊缝离散度与低密度噪声离散度,因此可令 allow2等于焊缝的最大纵向离散度.根据上述原则,取L=30,allow2=5,图6处理的结果如图8所示.

图8

图8   抑制离散噪声结果

Fig.8   Results of discrete noise suppression


3.3 细微检测

分析图8可知,仍有少量细微噪声点存在,根据其空间分布特征可将其定义为,纵向扫描带宽为L的图像空间区域内,所有像素点的灰度值集合 XjL=[xi,j,xi+1,j,,xi+L-1,j]T,其中灰度值为255的像素点数量为Q,若Q小于临界像素数allow3,则该带宽内所有255灰度的像素点为细微噪声,过程如图9所示.

XjL=细微噪声,Q>allow3非细微度噪声,Q<allow3

图9

图9   细微噪声示意图

Fig.9   Diagram of slight noise


由于焊缝的薄弱区段与聚集性细微噪声的空间分布特征相似度较高,故在降噪时为了保证焊缝的完整性,不抑制聚集性细微噪声.设置纵向扫描带宽L与临界像素数 allow3时遵循以下原则:allow3取值为焊缝最薄弱区段上灰度值为255的像素数量;扫描细微噪声时,不计入扫描带的首末两个像素,避免在扫描过程中会错误地将焊缝上下边界视作细微噪声.

根据上述原则,令L=allow3+2.取L=5,allow3=3,得到抑制细微噪声后的图像如图10所示.

图10

图10   抑制细微噪声结果

Fig.10   Results of fine noise suppression


4 基于最近邻聚类的焊缝轮廓提取

最近邻聚类属于无监督聚类,可以获取任意类别数目的聚类结果,但需要设置距离阈值.本文将待聚类的数据与已完成聚类的数据之间的最近距离的作为聚类依据.经试验测试,距离阈值设置为30~60时,均利于干扰与激光条纹分离,文中聚类中距离阈值设置为40(见图11).

图11

图11   最近邻聚类结果图(圆圈代表每个类)

Fig.11   Nearest neighbor clustering results (circle represents each cluster)


图11显示,属于焊缝轮廓的类的空间尺度(欧式距离)明显大于干扰数据的空间尺度,基于该空间尺度特征,将类的欧式距离阈值设置为20(大于20的均可),用以辨识属于焊缝轮廓的数据(见图12).

图12

图12   提取的焊缝轮廓

Fig.12   Extraction results of weld seam profile


5 试验验证

5.1 验证算法有效性

为了验证本文提出算法的有效性,选用不同焊道、不同干扰状态下的焊缝图像进行焊缝轮廓提取试验(见图13).

图13

图13   不同填充阶段的焊缝轮廓提取试验结果

Fig.13   Extraction results of weld seam profile with images captured in different filling stages


图13表明,本文提出的方法能准确提取厚板T形接头不同填充阶段的焊缝轮廓,显示了该算法的抗干扰能力与稳健性.

5.2 对比验证

为进一步验证算法的有效性,采用文献[14]中算法与本文算法进行焊缝轮廓提取对比(见图14).结果表明,对于电弧区域占图像面积近20%的焊缝图像(目前众多研究采用遮挡电弧区域形式降低其带来的不利影响[2,13]),本文算法能在典型干扰下检测95%以上的焊缝轮廓信息,保留了更多的有用信息,有利于提高后续焊缝跟踪精度.

图14

图14   提取焊缝轮廓效果对比

Fig.14   Comparison of effect after extraction of weld seam profile


6 结论

(1) 针对厚板T形接头焊缝图像中的强弧光干扰背景,提出的改进Canny算法与亮度突变性检测能有效凸显焊缝轮廓,有助于更完整地检测焊缝轮廓信息.

(2) 本文提出的基于亮度突变性和带宽密度特征检测算法具有更强的抗干扰能力,在电弧区域占图像面积近20%的多种焊缝轮廓识别中,提取的焊缝轮廓信息比例超过95%,具有良好的稳健性,可为其它接头形式的机器人自动化、智能化焊接的实施提供参考.

参考文献

XU Y L, FANG G, CHEN S B, et al.

Real-time image processing for vision-based weld seam tracking in robotic GMAW

[J]. The International Journal of Advanced Manufacturing Technology, 2014, 73(9/12):1413-1425.

DOI:10.1007/s00170-014-5925-1      URL     [本文引用: 1]

LIU F Q, WANG Z Y, JI Y.

Precise initial weld position identification of a fillet weld seam using laser vision technology

[J]. The International Journal of Advanced Manufacturing Technology, 2018, 99(5/8):2059-2068.

DOI:10.1007/s00170-018-2574-9      URL     [本文引用: 2]

CHEN H Y, LIU W P, HUANG L Y, et al.

The decoupling visual feature extraction of dynamic three-dimensional V-type seam for gantry welding robot

[J]. The International Journal of Advanced Manufacturing Technology, 2015, 80(9/12):1741-1749.

DOI:10.1007/s00170-015-7158-3      URL     [本文引用: 1]

FAN J F, JING F S, YANG L, et al.

An initial point alignment method of narrow weld using laser vision sensor

[J]. The International Journal of Advanced Manufacturing Technology, 2019, 102(1/4):201-212.

DOI:10.1007/s00170-018-3184-2      URL     [本文引用: 1]

WU Q Q, LEE J P, PARK M H, et al.

A study on the modified Hough algorithm for image processing in weld seam tracking

[J]. Journal of Mechanical Science and Technology, 2015, 29(11):4859-4865.

DOI:10.1007/s12206-015-1033-x      URL     [本文引用: 1]

陈路路, 胡明华, 陈云霞, .

变极性等离子弧穿孔立焊双面图像处理与特征提取

[J]. 上海交通大学学报, 2015, 49(3):361-365, 370.

[本文引用: 1]

CHEN Lulu, HU Minghua, CHEN Yunxia, et al.

Double-side image processing and feature extraction of variable polarity vertical-up plasma arc welding

[J]. Journal of Shanghai Jiao Tong University, 2015, 49(3):361-365, 370.

[本文引用: 1]

SHAO W J, HUANG Y, ZHANG X L, et al.

Double-sided weld seam detection system for aircraft T-joint welds by using vision sensor

[C]// 2016 12th IEEE/ASME International Conference on Mechatronic and Embedded Systems and Applications (MESA) . Piscataway, NJ, USA: IEEE, 2016: 1-6.

[本文引用: 1]

LI N, WANG Z H, XU H, et al.

Weld seam detection based on visual saliency for autonomous welding robots

[C]// 2016 IEEE Workshop on Advanced Robotics and Its Social Impacts (ARSO) . Piscataway, NJ, USA: IEEE, 2016: 284-288.

[本文引用: 1]

HE Y S, XU Y L, CHEN Y X, et al.

Weld seam profile detection and feature point extraction for multi-pass route planning based on visual attention model

[J]. Robotics and Computer-Integrated Manufacturing, 2016, 37:251-261.

DOI:10.1016/j.rcim.2015.04.005      URL     [本文引用: 2]

XIAO R Q, XU Y L, HOU Z, et al.

An adaptive feature extraction algorithm for multiple typical seam tracking based on vision sensor in robotic arc welding

[J]. Sensors and Actuators A: Physical, 2019, 297:111533.

DOI:10.1016/j.sna.2019.111533      URL     [本文引用: 1]

秦涛, 张轲, 邓景煜, .

基于改进最小二乘法的焊缝特征直线提取方法

[J]. 焊接学报, 2012, 33(2):33-36.

[本文引用: 1]

QIN Tao, ZHANG Ke, DENG Jingyu, et al.

Algorithm of extracting feature lines in welding seam image based on improved least-square method

[J]. Transactions of the China Welding Institution, 2012, 33(2):33-36.

[本文引用: 1]

FANG Z J, XU D, TAN M.

A vision-based self-tuning fuzzy controller for fillet weld seam tracking

[J]. IEEE/ASME Transactions on Mechatronics, 2011, 16(3):540-550.

DOI:10.1109/TMECH.2010.2045766      URL     [本文引用: 1]

WANG N F, ZHONG K F, SHI X D, et al.

A robust weld seam recognition method under heavy noise based on structured-light vision

[J]. Robotics and Computer-Integrated Manufacturing, 2020, 61:101821.

DOI:10.1016/j.rcim.2019.101821      URL     [本文引用: 2]

刘端飞, 单宝明.

改进的Canny算法在不锈钢板焊缝识别中的应用

[J]. 电子测量技术, 2019, 42(14):127-130.

[本文引用: 2]

LIU Duanfei, SHAN Baoming.

Application of improved Canny algorithm in seam recognition of stainless steel plate

[J]. Electronic Measurement Technology, 2019, 42(14):127-130.

[本文引用: 2]

/