Welding Seam Tracking of Locomotive Steel Structure Welding Robot based on Visual Features
- Vol. 54, Issue 9, Pages: 69-76(2024)
Published: 25 September 2024
DOI: 10.7512/j.issn.1001-2303.2024.09.09
Quote
PDF
Scan QR Code
Published: 25 September 2024
Scan QR Code
Quote
In the process of intelligent welding of locomotive steel structure, affected by heat input, material deformation and other factors, the actual position and shape of the weld will change. When tracking the weld, the current visual frame difference method is easy to ignore the position information and the position deviation of the weld trajectory, resulting in large tracking error. In this regard, a seam tracking method for locomotive steel structure welding robot based on visual features is proposed. Based on the "checkerboard&Stripe" mixed image, the stereo vision position of the locomotive steel structure welding robot is calibrated, and the centerline feature of the laser stripe of the welding robot is captured; The Roberts operator is used to extract the weld edge information, and the Hough transform is introduced to determine the weld centerline to realize the weld identification. The weld coordinates are transformed and mapped to the basic coordinate system of the locomotive steel structure welding robot, and the weld trajectory is constructed in three-dimensional space; Based on the current position information of the welding torch and the calculation of the position deviation of the weld trajectory, the weld trajectory data is corrected in real time by cubic uniform rational B-spline, and the real-time tracking of the weld seam of the locomotive steel structure welding robot is realized. The experimental results show that the proposed method can effectively improve the seam tracking accuracy of the locomotive steel structure welding robot.
visual features;
locomotive steel structure;
welding robots;
weld seam tracking
科技的飞速发展以及工业自动化的深入推进,焊接技术在现代工业中扮演着越来越重要的角色。机车钢结构制造领域对焊接质量的要求尤为严格,因为焊接质量直接关系到机车的安全性和使用寿命,确保焊接的精确度和稳定性对于机车的正常运行至关重要。焊接跟踪技术作为焊接自动化十分关键的一环,其研究和应用对于提升焊接质量和效率至关重要。传统的焊接跟踪方法主要依赖人工操作或者简单的机械装置,存在精度低和适应性差等问题。随着计算机视觉和机器视觉等技术的快速地发展,智能焊接跟踪[
最近几年,国内外相关研究者针对机车钢结构焊接机器人焊缝跟踪方面[
针对以上方法存在的问题,本文提出一种基于视觉特征的机车钢结构焊接机器人焊缝跟踪方法,标定焊接机器人立体视觉系统,捕获视觉特征,利用Roberts算子提取焊缝边缘信息,精确跟踪焊缝位置,实时调整焊接路径,从而提高机车钢结构焊接机器人焊缝跟踪精度。
为了实现机车钢结构焊接机器人焊缝跟踪,首先,标定机车钢结构焊接机器人立体视觉系统,将物理空间位置转换到数字空间中,使得抽象的焊缝跟踪问题转化为数学函数求解问题;然后,通过Roberts算子计算,获取图像梯度值,得到焊缝图像边缘信息,识别出焊缝位置;最后,利用激光传感器捕获当前焊缝的特征点数据,利用卡尔曼滤波算法剔除噪声点,更新轨迹堆栈,获取位置偏差进行跟踪轨迹校正,实现焊接机器人焊缝跟踪。
为了有效实现机车钢结构焊接机器人焊缝跟踪,以“棋盘格&激光条纹”混合图像作为基础,展开机车钢结构焊接机器人立体视觉系统标定。CCD摄像机采集图像实际上是在实现一个被测景物在真实三维空间到二维空间的转换,在多数应用场景中,为了简化计算和提高处理效率,将摄像机的成像模型近似为小孔成像模型,如
图1 小孔成像模型
Fig.1 Small hole imaging model
在摄像机所建立的坐标系中,设定景物点C的具体坐标为
(1) |
式中
摄像机内部的参数模型主要用于阐述景物点与图像点之间的对应关系。具体而言,成像平面上的点
(2) |
式中
摄像机外参数模型,实际上是对景物在摄像机坐标系中的位置与姿态的详细描述,设定景物点
(3) |
式中
图2 样本图像
Fig.2 Sample image
根据上述采集图像,利用直接标定法展开标定处理[
(1)对焊缝样本图像进行灰度化处理,将其转换为灰度图像,选择一个阈值,用于区分图像中的前景和背景。大于这个阈值的像素将被设置为白色(或灰度极大值),小于这个阈值的像素将被设置为黑色(或灰度极小值)。根据确定的阈值,将图像中的每个像素与阈值进行比较,并进行二值化处理,得到二值化图像如
图3 二值化图像
Fig.3 Binary image
(2)通过Roberts算子对焊缝边缘信息展开识别[
(4) |
在数据处理过程中,首先对卷积操作得到的数值取绝对值,将这些绝对值展开累加,最后将其视为梯度的近似值,计算式如下:
(5) |
式中
通过Roberts算子计算后,可以获取图像中随机一点的梯度值,梯度发生变化的像素点即为图像的边缘点,因为图像中的目标区域只占图像中很少的一小部分,而边缘点分布在目标区域的周围,为了减少计算量,可以通过提取图像中包含目标区域的感兴趣的区域的大致范围,在此区域内对目标进行边界提取。感兴趣的区域设定如下:
首先计算图像中每个像素点在邻域内八个方向的最大边界强度值。邻域内的最大边界强度值计算公式为:
(6) |
分别以图像中的每个像素点作为邻域窗口的中心点,在图像内逐像素地移动窗口,所有像素点的边界强度最大值构成如下矩阵:
(7) |
式中
计算矩阵S的均值记为
(8) |
(9) |
设置阈值T为:
(10) |
式中
根据图像中像素点在邻域窗口内各个方向上边界强度的不同,设计了基于LVQ神经网络的边缘检测算法,具体步骤如下:①首先计算图像中每个像素点在邻域窗口内在八个方向上的特征向量和该像素点所在邻域窗口内的最大强度值。②根据
图4 最终边界点
Fig.4 Final boundary point
(3)采用Hough变换技术精确捕捉焊缝的中心线,进而确定焊缝的精确坐标位置,扫描二值图像以获取结构光条纹该列的上下边缘坐标,再以上下边缘坐标区间内的各像素点的灰度值与位置坐标按灰度重心法公式计算出该列中心点坐标,公式为
(11) |
式中
采用上述方法对结构光条纹逐列计算得到各列中心点坐标,提取的条纹中心线如
图5 焊缝中心线
Fig.5 Weld centerline
通过中心点坐标在小范围内重新构造直线并进行迭代处理准确识别焊缝特左右特征点,具体步骤如下:
步骤1:设焊缝左边界特征点的初步定位为(pl,ypl),以(pl,ypl)点为中心,取条纹中心线上(pl,ypl)点左边第n个点与右边第n个点,以此两点构造直线
步骤2:计算曲线
步骤3:重复步骤1~2,直到
(12) |
式中
通过1.1小节完成相机标定以及焊缝识别处理后,通过对识别焊缝位置
(1)计算
(13) |
式中
(2)获取传感器数据。与步骤(1)同步,激光传感器用以捕获当前焊缝的特征点数据
(3)更新轨迹堆栈。完成以上操作后,采用
(14) |
式中
在成功执行上述步骤后,为了确保绝对焊缝路径的准确性,需防止任何错误的焊缝点被错误地包含在内。这种错误的纳入可能会导致焊缝跟踪过程中的不稳定波动,从而严重影响焊接的整体质量。因此,引入卡尔曼滤波的轨迹去噪思路:
在新采集的焊缝数据点被添加至堆栈之前,优先通过卡尔曼滤波算法对新采集的点展开处理。如果新的采样点
(15) |
式中
(4)计算焊缝轨迹中的对应点。为了精准定位当前焊枪
a. 对确定的9个控制点展开用三次非均匀有理B样条插值处理,将控制向量表示为
(16) |
式中
b. 通过累计弦长的方式对不同位置点展开参数化处理,同时利用
(17) |
c. 为了插值
(5)位置偏差的计算。由于
(18) |
利用三次非均匀有理B样条技术展开数据插值和检索,展开上述操作的主要目的是将未知的偏差值准确地转换到焊枪工具坐标系下,通过这种方法,能够实时修正焊枪的位置,从而有效实现机车钢结构焊接机器人的焊缝跟踪
(19) |
就此得到机车钢结构焊接机器人焊缝跟踪结果,完成焊接机器人焊缝跟踪。
为了验证所提基于视觉特征的机车钢结构焊接机器人焊缝跟踪方法的有效性,搭建的试验平台如
图6 试验平台
Fig.6 Experimental Platform
基本配置 | 取值 |
---|---|
负载能量/(kg) | 10 |
焊接速度/(mm·s-1) | 80 |
动作自由度/轴 | 6 |
重复定位精度/mm | 0.05 |
最大覆盖范围/mm | 1 440 |
环境温度/℃ | 0⁓45 |
本体质量/kg | 170 |
选择
图7 不同类型的焊缝识别结果
Fig.7 Identification results of different types of welds
分别采用不同方法对各个类型的焊缝展开跟踪处理,试验结果如
图8 不同焊缝类型下各个方法的焊缝跟踪结果比较
Fig.8 Comparison of weld seam tracking results of various methods under different weld seam types
为了进一步对所提方法的优越性进行验证,通过
图9 不同焊缝下各个方法的水平偏移量试验结果比较
Fig.9 comparison of experimental results of horizontal offset of different methods under different welds
随着对机车钢结构焊接机器人焊缝跟踪技术的深入研究和实践,为机车钢结构制造行业的自动化和智能化发展注入了强大的动力。提出一种基于视觉特征的机车钢结构焊接机器人焊缝跟踪方法,通过深入研究和实验验证,得出以下研究成果:
(1)采用了“棋盘格&条纹”混合图像作为基础,实现了焊接机器人立体视觉系统的精确标定,为焊缝的准确识别和跟踪提供了可靠的视觉信息。
(2)利用Roberts算子提取焊缝边缘信息,并结合Hough变换技术,有效地识别了焊缝中心线,提高了焊缝识别的精度。
(3)引入三次分均匀有理B样条对焊缝轨迹数据进行实时修正,实现对机车钢结构焊接机器人焊缝的实时跟踪,显著提升了焊缝跟踪精度和稳定性。
(4)通过大量实验验证了所提方法的有效性,实验结果表明,该方法能够适应不同类型的焊缝,并在实际焊接过程中表现出较高的跟踪精度和良好的鲁棒性。
邓贤东,刘春华,陈晓辉,等. 基于深度学习的焊缝视觉跟踪方法研究[J].现代制造工程,2023(06):124-131. [Baidu Scholar]
DENG X D,LIU C H,CHEN X H,et al. Research on weld visual tracking method based on deep learning [J]. Modern Manufacturing Engineering,2023(06):124-131. [Baidu Scholar]
杨书娟,蒋毅,俞建峰,等. 激光视觉引导的管道焊缝识别与跟踪系统[J]. 激光与光电子学进展,2022,59(16):245-253. [Baidu Scholar]
YANG S J,JIANG Y,YU J F,et al. Laser Visual Guided Pipeline Weld Seam Identification and Tracking System[J]. Laser & Optoelectronics Progress,2022,59(16):245-253. [Baidu Scholar]
贾爱亭,洪波,李湘文,等. 基于轨迹在线识别的3D折线焊缝机器人摆动GMAW实时跟踪方法[J]. 机械工程学报,2022,58(14):116-125. [Baidu Scholar]
JIA A T,HONG B,LI X W,et al. Real Time Tracking Method of 3D Zigzag Welding Robot Swing GMAW Based on Online Trajectory Detection[J]. Journal of Mechanical Engineering,2022,58(14):116-125. [Baidu Scholar]
杨璟,陶永,任帆,等. 一种基于猫群优化算法的焊缝跟踪自调整规则模糊控制方法[J]. 高技术通讯,2022,32(03):219-226. [Baidu Scholar]
YANG J,TAO Y,REN F,et al. A Fuzzy control method for welding seam tracking self-adjusting rules based on cat swarm optimization algorithm[J]. Chinese High Technology Letters,2022,32(03):219-226. [Baidu Scholar]
周跃龙,陈新度,吴智恒,等. 基于激光视觉的薄板焊缝跟踪方法研究[J]. 机床与液压,2022,50(07):56-61. [Baidu Scholar]
ZHOU Y L,CHEN X D,WU Z H,et al. Research on Tracking Method of Thin Plate Weld Seam Based on Laser Vision[J]. Machine Tool & Hydraulics,2022,50(07):56-61. [Baidu Scholar]
曹学鹏,张弓,杨根,等. 面向三维复杂焊缝的焊接机器人焊缝跟踪方法[J]. 工程科学学报,2023,45(02):310-317. [Baidu Scholar]
CAO X P,ZHANG G,YANG G,et al. Welding seam tracking method of welding robot oriented to three-dimensional complex welding seam[J]. Chinese Journal of Engineering,2023,45(02):310-317. [Baidu Scholar]
高佳篷,洪波,贾爱亭,等. 集装箱大梁熔化极气体保护电弧焊的焊缝跟踪系统[J]. 中国机械工程,2023,34(02):238-244+251. [Baidu Scholar]
GAO J P,HONG B,JIA A T,et al. Welding Seam Tracking System for Gas Metal Arc Welding of Container Girders[J].China Mechanical Engineering,2023,34(02):238-244+251. [Baidu Scholar]
Xu F,Hou Z,Xiao R,et al. A novel welding path generation method for robotic multi-layer multi-pass welding based on weld seam feature point[J]. Measurement,2023,216:112910. [Baidu Scholar]
杨华庆,张建护,唐德渝,等. 机器人立体视觉系统标定误差预测补偿技术[J]. 控制工程,2022,29(4):757-762. [Baidu Scholar]
YANG H Q,ZHANG J H,TANG D Y,et al. Prediction and Compensation for Calibration Error of Robot Stereo Vision System[J]. Control Engineering of China,2022,29(4):757-762. [Baidu Scholar]
李锦鹏,熊显名,曾启林,等. 基于三次B样条小波变换和Franklin矩亚像素级图像边缘检测算法[J]. 红外技术,2022,44(03):255-261. [Baidu Scholar]
LI J P,XIONG X M,ZENG Q L,et al. Sub-pixel Level Image Edge Detection Algorithm Based on Cubic B-spline Wavelet Transform and Franklin Moment [J]. Infrared Technology,2022,44(03):255-261. [Baidu Scholar]
肖庆追,李捷,陈鹤峰,等. 基于改进Canny算子的图像边缘检测方法[J]. 数学的实践与认识,2022,52(07):77-87. [Baidu Scholar]
XIAO Q Z,LI J,CHEN H F,et al. Image Edge Det ection Method Based on Improved Canny Operator[J]. Mathematics in Practice and Theory,2022,52(07):77-87. [Baidu Scholar]
Related Author
Related Institution