基于机器视觉的装车臂自动对接系统研究

孙泽昆 ,  陆永华 ,  朱赟 ,  冯是公 ,  秦栋成

测试技术学报 ›› 2024, Vol. 38 ›› Issue (04) : 427 -434.

PDF (2348KB)
测试技术学报 ›› 2024, Vol. 38 ›› Issue (04) : 427 -434. DOI: 10.3969/j.issn.1671-7449.2024055
信号检测、算法与仿真

基于机器视觉的装车臂自动对接系统研究

作者信息 +

Research on Automatic Docking System of LNG Land Loading Arm Based on Machine Vision

Author information +
文章历史 +
PDF (2403K)

摘要

针对装车臂对接依赖人工推动, 操作困难,工作效率低等问题, 设计研究一种基于机器视觉的LNG陆用装车臂自动对接系统, 包括在划定停车区域内自动对接的目标检测定位及控制方法, 实现无人状态下的智能对接。通过伺服电机位置环控制关节角度并记录旋转位置; 基于几何投影法及装车臂结构特性简化运动学算法, 提高计算效率, 并通过D-H方法建立运动学模型, 计算运动范围并对几何投影法验证; 基于深度学习及图像处理算法实现目标检测; 依据相机标定获得的相机内参、 多点深度信息及目标检测结果, 通过单目定位原理实现三维视觉, 最终实现自动对接。对车辆停靠区域内的法兰进行试验, 结果显示, 系统对接成功率达99%, 且相对手动对接时间缩短40%。装车臂自动对接系统可有效应用于LNG接收站的装卸车工作, 对实现自动化对接有一定的参考价值。

Abstract

Aiming at the problems of manual pushing, difficult operation and low work efficiency of loading arm docking, a machine vision-based automatic docking system of LNG land loading arm is designed and studied, including target detection, positioning and control methods for automatic docking in the delimited parking area to realize intelligent docking in unmanned state. The first is to control the joint angle through the servo motor position ring and record the rotation position; Secondly, based on the geometric projection method and the structural characteristics of the loading arm, the kinematics algorithm is simplified to improve the calculation efficiency, and the kinematic model is established by the D-H method, the motion range is calculated and the geometric projection method is verified. Subsequently, object detection is realized based on deep learning and image processing algorithms. Finally, according to the camera internal parameters, multi-point depth information and target detection results obtained by camera’s calibration, three-dimensional vision is realized through the principle of monocular positioning, and finally automatic docking is realized. The test of the flange in the parking area of the vehicle shows that the success rate of the system docking is 99%, and the time is shortened by 40% compared with the manual docking. The automatic docking system of loading arm can be effectively applied to the loading and unloading truck work of the LNG receiving station, and has certain reference value for realizing automatic docking.

Graphical abstract

关键词

LNG陆用装车臂 / 机器人运动学 / 机器视觉 / 目标检测 / 自动对接

Key words

LNG land loading arm / Robot kinematics / machine vision / object detection / automatic docking

引用本文

引用格式 ▾
孙泽昆,陆永华,朱赟,冯是公,秦栋成. 基于机器视觉的装车臂自动对接系统研究[J]. 测试技术学报, 2024, 38(04): 427-434 DOI:10.3969/j.issn.1671-7449.2024055

登录浏览全文

4963

注册一个新账户 忘记密码

0 引 言

目前, LNG装车臂在LNG运输中广泛应用, 但装车臂对接目前仍需依靠手动牵引完成对接, 该方法依赖人工操作, 存在自动化程度低, 劳动强度大, 对接效率低等问题, 给LNG转运带来诸多困难。装车臂自动对接系统研究旨在解决LNG中转站内LNG装卸车时装车臂与划定停靠区域内槽车的自动对接问题, 具体实现对装车臂自动控制和与不同位置的目标法兰的自动对接。

随着机器视觉技术不断发展应用, 机器视觉在自动化生产线上可代替人工, 既快速又准确地完成工作[1]。依靠精确示教完成操作的机器人, 要求目标以固定方位放在特定位置[2], 往往不能灵活应对槽车位置变动的工况而导致对接失败。相比之下, 机器视觉系统具有实时性好、 定位精度高等特点, 可有效增加装车臂的灵活性与智能化程度[3]。

结合电机控制技术和机器人运动学原理对LNG装车臂进行改造, 实现智能化机械臂控制。基于机器视觉技术, 为装车臂添加目标检测及定位功能, 针对LNG装卸车特点, 设计完整的自动对接流程, 可实现LNG槽车上目标法兰的视觉定位、 装车臂的自动控制对接等工作, 通过试验验证了系统的可行性和有效性。

1 自动对接系统

1.1 对接系统原理

LNG陆用装车臂由上下竖置的两条鹤管组成, 每条鹤管分别由直管道、 90° 弯管及旋转接头组成。鹤管可视作一系列刚体通过关节链接而成的运动链, 即连杆与转动关节组成的机构。

如图 1 所示, 装车臂自动对接系统根据功能可分为两大模块: 位姿控制模块和目标定位模块。其中, 位姿控制模块采用伺服电机位置环控制关节旋转, 利用编码器记录电机位置, 基于几何投影法的运动学算法实现关节角度与末端位姿间转换, 从而实现对装车臂运动控制。目标定位模块采用相机采集图像, 基于深度学习和图像处理算法检测目标二维坐标, 依据相机标定的相机内参、 深度信息及单目定位原理计算目标三维坐标, 实现定位功能。

1.2 对接系统设计

自动对接系统设计主要包括硬件和软件两部分。设计的对接方案如图 2 所示, 硬件部分主要由LNG陆用装车臂、 伺服驱动器及电机、 工业相机、 测距传感器组成。装车臂为对接本体, 负责输送LNG; 工业相机固定装车臂末端, 采集停车区域图像; 伺服电机通过齿轮传动驱动关节旋转。测距传感器检测相机到法兰的多点深度信息; 软件部分包括数据采集及处理算法; 采集的数据包括含目标在内的待检测图像、 相机到目标法兰的深度信息和当前各关节电机脉冲位置; 处理算法涉及装车臂的位姿控制、 槽车尾部法兰的目标检测、 对目标法兰的三维坐标计算。

自动对接的整体流程是: 首先, 根据已知划定停靠区域, 控制装车臂运动至观测姿态, 工业相机采集目标区域图像; 随后, 通过目标检测算法对采集的图像进行检测, 通过目标定位算法计算目标三维位姿; 以装车臂当前位姿为起点, 目标位姿为终点进行路径规划, 获得一组路径点, 反馈伺服电机完成自动对接过程。

根据对接方案设计, 选择合适的设备及型号, 最终搭建的实际对接系统试验平台如图 4所示。

2 自动对接

2.1 D⁃H建模及关节映射

图 5 所示为装车臂基于Khalil和Kleinfinger提出的改进D-H法建立模型, 每条鹤管由6连杆组成, 具有5自由度。

以液相鹤管为例, 测绘Modified D-H参数记录在表 1。

规定图 5 姿态为基准姿态, 各关节角度为0°, 记录电机脉冲值为基准值。

由伺服电机的编码器记录的电机脉冲位置与装车臂关节角度映射关系满足

θnow=θbase+θdelta,
θdelta=pdelta*k*imotor,
pdelta=pnow-pbase。

因此

θnow=fpnow=θbase+pnow-pbase*k*imotor,

式中: pnow为当前电机脉冲; pbase为脉冲基准值; pdelta为相对变化脉冲量; k为电机脉冲与电机轴旋转角度比; imotor为电机轴与关节传动比; θdelta为关节相对旋转角度; θbase为关节基准角度; θnow为关节当前角度。

在Matlab机器人工具箱构建装车臂运动学仿真模型, 如图 6 所示。

2.2 基于几何投影的运动学算法

对装车臂结构简化抽象为连杆结构, 基于装车臂结构特性, 采用几何投影法进行运动学分析, 计算末端坐标系位姿, 相比连杆变换方法简便, 提高了计算效率。如图 7 所示, 俯视图基于装车臂坐标系XAYA平面分析, A视图平行于O3O4连杆且垂直于XAYA平面。根据对接要求及装车臂结构特性可对运动学运算矩阵简化, 根据俯视图和A视图可对装车臂关节解耦进行运动分离, 简化分析过程。

末端坐标系{n}相对装车臂坐标系{A}的关系为

n=nARPAPn=Tn0=T10T21T32T43T54Tn5,

式中: nAR为旋转变换矩阵; APn为平移矩阵; n0T为连杆变换矩阵。

根据旋转坐标, 变换表示为

nAR=RZ1,θ1RZ2,θ2RZ3,θ3RZ4,θ4RZ5,θ5。

为满足对接需求, 需确保末端接头始终保持水平方向, 面对目标法兰, 则装车臂关节约束角度

θ1+θ2+θ5=180°,
θ3+θ4=0°。

由于关节转轴互为平行或垂直关系故关节角度约束条件可化简为

nAR=RZA,180°=-1000-10001。

由几何投影关系, 可计算平移坐标变换: (为便于矩阵表示, 将sin θ1简写为s1, sin (θ1+θ2))简写为s12)

APn=AxnAynAzn=0c1s12c3c120c1250s1-c12c3s120s125100s3c340d1a1d3a3d5a5。

根据角度约束关系可简化为

APn=0c1s12c3c120-10s1-c12c3s1200100s310d1a1d3a3d5a5。

2.3 目标检测算法

图 8 为法兰目标检测流程, 本系统研究的图像处理算法共包含以下几个步骤:

1) 图像预处理

图像预处理过程包括灰度化处理。通过灰度化处理, 将像素点颜色转换为范围在0~255的灰度值, 采用平均值法Gray=(R+G+B)/3, 灰度化结果如图 9 所示。

2) 目标区域提取

目标区域提取过程通过训练好的推理模型对实时图像进行推理, 输出目标框位置信息, 据此裁剪提取目标区域。预先通过工业相机采集筛选含有目标法兰的100张高质量图像数据集, 使用LabelImg标注工具标注槽车尾端法兰目标框, 将含目标框信息的标签文件及样本图像集输入Yolov5s模型训练获得法兰推理模型。图 10 为裁剪后目标区域。

3) 目标特征提取

目标特征提取过程包括高斯滤波、 Canny边缘检测、 AAMED椭圆检测算法。在对特征提取前, 通常需使用滤波机制提高图像成像质量, 以提高轮廓特征相关性[4]。高斯滤波是一种线性平滑滤波, 可在保留图像特征的同时去除图像的噪点, 提高目标检测速度。本系统采用3×3卷积核权重为0.4, 0.1, 0.05, 使用该卷积核扫描各个像素点, 将该像素点及其周围区域共9个像素的像素值进行加权平均, 获得新的灰度值, 取代中心点的灰度值。

随后通过Canny算子提取目标法兰的边缘轮廓: 采用sobel算子对图像进行梯度赋值与方向计算并进行非极大值抑制, 通过设置强弱阈值, 将梯度幅值二维化置0或255[5], 边缘提取结果如图 11 所示。

将得到的轮廓图像采用基于弧段邻接矩阵的椭圆检测算法[6]处理, 将提取出的边缘线分割为多个圆弧, 筛选有效的椭圆候选组合并拟合验证有效的候选椭圆进行保留, 使用聚类方法去除重复项, 并将椭圆标识在原始图像上, 椭圆拟合结果如图 12 所示。

4) 中心坐标计算

为避免无效圆轮廓干扰, 对拟合椭圆结果采用目标圆筛选算法。首先将椭圆分类为同心圆簇, 即同簇中的任意两椭圆(如圆O1, 圆O2)满足lO1O2<min (bO1,bO2), 其中bO1,bO2为椭圆的短轴。随后, 筛选并保留包含目标区域图像中心C的椭圆簇(如圆O1,O2…,On), 即满足lO1C<min bO1,bO2,…,bOn。

圆簇的圆心坐标组计算加权平均值即为目标法兰中心的二维像素坐标(uave,vave)。

uave=∑i=1nuOi,vave=∑i=1nvOi。

2.4 目标定位算法

目标定位即坐标系转换过程, 是指在测量系统坐标系下求得的位姿参数, 需转换到所需的参考坐标系下, 以符合现场应用需求[7]。结合像素及距离信息, 将目标的二维坐标信息转换为以装车臂坐标系为基础的空间位置与姿态。

如图 13 所示, 装车臂自动对接系统包含目标坐标系C、 像素坐标系{o}、 图像坐标系{O}、 相机坐标系{B}、 末端坐标系{n}、 装车臂坐标系{A}共5个坐标系。由像素坐标系转换相机坐标系的过程为投影变换, 由相机坐标系转换世界坐标系的过程为刚体变换[8]。

目标坐标系C为图 11的C-XCYCZC, 以法兰中心为原点, YC轴与法兰轴线共线, ZC轴垂直地面。

像素坐标系{o}为图 13 的o-uv, 原点o为图像左上角, c坐标(u,v), 表示像素点位于第u行第v列。

图像坐标系{O}为图 13的O-XOYO, 以光轴与成像平面交点作原点O, 大致位于图像中心位置, XO和YO轴与像素坐标系的u和v轴平行, oc(u,v)表示c相对原点O偏移x行y列。

相机坐标系{B}为图 13 的B-XBYBZB, 点B为镜头光心位置, XB和ZB轴平行于图像坐标系的XO和YO轴, ZB轴与YO轴方向相反, YB轴垂直于XB和ZB轴且指向目标法兰。

末端坐标系{n}为图 13的n-XnYnZn, 原点n位于装车臂末端接头中心, 与相机坐标系{B}为平移关系。

装车臂坐标系{A}如图 13 所示的A-XAYAZA, 原点A位于基座, ZA轴垂直地面, XA轴相反于槽车行车方向, YA轴指向槽车。

2.4.1 目标位置计算

对目标法兰的位姿转换流程如图 14 所示, 其中光心、 焦距为相机标定结果。

本系统使用张正友标定法[9], 通过包含已知标定板的图像数据, 求解相机的内参和外参, 以提供物体表面某点的三维几何位置与其在图像中对应点之间的精确坐标关系[10], 标定内容包括焦距、 光心、 畸变参数, 以提供物体表面某点的三维几何位置与其在图像中对应点之间的精确坐标关系。相机内参矩阵

K=fx0Cx0fyCy001,

式中: fx和fy为焦距参数; Cx和Cy为成像面中心点像素坐标。

目标定位算法需将法兰的二维图像坐标转换为三维世界坐标:从像素坐标系{O}点oc(u,v)转换到图像坐标系{O}的点Oc(xO,yO)

xOyO1=dx000dy0000uv0+-Cxdx-Cydy1,

式中: dx, dy是感光器件中像素的物理尺寸; Cx, Cy为像面中心点。

从图像坐标系{O}的点Oc(xO,yO)转换到相机坐标系{B}的点Bc(xB,yB,zB)

xByBzB=dpfx0000000-dpfyx01yO+0dp0,

式中: dp为相机原点沿YB到目标法兰的距离; fx, fy为焦距在u, v方向的像素表示。

由于相机固定于末端接头, 可视为刚体, 从相机坐标系{B}的点Bc(xB,yB,zB)转换到末端坐标系{n}的点nc(xn,yn,zn)仅需平移变换

xnynzn=100010001xByBzB+AXBAYBAZB,

式中: (XnXB,YnYB,ZnZB)为{B}的原点B在末端坐标系{n}下的坐标。

从末端坐标系{n}的点nc(xn,yn,zn)到装车臂坐标系{A}的点Ac(xA,yA,zA)

xAyAzA=RAnxnynzn+AXnAYnAZn,

式中: (XAXn,YAYn,ZAZn)为{n}的原点n在装车臂坐标系{A}下的坐标, AnR为从{n}到A的旋转变换,均通过2.1运动学算法求得。

2.4.2 目标姿态计算

目标法兰中心坐标大致位于图像坐标系原点后, 此时相机镜头正对法兰, 相机两侧测距传感器发射激光照射到法兰, 反馈深度信息。由于槽车法兰端面始终垂直地面, 仅在俯视图中存在偏转, 故偏转角计算为

β=arctan dp2-dp1l dp2≥dp1,-arctan dp2-dp1l dp2<dp1,

式中: dp1为左传感器测量深度; dp2为右传感器测量深度; l为传感器间距; β为法兰偏转角度。

从目标法兰坐标系C转换到装车臂坐标系{A}的旋转变换

ACR=RBCRnBRAn=
RotZB,β100010001RotZA,θ1+θ2+θ5=
RotZA,180°+β=-cβsβ0-sβ-cβ0001。

3 试验与分析

将槽车目标法兰模拟实际停车, 放置在划定停车区域内不同的位置进行对接试验, 并记录对接试验结果。已知末端接头与目标法兰直径均为d, 图 16 为对接结果, 对接误差为末端接头中心相对法兰中心坐标偏移(Δy,Δz), 误差比为(Δx2+Δy2/d*100%, 试验数据如表 2 所示。

试验结果显示, 系统自动对接时长波动在3 min以内, 相比于平均手动对接5 min, 其对接时间缩短至少40%, 且测验对接成功率达99%, 与手动对接成功率几乎持平。

该自动对接系统优势在于, 由于引入了机器视觉方法, 对划定停靠区域内的任意目标法兰都可有效识别并定位, 不需将目标位置固定或已知坐标位置, 对不同类型法兰具有检测定位的普适性, 且相对手动对接方法具有更高效率。

经分析, 影响装车臂自动对接时间和精度的因素包含以下几点:

1) 装车臂自身存在弹性形变, 管道的制造精度(如长度和同轴度)可能存在偏差, 导致D-H模型长度参数存在误差。

2) 齿轮啮合存在间隙会导致关节角度控制存在偏差, 标定的基准角度精确度也会导致理论与实际的角度偏差, 导致D-H模型角度参数存在误差。

3) 若作业现场环境光线变化较大或背景较为复杂, 会影响图像成像质量及目标法兰轮廓的准确提取, 影响目标检测定位精度。

4 结 语

1) 设计并搭建了一种基于机器视觉的LNG陆用装车臂自动对接系统, 应用电机控制与运动学技术, 在现有LNG陆用装车臂的基础上实现了智能机械臂的改造。

2) 基于机器视觉和激光测距技术, 准确地对目标法兰进行检测并定位, 具有结构简单、 实时性好、 成本低等特点。

3) 试验验证系统具有实际应用的可行性, 可准确识别定位并以较高精度完成目标法兰对接, 可有效降低手动操作强度, 可有效应用于LNG中转站中装车臂与槽车的对接工作, 对提高LNG装卸车效率及自动化程度有重要意义。但针对不同工况下的避障问题及动态目标的自动对接, 目前尚没有较好的对应方法, 还需进一步研究。

参考文献

[1]

曹亮, 魏怡, 姚思勤.机器视觉技术及其发展和应用[J].中国科技信息, 2008(11): 40-41.

[2]

CAO liang, WEI Yi, YAO Siqin. Machine vision technology and its development and application[J]. China Science and Technology Information, 2008(11): 40-41. (in Chinese)

[3]

NIKU SAEED B.Introduction to robotics: analysis, control, applications, second edition[M]. 2th ed.Beijing: Publishing House of Electronics Industry, 2013.

[4]

朱云, 凌志刚, 张雨强.机器视觉技术研究进展及展望[J].图学学报, 2020, 41(6): 871-890.

[5]

ZHU Yun, LING Zhigang, ZHANG Yuqiang. Research progress and prospect of machine vision technology[J]. Journal of Graphics, 2020, 41(6): 871-890. (in Chinese)

[6]

彭聪, 刘彬, 周乾.基于机器视觉和盲源分离的机械故障检测[J].上海交通大学学报, 2020, 54(9): 953-960.

[7]

PENG Cong, LIU Bin, ZHOU Qian.Mechanical fault detection based on machine vision and blind source separation[J]. Journal of Shanghai Jiaotong University, 2020, 54(9): 953-960. (in Chinese)

[8]

SHRIVAKSHAN G T, CHANDRASEKA C. A comparison of various edge detection techniques used in image processing[J]. International Journal of Computer Science Issues, 2012, 9(1): 269-276.

[9]

MENG C, LI Z, BAI X, et al. Arc adjacency matrix-based fast ellipse detection[J]. IEEE Transactions on Image Processing: a Publication of the IEEE Signal Processing Society, 2020, 29: 4406-4420.

[10]

魏振忠, 冯广堃, 周丹雅, 等.位姿视觉测量方法及应用综述[J].激光与光电子学进展, 2023, 60(3): 144-176.

[11]

WEI Zhenzhong, FENG Guangkun, ZHOU Danya, et al. Review of posture visual measurement methods and applications[J]. Advances in lasers and optoelectronics, 2023, 60(3): 144-176. (in Chinese)

[12]

吴广雨, 张伟军, 杨保佳.机器人视觉装配中的精确定位策略研究[J].机械与电子, 2020, 38(3): 75-80.

[13]

WU Guangyu, ZHANG Weijun, YANGBaojia. Research on precise positioning strategy in robot vision assembly[J]. Mechanics & Electronics, 2020, 38(3): 75-80. (in Chinese)

[14]

ZHANG Z. A flexible new technique for camera calibration[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2000, 22(11): 1330-1334.

[15]

王国珲, 钱克矛.线阵相机标定方法综述[J].光学学报, 2020, 40(1): 181-193.

[16]

WANG Guohui, QIAN Kemao. Review of line scan camera calibration methods[J]. Acta Optica Sinica, 2020, 40(1): 181-193. (in Chinese)

AI Summary AI Mindmap
PDF (2348KB)

863

访问

0

被引

详细

导航
相关文章

AI思维导图

/

〈 〉