Autoware进行Robosense16线雷达与ZED双目相机联合标定！

项目要标定雷达和相机，这里记录下我标定过程，用的速腾 Robosense - 16 线雷达和 ZED 双目相机。

一、编译安装 Autoware-1.10.0

我没有安装最新版本的 Autoware，因为新版本不带雷达和相机的标定工具，我安装的是 1.10.0 版本！

1.1 下载 Autoware-1.10.0 源码

不建议官方的 git check 安装方式，因为不熟悉 git 可能会遇到问题，直接在GitLab 仓库选择 1.10.0 版本下载即可：

1.2 编译 Autoware-1.10.0

编译过程比较容易，我也没遇到编译错误，解压下载的 autoware-1.10.0，在该目录下执行以下命令：

# 1. 进入 autoware 的 ros 目录下
cd autoware-1.10.0/ros
# 2. rosdep 安装依赖
rosdep update
rosdep install -y --from-paths src --ignore-src --rosdistro $ROS_DISTRO
# 3. 编译
./catkin_make_release


我的台式机配置比较低，大概编译了 1 个小时，好的配置应该编译的更快。

1.3 启动 Autoware-1.10.0

首先还是要进入 ros 目录下，然后 source 环境，之后执行 run 程序即可启动主界面：

# 1. 进入 autoware 的 ros 目录下
cd autoware-1.10.0/ros
# 2. source 环境，zsh 或 bash
source devel/setup.zsh[.bash]
# 3. 启动主界面
./run


可能需要输入 root 密码，然后启动的主界面如下：

至此 Autoware 就安装好了，后面我们需要用它提供的标定工具包来进行内参和外参的标定，以及标定结果的融合效果测试。

二、标定 ZED 相机内参

2.1 内参标定准备

内参标定需要准备标定板，我用的是我们实验室自己购买的 12x9，棋盘格为 2.5cm 的专业标定板，比较精准，如下：

然后录制一个相机左右话题的 Bag：

rosbag record -O zed_calibration.bag /camera/left/image_raw /camera/right/image_raw


为了得到好的标定结果，录制过程中需要在相机视野里面移动标定板，建议位置如下：

• X 轴标定：移动到视野的最左边，最右边


• Y 轴标定：移动到视野的最上方，最底部


• 倾斜标定：改变标定板的角度，斜着拿


• Size 标定：移动标定板充满整个相机视野


• X，Y 和 Size 一起标定：保持标定板倾斜启动到视野的最左，最右，最上，最下

然后我拷贝 Bag 到台式机上回放，但是有问题提示需要 rogbag reindex：

rosbag reindex zed_calibration.bag


执行修复下就 OK，速度很快，不过后面的数据会少一些，可能是拷贝过程中的错误导致的，无伤大雅。

1.2 内参标定过程

内参标定比较简单，基本都是自动执行，先 source Autoware 环境以使用标定工具：

cd autoware-1.10.0/ros/
source devel/setup.zsh


启动 roscore：

roscore


启动标定工具 autoware_camera_lidar_calibrator，但是这个工具同时标定双目得到的标定 YAML 文件不能直接作为后面外参标定的输入，因为文件格式有些不同，我也是做实验发现的，因此我单独标定左右相机，这样就会生成可用的 Autoware 格式的 YAML 文件：

rosrun autoware_camera_lidar_calibrator cameracalibrator.py --square 0.025 --size 11x8 image:=/camera/left/image_raw


参数如下：

• --square：标定板单元格的边长（m），我的标定板是 2.5cm，也就是 0.025m


• --size：标定板长x宽的格子数减一，我的标定板是 12x9，所以填 11x8


• image：要标定的相机话题，左或者右

启动后就是一个黑窗口：

然后开始回放内参标定 Bag，默认暂停启动，按空格继续：

rosbag play --pause zed_calibration.bag


标定过程如下，标定工具会根据棋盘格位置自动检测角点：

当右上角的 X、Y、Size、Skew 变为绿色时，标定按钮「CALIBRATE」可用，点击即可计算内参矩阵：

结果在 Shell 中打印出来，点击「SAVE」可保存到 home 目录下：

注意这里会多保存一个 Autoware 类型的 YAML 文件格式，也就是后面外参标定要导入的文件！内容如下：

下面开始标定雷达和相机的外参！

三、ZED 相机和 Robosense-16 线雷达联合标定外参

3.1 联合标定准备

联合标定也要准备标定板和录制 bag 包，标定板用的也是内参标定的棋盘格，另外因为我是在电脑上安装的 Autoware，所以需要在小车上录制雷达和相机的 Bag 数据包，然后再拷贝到我的电脑上回放用于标定工具的话题输入。

我录制 bag 包的命令如下，录制的是ZED 左右相机话题、雷达话题：

rosbag record -O zed_lidar_calibration.bag /camera/left/image_raw /camera/right/image_raw /rslidar_point


但是录制完后，我拷贝到台式机上，还是提示我要 reindex 一下，我估计是小车系统的问题：

rosbag reindex zed_lidar_calibration.bag


修复完查看下 info，没有问题：

rosbag info


回放 Bag 使用如下命令，加上 --pause 意思是启动即暂停，防止跑掉数据，按空格继续回放：

rosbag play --pause zed_lidar_calibration.bag


下面我们开始使用 autoware_camera_lidar_calibrator 工具标定雷达和相机。

3.2 标定过程

首先启动 roscore，也可以不用启动，后面 roslaunch 会自动启动：

roscore


接着初始化 Autoware 环境：

cd autoware-1.10.0/ros/
source devel/setup.zsh


然后启动标定工具，这里我标定 ZED 左相机图像和雷达，使用右相机同理：

roslaunch autoware_camera_lidar_calibrator camera_lidar_calibration.launch intrinsics_file:=xxx.yaml image_src:=/camera/left/image_raw


• intrinsics_file：前面标定 ZED 的 YAML 内参文件路径


• image_src：要标定的相机话题，这里用的 left image，有需要也可以用 right image

遇到的第一个错误，启动失败提示找不到 image-view2：

直接 apt 安装即可：

sudo apt-get install ros-kinetic-jsk-common


• 参考链接：https://github.com/jsk-ros-pkg/jsk_common

遇到的第二个错误，提示找不到 libopencv_core3.so.3.3：

我在系统中查找 libopencv_core3.so 这个库：

locate libopencv_core3.so


发现它在如下位置：

/opt/ros/kinetic/lib/x86_64-linux-gnu/libopencv_core3.so


然后我这个目录下的所有 opencv 库复制一份到上一级 lib 目录下，解决了这个问题：

sudo cp /opt/ros/kinetic/lib/x86_64-linux-gnu/libopencv_* /opt/ros/kinetic/lib


• 参考博客：https://blog.csdn.net/qifengle315/article/details/103434598

之后我就可以启动这个标定工具了，界面如下就是一个图片查看器：

然后开始回放 Bag 数据，记得按空格开始回放：

rosbag play --pause zed_lidar_calibration.bag


上面的 image-view2 就会出现相机画面，然后我们按空格暂停回放，准备标定：

标定还需要启动 rviz：

rosrun rviz rviz


点击 Add 添加要订阅的 Image 和 PontCloud2 话题：

分别设置每个订阅话题的 topic、FixedFrame 设置为 rslidar 不然会没有点云显示、切换点云查看视角，用鼠标滑轮调整点云距离，确保能看到我这样的标定板：

然后我们同时切换出 image-view2 的界面，点击工具栏放大图像，然后按照如下步骤手动选择一个像素点和点云进行单次标定：

1. 观察图像和点云，并在 image-view2 中用鼠标选择一个像素点


2. 点击 rviz 工具栏的 Publish Point


3. 然后在 rviz 中选择一个对应的点云数据点（要尽量选择准确），当你的鼠标右下角出现一个浅红色的路标记号时即可点击该数据点


4. 观察 image-view2 的窗口是否出现 points 的提示信息

重复以上步骤，选择 9 个不同的像素-点云对，因为需要足够的数据才能计算外参矩阵，当第 9 个点选择完后，该工具会自动计算外参标定矩阵：

最终的标定文件保存在 home 目录下，以下是外参文件内容，第一个就是 4x4 的外参矩阵：

四、标定结果测试

标定矩阵有了之后，我们来利用 autoware 提供的融合工具来看下标定的效果如何，先来回放数据：

rosbag play --pause zed_lidar_calibration.bag /rslidar_points:=/points_raw


这里要把雷达的话题换成 points_raw，因为 autoware 订阅的话题名是这个！然后启动 Autoware 主界面，启动方法跟前面一样，切换到 Sensing 标签页，配置如下：

• Camera ID：我选择的是 left 图像


• target_frame：默认 velodyne 即可，因为我们已经将雷达话题名改为 velodyne 订阅的名字


• Ref：选择上一步的外参标定文件


• image topic source：因为 Camera ID 已经指定了，所以这里只需要填 topic 名即可

点击 OK 关闭窗口（查看终端是否会输出红色错误信息，一般不会），然后再点击 Points Image 选择相机 ID 为 left，点击 OK 确定（此时终端再输出一些信息，但不会报红色错误），如果你的终端出现红色错误信息，就要查看配置是否正确了：

再点击下面的 Rviz 启动 rviz，注意不要单独在终端中 rosrun 启动 rviz，单独启动没有 image-view2 的插件，在 autoware 中启动提供融合的插件 ImageViewerPlugin：

进行如下选择：

• Image Topic：/camera/left


• Point Topic：/points_image

然后切换到回放 Bag 终端，按空格继续回放数据，即可出现融合效果，我这里效果一般般，后面打算再重新标定：

五、可能遇到的问题

5.1 Autoware 编译失败

我的编译过程比较顺利，如果你遇到的编译错误，可以先阅读报错信息，看看是否是缺少某个依赖库，然后在网上搜索安装方法，最好用英文 + Google！如果是一些看不懂的错误，可以直接复制报错信息到搜索引擎，有时也能找到答案。

5.2 Rviz 不显示点云

检查 FixedFrame 是否设置为雷达的 frame_id。

5.3 标定结果不准

选点的时候仔细点，多标定几次。

以上就是我的雷达相机内外参标定总结，希望能帮助要标定雷达和相机的朋友，后面我会再写一篇用 Autoware 的 Calibration Tool Kit 工具来标定的博客，可以持续关注我！