您是否对将工业自动化集成到您的设施中感兴趣？如果是这样，那么您应该致电工业自动化和集成领域的工博士。工博士是包括FANUC，Yaskawa，KUKA，Kawasaki和ABB在内的多家不同机器人公司的认证集成商。我们的员工致力于帮助您为您的行业和预算构建的自动化系统。

在物流仓储场景中，无序混合纸箱码垛机器人有着大量的应用需求。对于乱序到来的、多种尺寸规格的箱子，如何用机器人实现自动、高效的码垛，节省人力的同时提升物流周转效率，是物流仓储自动化的一个难点问题。其核心是求解装箱问题（Bin Packing Problem，BPP）这一经典的 NP 难题，即为每一个纸箱规划在容器中的摆放位置，以***大化容器的空间利用率。求解 BPP 问题的传统方法大多是基于启发式规则的搜索。

在实际应用场景中，机器人往往无法预先看到传送带上即将到来的所有箱子，因而无法对整个箱子序列进行全局***优规划。因而现有的 BPP 方法无法被直接用于真实物流场景。

事实上，人可以根据即将到来的几个箱子的形状尺寸，很快地做出决策，并不需要、也无法做到对整个箱子序列的全局规划。这种仅仅看到部分箱子序列的装箱问题，称为在线装箱问题（online BPP）。物流输送线边上的箱子码垛任务一般都可以描述为 online BPP 问题。因此，该问题的求解对于开发真正实用的智能码垛机器人有重要意义。

在 online BPP 问题中，机器人仅能观察到即将到来的 k 个箱子的尺寸信息（即前瞻 k 个箱子），我们称其为 BPP-k 问题。对按序到来的箱子，机器人必须立即完成规划和摆放，不允许对已经摆放的箱子进行调整，同时要满足箱子避障和放置稳定性的要求，***终目标是***大化容器的空间利用率。online BPP 问题的复杂度由箱子规格、容器大小、箱子序列的分布情况、前瞻数量等因素共同决定。由于仅知道部分箱子序列的有限信息，以往的组合优化方法难以胜任。

近日，国防科技大学、克莱姆森大学和视比特机器人的研究人员合作提出了使用深度强化学习求解这一问题。该算法性能优异，实现简单，可适用于任意多个前瞻箱子的情形，摆放空间利用率达到甚至超过人类水平。同时，该团队结合 3D 视觉技术，实现了业界***高效能无序混合码垛机器人。论文已被人工智能顶会 AAAI 2021 大会接收。

强化学习是一种通过自我演绎并从经验中学习执行策略的算法，很适合求解 online BPP 这种基于动态变化观察的序列决策问题。同时，堆箱子过程的模拟仿真非常「廉价」，因而强化学习算法可以在模拟环境中大量执行，并从经验中学习码垛策略。

然而，将强化学习算法应用到 online BPP 上面临几个方面的挑战：首先，如果将水平放置面划分成均匀网格，BPP 的动作空间会非常大，而样本效率低下的强化学习算法并不擅长应对大动作空间的问题；此外，如何让强化学习算法更加鲁棒、高效地学习箱子放置过程中的物理约束（如碰撞避免、稳定支持等），也是需要专门设计的。

为了提升算法的学习效率，同时保证码放的物理可行性和稳定性，作者在 Actor-Critic 框架基础上引入了一种「预测 - 投影」的动作监督机制（图 2）。该方法在学习 Actor 的策略网络和 Critic 的 Q 值（未来奖励的期望）网络之外，还让智能体「预测」当前状态下的可行动作空间（可行掩码，feasibility mask）。在训练过程中，依据预测得到的可行掩码将探索动作「投影」到可行动作空间内，再进行动作采样。这样的有监督可行性预测方法，一方面可以让强化学习算法快速学习到物理约束，另一方面也尽可能避免了训练中箱子放置到不可行位置而提前终止序列，从而显著提升训练效率。

如果算法能够在码放当前箱子的同时考虑之后到来的箱子尺寸，可能会得到更好的码放效果（如图 3 所示）。对于前瞻 k（k>1）个箱子的情况，一种方法是直接学习前瞻多个箱子的码放策略。但是，这种策略往往难以在任意前瞻箱子数目上很好地泛化。针对不同的 k 单独训练一种策略显然是不够聪明的做法。

对此，本文的处理方法是基于 BPP-1 这一基础策略，通过排序树搜索的方法拓展到 BPP-k 的情况。事实上，前瞻多个箱子的基本思想，就是在摆放当前箱子时，为后续箱子「预留」合适的空间，以使得这些箱子的整体摆放空间利用率更高。「预留」暗含了对于 k 个前瞻箱子的不同排序。因此，我们只需要搜索 k 个前瞻箱子的不同排序（图 4），找出一种空间利用率***高的排序，该序列所对应的当前箱子的摆放位置，即为当前箱子的***佳摆放位置。这样的处理方式，等同于在当前箱子的摆放过程中考虑了后来的箱子。不过，需要注意的是，在这些虚拟的摆放序列中，实际顺序中先到的箱子不能摆在后到的上面。

箱子的真实顺序（左上）和虚拟重排顺序（左下，实际顺序靠前的箱子不能放在实际顺序靠后箱子的上面），右边展示了不同序列的排序树。

显然，考虑所有的排序可能很快带来组合爆炸问题。为此，作者使用蒙特卡洛树搜索（MCTS）来减小搜索空间。作者基于 critic 网络输出的 Q 值，对从当前状态之后可能得到的奖励进行估计。在排序树搜索过程中，优先选择可能得到更高奖励的节点进行展开。这样可将搜索复杂度控制在线性级别。

此外，作者还介绍了处理箱子水平旋转和多容器码放的扩展情况。如果码放过程中允许箱子水平旋转，则只需将 BPP-1 模型中的动作空间和可行掩码同时复制，分别处理两种朝向。针对多容器码放，算法需要对箱子放入每个容器所带来的 Q 值变化进行量化：作者使用 critic 网络对箱子码放到某个容器前后的 Q 值进行评估，每次都将箱子放入 Q 值下降***小的容器内。

工博士可以提供了ABB，库卡，安川，发那科和欧地希等机器人和常用机器人型号，并且包括机器人的配件，保养，维修，培训等等服务我们都可以进行服务，真正做到了为客户进行一站式的服务保障，并且工博士现已经是集九大机器人代理于一体的智能工厂一站式服务商，我们相信，我们真正地在协助第四次工业革命的进步，并为所有涉及机器人技术的人们增加优势和收益！如果您想获得更多信息，请在线留言或致电与我们联系 。

工博士为您提供机器人在内的一站式服务，更多请咨询：全自动化搬运码垛机器人、搬运码垛机器人、搬运码垛项目集成