语义分割的技巧

作为惠普 Z 系列全球数据科学大使，Yuanhao Wu 的内容由惠普赞助，且向他提供了惠普产品。

上个月，我花时间参加了一场 Kaggle 竞赛：HuBMAP - 肾脏“黑客”。这项竞赛的目标是实现一种成功且稳健的肾小球 FTU 检测器。这是一个经典的二元语义分割问题。这是我第二次参加语义分割竞赛，我们的团队以第 43 名的成绩获得银牌。

虽然竞赛中出现了一个错误标注的样本，对公开排行榜造成了相当大的影响，也一度让参赛者摸不着头脑，但在展现语义分割的技巧上，这仍是一场精彩的比赛。

我想从 Lovasz-Hinge 损失开始说起。这个损失来自于论文《The Lovász Hinge: A Novel Convex Surrogate for Submodular Losses》，其强大的能力已经在许多竞赛中得到了证明。大家可以在知名的 segmentation_models.pytorch 库中找到出色的部署案例。虽然这个损失很强大，但在某些情况下可能很难训练。一个解决方法是将 Lovasz-Hinge 损失与其他损失相结合，如 Dice 损失或 Cross Entropy 损失。一些参赛者也可能使用两阶段式方法：先用 Dice 损失训练模型，然后转用 Lovasz-Hinge 损失。

至于模型部分，几乎每一位参赛者都使用了 Unet 及其变体。获胜者在其解决方案博文中提到，他结合使用了 hypercolumn 和注意力机制以及经典的 Unet 网络。我也尝试了这两个技巧，然而它们并没有明显改善我的结果。如下图所示，hypercolumn 的工作原理其实非常简单明了。它将不同层中大小调整后的特征图连接起来，以此提升模型的规模。