当扩展优化迭代时,ccurs。我们把这种情况的罪魁祸首归咎于非监督式学习任务的困难程度不够。为了进一步解决非监督式学习中的模态衰减问题,并在最近的掩蔽自动编码器的启发下,扩大优化迭代的规模[23,57] ,我们构建了一个掩蔽点建模/范例,其中点颜色重建目标和冲浪法线重建目标被提出来分别恢复点云的掩蔽颜色和几何信息。我们将掩模点建模策略融入到我们的对比学习框架中,通过对比交叉掩模的精美设计,形成了一个可扩展的无监督3D 表示学习框架,即掩模场景对比度(MSC)。我们的框架是高效的、有效的和可伸缩的。我们进行广泛的实验评估,以验证其能力。在流行的点云数据集 ScanNet 上,我们的算法比以前代表性的点对比算法提高了3倍以上的预训练速度,并且在下游任务上取得了更好的性能。此外,我们的方法还支持跨多个数据集的大规模3D 预训练,从而在几个下游任务上得到最先进的微调结果,例如 ScanNet 语义分割验证集上的75.5% mIoU。总之,我们的工作为大规模的无监督三维表示学习开辟了新的可能性。
时间: 2024-02-29 19:54:52 浏览: 73
文段中提到了扩展优化迭代的问题,并将其归咎于非监督式学习任务的困难程度不够。为了进一步解决非监督式学习中的模态衰减问题,作者提出了一个掩模点建模/范例,并将其融入到对比学习框架中,形成了一个可扩展的无监督3D表示学习框架,即掩模场景对比度(MSC)。作者进行了广泛的实验评估,证明了该框架的高效性、有效性和可伸缩性,并在流行的点云数据集ScanNet上取得了比以前代表性的点对比算法提高了3倍以上的预训练速度,并且在下游任务上取得了更好的性能。此外,该方法还支持跨多个数据集的大规模3D预训练,并在几个下游任务上得到最先进的微调结果,为大规模的无监督三维表示学习开辟了新的可能性。
阅读全文