Ekin D. Cubuk、Barret Zoph、Jonathon Shlens 与 Quoc V. Le(Google Research, Brain Team)提出 RandAugment,把自动数据增强的策略搜索收成两个可解释的参数:每次对一张图依次使用的变换次数 ,以及所有变换共用的失真幅度 。论文作为 NeurIPS 2020 会议论文 发表,收入 Advances in Neural Information Processing Systems 33。此前还有一个 CVPR 2020 workshop 版本,本场收录的是主会 12 页论文集文本,venue 不写成 CVPR 或 CVPRW。官方会期写明 12 月 6 日起是 Virtual Pass,12 月 7 日是教程日,会议论文场是 12 月 8 日至 10 日,发表日取论文场首日 2020-12-08,不用 Virtual Pass 首日、教程日、工作坊日,也不用 OpenAlex 上 CVPRW 记录的 2020-06-01。本轮未从官方摘要页核到 Oral、Spotlight、Poster 或 Best Paper,只按会议论文著录。对照以已下载的 12 页官方 NeurIPS PDF 为准,正文提到的附录不在这 12 页里,不并入对照。本轮重查 OpenAlex,未见独立的 NeurIPS 会议版记录;最靠前的是 W2993466051,类型是 conference-paper,截至 2026-11-22 引用约为 5147,但主 location 目前挂在 CVPRW(DOI 10.1109/cvprw50498.2020.00359),locations 中同时出现 arXiv:1909.13719 和 neural information processing systems。引用数按这条合并记录著录,并标明主记录目前挂在 CVPRW,不写成 NeurIPS 会议版 5147,也不另编。
在代理任务上搜出来的增强策略,并不总适合真正要训练的模型
AutoAugment 及其后的加速方法,通常要先在一个更小的代理任务上搜索增强策略,再把策略迁到目标模型。这样做是为了把搜索空间压到可算的范围,但作者指出,合适的失真幅度会随模型宽度和训练集大小系统变化:更大的网络往往需要更强的失真,训练数据增多时最优幅度也会上升。如果代理任务和目标任务在这两点上对不上,搜到的策略就可能偏弱。他们还观察到,只需在若干个幅度上取样,就能看出这种规律,而不必先做一轮昂贵的策略搜索。
两个参数就够了,网格搜索可以代替单独的搜索阶段
RandAugment 不再为每个变换单独学习概率和幅度,而是每次从固定的变换集合里均匀抽出 个操作,全部使用同一个全局幅度 。搜索空间大约是 量级,而 AutoAugment 一类方法大约是 。空间小到这一步,在验证集上做简单网格搜索就够用,不必再为搜索单独准备代理任务或强化学习。代码在文中用很短的 Python 片段即可写清。作者强调,这不是再提出一种新的搜索算法去改进 AutoAugment,而是把问题本身改写成几乎不用搜的形式。
在分类和检测上,它能跟上或超过更重的搜索方法
在 CIFAR-10、CIFAR-100 和 SVHN 上,RandAugment 与 Population Based Augmentation、Fast AutoAugment、AutoAugment 等结果接近,部分设定还更高,例如 SVHN 核心集上 Wide-ResNet-28-2 和 Wide-ResNet-28-10 都到了 98.3%。ImageNet 上,ResNet-50 的 Top-1 准确率是 77.6%,与 AutoAugment 和 Fast AutoAugment 持平;更大的 EfficientNet-B7 做到 84.7%,比基线高 1.0 个百分点,也略高于 AutoAugment 的 84.3%。把同一思路用到 COCO 检测,RetinaNet 加 ResNet-101 / ResNet-200 的 mAP 是 40.1 和 41.9,低于 AutoAugment 的 40.4 和 42.1,但仍明显高于未做自动增强的基线,而 AutoAugment 为此还用了额外的框相关变换,并花费约 15,000 GPU 小时做搜索。消融还显示:随机子集里包含的变换种类越多,中位验证准确率越高;rotate 平均最有帮助,posterize 平均会拖后腿,但把全部变换放在一起仍然最好。这些比较针对的是这套两参数方法本身,不是把 AutoAugment 重新写一遍。
它说明,自动增强的关键往往不在更复杂的搜索
RandAugment 后来成为图像训练里最常用的默认增强之一,许多实现直接提供这两个参数。它的边界也写在正文里:最优的 和 仍要随模型和数据改;个别变换单独看并不都有益;检测里若补上针对框的变换,还有再往上走的空间。对照只覆盖这 12 页会议正文和参考文献。