5c23c1b0954f9d25560fc30df02938be.png
栗子 发自 凹非寺
量子位 报道 | 公众号 QbitAI

来自Facebook何恺明团队,比以往都强大ResNeXt预训练模型开源了。

它叫ResNeXt WSL,有超过8亿个参数,用Instagram上面的9.4亿张图做了 (弱监督) 预训练,用ImageNet做了微调

注:WSL是弱监督学习,不是Windows里面的Linux。

da367673d30a0199b7a5224bc88b18ad.png

ImageNet测试中,它的 (32×48d) 分类准确率达到85.4% (Top-1) ,打破了从前的纪录。

LeCun大佬作为公司首席AI科学家,转推了开源的喜讯,而后众人奔走相告,赞数已经超过1600

2eb8a99320320a180363bfa1bbc04d18.png

评论区涌起了难以置信的声音:

拿ImageNet做微调??
我头一次听说,在更大的预训练集面前, ImageNet成了微调用的小语料库
9.4亿张图?谁能做完这么多计算?

所以现在好了,你并不需要做这样大大大量的计算,可以直接从预训练的模型开始。

更好的是,开源的不止这一个模型。

究竟是有多强大

预警:先交代一下历史,后面是最新的成绩。

ResNeXt,其实诞生在2016年。

它的前辈是2015年发表的ResNet (残差网络) ,用“shortcut”这种能跳过一些层的连接方式,解决了梯度消失问题,训练几百上千层的网络不是梦。

46c5358fb880294dd0d5abdeb4b5158e.png

ResNet在图像分类、目标检测、定位、分割等等项目上完胜各路对手,拿下当年CVPR最佳论文,震动了学界和工业界。

后来,作为ResNet的一个高能进化版,ResNeXt在宽度和深度之外,引入了“基数 (Cardinality) ”的概念。在网络不加深不加宽的情况下,就能提升准确率,还能减少超参数的数量。

一个101层的ResNeXt,准确率已媲美200层的ResNet。于是,它也中选了CVPR。

而这一次,ResNeXt WSL系列是在当年的基础上,又探索了弱监督 (Weakly Supervised Learning) 的可能性:

Instagram图片,没有经过特别的标注,只带着用户自己加的话题标签 (#) ,就当做预训练的数据集了。

经过9.4亿张图的预训练,再拿ImageNet去微调,四个ResNeXt模型的考试成绩如下:

5943c3cc3579fc260a7e32d3d383b487.png

团队说,比起直接用ImageNet训练,加上弱监督的预训练步骤,分类准确率有明显的提升。

其中,32×48d的准确率 (Top-1) 刷新了ImageNet的纪录。

弱监督可行,今后AI就可以在更大规模的数据集上训练/预训练了。

一行代码可调用

现在,四个预训练模型都已经开源。加载只需:

1 import torch
2 model = torch.hub.load('facebookresearch/WSL-Images', 'resnext101_32x8d_wsl')
3 # or
4 # model = torch.hub.load('facebookresearch/WSL-Images', 'resnext101_32x16d_wsl')
5 # or
6 # model = torch.hub.load('facebookresearch/WSL-Images', 'resnext101_32x32d_wsl')
7 # or
8 #model = torch.hub.load('facebookresearch/WSL-Images', 'resnext101_32x48d_wsl')
9 model.eval()

说不定你已经看出来了,所有模型都已加入不久前刚发布的PyTorch Hub豪华菜单。所以,一小段代码就可以轻松调用。

只有一点需要注意:这次开源的模型,要求所有输入图像,都用相同的方式归一化 (Normalization) 。

具体示例,可以从文下传送门前往主页观摩。

One More Thing

在这样鸡冻人心的日子里,总有些小伙伴的关注点和其他人不一样:

他们用Instagram啊,我以后是不是要把所有的图都做个对抗样本,再发状态?(以达到欺骗AI的目的)

c3499dd8f172d17e089eb26c8c9bdbb4.png

AI啊,你相信我,这真是一只长臂猿。(误)

ResNeXt主页:https://pytorch.org/hub/facebookresearch_WSL-Images_resnext/

GitHub项目:https://github.com/facebookresearch/WSL-Images/blob/master/hubconf.py

Colab Demo:https://colab.research.google.com/github/pytorch/pytorch.github.io/blob/master/assets/hub/facebookresearch_WSL-Images_resnext.ipynb

ECCV论文:https://arxiv.org/abs/1805.00932

量子位 · QbitAI

վ'ᴗ' ի 追踪AI技术和产品新动态

戳右上角「+关注」获取最新资讯↗↗

如果喜欢,请分享or点赞吧~比心❤

Logo

开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!

更多推荐