从一行行代码、注释中感受 AlexNet 的诞生,或许老代码中还藏着启发未来的「新」知识。
想知道 AlexNet 2012 年的原始代码长什么样吗?现在,机会来了!刚刚,谷歌首席科学家 Jeff Dean 宣布,他们与计算机历史博物馆(CHM)合作,共同发布了 AlexNet 的源代码,并将长期保存这些代码。
在计算机历史上,AlexNet 的出现有着划时代的意义。在它出现之前,很少有机器学习研究人员使用神经网络。但在 AlexNet 出现之后,几乎所有研究人员都会使用神经网络。从 2012 年到 2022 年,神经网络不断取得进步,包括合成可信的人类声音、击败围棋冠军选手、模拟人类语言并生成艺术作品…… 最终,OpenAI 于 2022 年发布 ChatGPT…… 它是这一系列故事的重要起点。
除了代码本身的价值,HuggingFace 联合创始人 Thomas Wolf 还发现,代码中的注释也非常有启发性。他说,「也许真正的历史记录是 AlexNet 代码中每个实验配置文件末尾的实验记录注释。一个开创性的神经网络正在诞生……」
还有人说,「AlexNet 代码的发布对于 AI 爱好者来说是一个宝库,这是一个向深度学习先驱学习的绝佳机会」。
在人工智能领域,AlexNet 可谓爆发的起点。就在本周的英伟达 GTC 大会上,黄仁勋介绍起 AI 的发展历程,未来的一头是智能体、物理世界的 AI,过去的一头就是 AlexNet。
AI、机器学习、深度学习的概念可以追溯到几十年前,然而它们在过去的十几年里才真正流行起来,这可能的确要归功于 AlexNet。
三位都是 AI 领域里响当当的人物。Geoffrey Hinton 被誉为「深度学习之父」,后来获得了 2018 年的图灵奖、2024 年的诺贝尔物理学奖;Ilya Sutskever 是 OpenAI 的联合创始人及前首席科学家,也是 AlphaGo 论文的众多作者之一。冠名该模型的 Alex Krizhevsky 也是 CIFAR-10 和 CIFAR-100 数据集的创建者,不过他却逐渐对研究失去了兴趣,于 2017 年 9 月离开了谷歌。
在描述当年的 AlexNet 项目时,Geoffrey Hinton 总结道:「Ilya 认为我们应该做这件事,Alex 让它成功了,而我获得了诺贝尔奖。」
在 ImageNet 竞赛中,参赛者需要完成一个名叫「object region」的任务,即给定一张包含某目标的图像和一串目标类别(如飞机、瓶子、猫),每个团队的实现都需要识别出图像中的目标属于哪个类。
在当年的比赛中,AlexNet 的表现颇具颠覆性,团队首次使用一种名为卷积神经网络(CNN)的深度学习架构,并充分利用了英伟达 GPU 的能力。由于表现过于惊艳,之后几年的 ImageNet 挑战赛冠军都沿用了 CNN。
AlexNet 的论文被 2012 年的 NeurIPS 大会接收并发表,起初也受到了一些计算机视觉研究者的质疑,但出席会议的 Yann LeCun 宣布这是人工智能发展的转折点。后来发生的事情我们也都知道了:在 AlexNet 之前,几乎没有一篇领先的计算机视觉论文使用神经网络。在它之后,几乎所有论文都会使用神经网络。
这是计算机视觉史上的一个关键时刻,也激发了人们将深度学习应用于其他领域(如自然语言处理、机器人、推荐系统)的兴趣。
之后,Hinton 在 CHM 和谷歌的团队之间斡旋,推动整件事的进程。双方花了五年的时间,协商发布事宜,以及具体的发布版本。
事实上,自 2012 年论文发布后,AlexNet 的源码已经有了多个版本,GitHub 上也有不少名为「AlexNet」的代码库,但其中许多并不是原始代码,而是根据那篇论文重新创建的。此前,Krizhevsky 开发的 AlexNet 前身 ——cuda-convnet 也曾作为开源代码发布,但它是在较小的 CIFAR-10 数据集上训练的。
03月14日,跟着习主席看世界丨这里是秘鲁,澳门百老汇会员注册,m6米乐官网是多少,鸭脖体育官方网址,万博手机网页登陆
03月14日,防汛硬仗打响,广东全力以赴筑牢“冲不垮的堤坝”,环球怎么注册,BOB注册App,彩二官网,赢钱的小游戏
03月14日,制造业大市苏州探索以服务促发展,必博官网是多少,亚盘买球犯法吗,鸿博体育平台官网入口,斗球官方网站下载
03月14日广州:讲述华侨故事 感悟家国情怀皇冠90手机app下载皇冠体育注册官网188在线注册亿德仪器官网
03月14日尊宪崇法|人民网评:坚定宪法自信 走好自己的路天天体育平台官网首页体育下载地址开云竞彩官网纬来体育下载地址
03月14日外交部:欢迎大家到海南走走看看 也欢迎各方继续搭乘中国发展快车九州备用网址net爱游戏官网版app千亿怎么开户澳门老百汇电玩城……
03月14日,【我在中国当大使】“欢迎中国朋友来‘打卡’”,必赢技巧,菲律宾亚星注册,bbin体育协会,澳客竞彩篮球官网
03月14日,气象专家解答:海南今年极端天气为何频发?,彩票快三app大全,手机万博官网登录,五花牛,ob体育官网登录界面
03月14日中国工信部:深入推进电信业务向民间资本开放信誉最好的网投十大体育平台龙8手机网页版登录ror体育平台可靠吗365bet平台在线日,【理响中国·人民至上@中国式现代化】海报|塑文明乡风 促乡村振兴,世博体育手机版下载,ag8游戏网站,澳门葡萄免费视频,aoa体育官网地址
03月14日,北京便利群众诉讼 去年法院提供网络化诉讼服务408.1万次,伟德体育买球,博鱼赌场网站,乐鱼电竞官网登陆,欧宝娱乐在线日,两岸青年角逐工业机器人竞赛,韦德体育注册,三昇体育官网,怎样下载365网,九州天下现金网入口
亲爱的朋友,特斯拉失控撞到路边店面 房梁全塌了文化中国行 海南非遗加强活态传承、文旅融合、创新发展——焕发新活力 非遗正青春真金赌博在线皇冠足球现在网必威官网网页登录bet36体育在线备用注册
千万不要对抑郁症朋友说,今年华语文学圈4位重量级女作家离世2024文昌国际航空航天论坛在海南文昌开幕狗万登录立博网投贝博app平台1388彩集团
Keria锐评Meiko芮尔,一展难求的链博会都塞进了啥突发!俄罗斯圣彼得堡一仓库起火 过火面积达7万平方米必赢体育唯一官网入口bsports app下载天博官方app官方版下载九游会下载安卓版下载东西吗
人生92岁她在豆瓣杀出8.4的高分,玛莎拉蒂起火众人飞奔相救浙江台州高速隧道一线:无惧“烤”验 用汗水诠释担当ag亚美体育下载火狐体育网址永利网365bet手机官网app
花儿与少年 第六季,釜山世乒赛团体赛抽签仪式银发“搭子”参与社区治理 浙江阿姨“舞”出精彩晚年飞禽走兽单机九州电竞aoa体育地址闲和庄