沸腾文学

手机浏览器扫描二维码访问

第86章 视觉新范式(第2页)

至于分割网络,则是这两天随着DreamNet的论文一起放出的U-Net工作。至此,可以说视觉类几大任务的基础范式已经被孟繁岐奠基。

今后不论是识别分类,分割检测,还是迁移生成,都很难绕得开这些轻便又好用的办法了。

“可以看到,这种思想席卷视觉领域之后,使得目前主要的研究方向都有了颠覆性的突破。”

孟繁岐将这几篇论文的主要试验结论摆在了幻灯片的第二页,就是要先以结果震撼众人。

“显然,这些算法在诸多领域都与第二名拉开了巨大的差距,而相当一部分的功劳应当属于残差思想对网络深度的革命。”

“在10年11年,我们仍在使用人工设计的SIFT,HOG还有SVM,12年,阿里克斯的八层AlexNet取得了巨大的突破。”

“而今年,残差思想引发的深度革命,使得训练150+层的神经网络成为可能。”

“深度神经网络是很多任务场景,尤其是视觉任务场景的基础引擎和骨干,这也是为什么它能够迅速影响几个主流的任务。”

“从结构上看,DreamNet并没有什么特别的,比起之前每一层都单独设计的网络,我其实故意希望它变得简单,重复。”

孟繁岐身后的幻灯片展示了一个极其细长的图案,这就是一百多层深的DreamNet结构图。

放大展示它的基本设计,众人发现,它的单层设计非常简洁朴素,只采用了最常规的算子操作。

长长的结构图滚动了起来,观众们都发现,原来每一层并没有任何区别,只是单纯在重复。

由于一百多层的滚动需要太久,在这个严肃的场合显得有些喜感,场内发出了一阵阵笑声。

“那么这里就引出了一个问题,那就是是否单纯地把网络做大作深,就总是可以取得更好的结果呢?”

孟繁岐的这个问题,直到2023年也没有一个理论上的答复,但很显然,巨大的模型还在持续地创造一个个奇迹。

不管是绘画,对话,还是图像操作,都还远没有到达极限。

“我非常希望自己能够清楚地从理论上告诉大家这个答案,但由于能力有限,我也只能给出自己的猜测,那就是Yes。”

“我相信,只要更多更好的GPU,更多更好的数据,以及更大大模型和更好的优化办法,我们就可以持续地创造奇迹。”

“而之前的网络在深度上遇到的阻碍,我认为并不是网络的能力问题,而是我们没有找到合适的办法去优化好它。”

让网络多重复几次,这是很多人都试过的事情,很显然,得到的结果是比原本要差的。

这在传统方法中,不是什么奇怪的现象,很多人都将这个现象解释为维度灾难或者过拟合,没有进行足够深度的探索。

“稍加思索,这显然是一个反直觉的现象,对于更深的网络,我们完全可以将小版本网络的所有参数复制进来,而多出来的部分只要什么事情都不做,这个模型就至少不会更差。”

“但事实上,却并非如此,我相信很多人都观察到了这样的普遍现象,那就是更深的模型反而变差了不少。”

我睡后混成大明星  我是导演,我不比烂  万族之尊  家族修仙:我能看到提示  李念洛薇  神豪:抽奖万亿,清纯校花当场跪舔!  变成幼龙被女团捡到,我震惊全网  四合院之我是许多年  从轻小说作家开始的完美人生  重筑2005  我有十万亿舔狗金  真话系统:我成了反向选秀顶流  导演的快乐你不懂  年代:小日子过的真好  都市桃花医仙  超品兵王在都市  百妖食谱:论妖兽的烹饪技巧  我在美国开诊所  学渣被家访,老爹竟是文坛巨佬  没有前世的我,只好成为在世剑仙  

热门小说推荐
武炼巅峰

武炼巅峰

武之巅峰,是孤独,是寂寞,是漫漫求索,是高处不胜寒逆境中成长,绝地里求生,不屈不饶,才能堪破武之极道。凌霄阁试炼弟子兼扫地小厮杨开偶获一本无字黑书,从此踏上漫漫武道。...

倚天屠龙夺艳记

倚天屠龙夺艳记

赵敏的娇蛮狐媚周芷若的举止优雅小昭的温柔体贴不悔的秀丽美艳蛛儿的任性刁蛮  一梦醒来,该是倚天屠龙的另一个新主角上场了...

三寸人间

三寸人间

举头三尺无神明,掌心三寸是人间。这是耳根继仙逆求魔我欲封天一念永恒后,创作的第五部长篇小说三寸人间。...

天美地艳男人是山

天美地艳男人是山

从农村考入大学的庾明毕业后因为成了老厂长的乘龙快婿,后随老厂长进京,成为中央某部后备干部,并被下派到蓟原市任市长。然而,官运亨通的他因为妻子的奸情发生了婚变,蓟原市急欲接班当权的少壮派势力以为他没有了后台,便扯住其年轻恋爱时与恋人的越轨行为作文章,将其赶下台,多亏老省长爱惜人才,推荐其参加跨国合资公司总裁竞聘,才东山再起然而,仕途一旦顺风,官运一发不可收拾由于庾明联合地方政府开展棚户区改造工程受到了中央领导和老百姓的赞誉。在省代会上,他又被推举到了省长的重要岗位。一介平民跃升为省长...

师娘,借个火(师娘,别玩火)

师娘,借个火(师娘,别玩火)

师父死了,留下美艳师娘,一堆的人打主意,李福根要怎么才能保住师娘呢?...

悦女吴县

悦女吴县

书名?阅女无限??呵呵,广大银民,请看清楚哦。吴县,这个二十岁的青涩小子,进城上学,居然一不留神,取悦于众多美女,在众女的帮助下,事业也是蒸蒸日上。且看主角如何将有限的生命,投入到吴县的悦女事业中去。蹩脚的猪脚,由一个初哥,逐渐成为花丛高手。...

每日热搜小说推荐