第81章 教授VS猛男(爆梗1.5w 1/3求首订)

    第81章 教授VS猛男(爆梗1.5w 1/3求首订) (第2/3页)

他现在得知道坑在哪儿。

    有了方向的漆昊,搜索信息变得有目的了,很快他就梳理一些关键点。

    如今的计算机视觉圈子,大家普遍崇拜的是手工特徵算子,像是SIFT、HOG、LBP,然後再搭配一个数学上的支持向量机SVM或者随机森林。

    在主流学者眼里,神经网络本身就是容易过拟合还需要人肉调参的黑箱子,没有海量的标注数据支撑,大家觉得神马深层模型都是浮云,自然也就没人愿意为了这个非主流方向去专门花时间折腾显卡了。

    毕竟,GPU它目前只认识游戏画面,要它去训练神经网络,你必须教它,光是这一步,都要人老命了。

    更重要的是,现在最好的GTX580显存才1.5GB。

    所以,想要在1.5GB的显存限制下,既避开重新写原生CUDA训练代码的坑,又要实现一定的机载视觉的实时计算,所有人都在这里卡住了。

    如果全连接网络会导致参数爆炸,那就必须从数学上限制参数的连接方式。

    空间局部性和权重共享,漆昊想了下,这不就是卷积神经网络嘛!

    通过局部感受野和卷积核复用,可以将需要存储的参数量大量压缩到只有数万的级别,几个G的大小也同时被压缩,1.5G的显存好像也能装下!

    可是,卷积计算在GPU里怎麽高效率跑起来?

    二维卷积需要在一个滑动窗口里不断做局部的乘加,如果用传统的C循环思路去GPU里写多重嵌套循环,GPU的线程束会发生严重的访存冲突,最後跑出来的速度可能连CPU都不如。

    漆昊想到这里有些卡住了,他又只能在网上找神经网络和图像卷积相关的文献来看。

    实验室里面的其他人此时其实因为课题快要结束的事,都松了一口气,坐在漆昊斜对面的李杰正悄悄把手移向滑鼠,准备点开刚刚更新的游戏,而隔壁工位的同门则在用手机刷着天涯论坛,嘴角挂着摸鱼人特有的安详微笑。

    然而,他们很快就注意到了漆昊这边写草稿的动静。

    李杰一慌,游戏图标硬是没敢点下去。

    他偏过头,和旁边的同门师弟交换了一个惊恐的眼神。

    「哎,漆神这是怎麽了,不是已经解决问题了吗?」师弟努力小声问道。

    「不知道啊?」李杰心里咯噔一下,他突然不敢继续心安理得地摸鱼了。

    在科研狗的世界里,最让人胆寒的现象莫过於,大家都在玩,只有学神在疯狂看文献。

    这种恐慌感一旦蔓延,杀伤力堪比一觉醒来,错过高考时间。

    为了打探敌情,李杰悄悄站起身,假装拿着水杯去饮水机接水,在路过漆昊身後时,他偷感十足地飞快瞅了一眼。

    只见那张草稿纸上,写满了各种推导公式,嗯,那些公式重重叠叠的,他看不出写的是什麽,也怀疑漆昊是否也看得清楚。

    回到座位上,李杰感觉杯里的白开水都变苦了。

    他默默关掉了游戏窗口,从电脑里翻出一个马了很久英文文献PDF,开始尝试着看。

    「怎麽样?」旁边的师弟凑过来。

    李杰一脸凝重:「不知道漆神在干嘛,不过大神在前,你还有心情玩天涯论坛吗?」

    师弟犹豫了下,关掉了手机,默默打开了MATLAB。

    其他人看见後,也不好再摸鱼了。

    整个实验室的气氛,在漆昊毫无自觉的学神气场压迫下,硬生生卷了起来。

    大家原本高高兴兴准备开启咸鱼模式,结果旁边坐着一个大佬正在疯狂学习求进步,他们想躺平也躺不下去啊!

    此时的漆昊,根本不知道周围人内心世界如此丰富,他只一门心思看着草稿纸上那张模拟滑动窗口卷积的矩阵示意图。

    卷积核在图像上一格一格地滑过去,乘以局部像素。

    等等!

    每一块滑动窗口里的图像,展开後都是一个列向量,如果把所有的窗口拼一起,那就是一个巨型列向量!

    也就是说可以将输入图像里每一个被卷积核覆盖到的局部小方块,横向拉平展开成一个长长的列向量。

    随着滑动窗口的推移,整张图像就被重新拼装成了一个由无数个列向量并排组成的巨大矩阵,这个过程在数学上可以被称为im2col也就是图像转列!

    然後那个卷积核,也平铺展开,作为另一个矩阵的行向量。

    这样一来,原本复杂的二维卷积运算,在经过im2col的数学转换之後,竟然变成了一个通用稠密矩阵乘法!

    「用这一步数学变换,算是解决了一个门槛问题。」

    漆昊刚才查资料的时候,了解到英伟达打包全套优化数学库,比如cuBLAS。

    这个英伟达打包的官方数学库,对於此时的漆昊来说,简直就是瞌睡送来了枕头,给力到了极点。

    作为英伟达官方打造的数学库,cuBLAS内部的cublassgemm函数早就被架构师针对Fermi硬体架构进行了优化,这可以帮漆昊省下一定的时间。

    英伟达的那位皮夹克老板,在商业策略上是真有远见!

    英伟达之所以费尽心思去打包

    (本章未完,请点击下一页继续阅读)