第362章 未尝也不是一件好事(2/2)
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
毕竟在MIT被人指出问题,总比在校外被人指出来强。
在校内指出问题。
代价无非是当场被追问几句,回去之后改掉就行。
毕竟是自家地盘,大家都不会太过苛责。
如果是在纽约大学或者UCLA的交流会上被问到同样的问题。
台下坐着的是外校的教授和学生。
他答不上来或者答得不完整,就会影响对方对他工作严谨性的整体判断。
那种场合下丢的面子,比现在要大得多。
说改就改。
林晓立马把数据预处理脚本重新打开。
找到了那个分布重标定的操作进行修改。
......
三天之后。
完成了MIT这边的学术报告。
林晓马不停蹄赶往纽约大学。
库朗数学科学研究所的报告厅。
林晓站在讲台前。
此时的PPT已经翻到了最后一页。
“我的报告到这里。谢谢大家。”
他合上翻页器,退后半步站到讲台侧边。
报告厅里安静了片刻,然后掌声从第一排开始响起。
第一排坐着的是纽约大学计算机科学系和数学系的几位教授,其中有两位是勒丘恩的长期合作者。
在他们的带领下,后排的学生跟着加入。
掌声从稀疏变成密集,最后在整个报告厅里连成一片。
林晓站在讲台边,微微欠了一下身。
报告结束后。
意味着提问环节已然开始。
坐在第二排的一位中年教授举了手,他做的是深度学习理论方向。
“你在糖质密度图的质量评估网络里用了卷积结构,但卷积的平移不变性假设在密度图上是否成立?”
“糖质的局部结构在二维投影中可能因为取向变化而产生位移,卷积核对这种位移的响应是否稳定?”
“你做过旋转镜像的数据增强吗?”
林晓回答:“做过旋转增强,但没有做镜像增强。”
“原因是糖链的螺旋方向在生物学上有意义,镜像翻转会破坏这个特征。”
“平移不变性的问题确实存在,我采用的策略是在切分局部片段时用重叠窗口,让同一段结构在多个窗口中出现在不同位置,网络在训练中会逐渐学会忽略这种位移。”
“效果上,验证集上加入随机平移扰动后,质量评估准确率的下降在可接受范围内。”
那位教授点了点头:“所以你是用数据增强来补偿卷积的归纳偏置,而不是修改网络结构。”
“对。修改网络结构需要引入更复杂的等变网络,训练成本更高。在现有数据规模下,数据增强是更务实的方案。”
紧接着又问到几个问题。
林晓轻松地回答完。
于此同时。
他在心里也感受到两个学校的差别了。
他在MIT做报告的时候。
问的是采集函数的数学依据、损失函数在饱和区的梯度行为、参数空间维度与优化策略的匹配关系。
每一个问题都指向方法链条中最薄弱的那个环节。
逼着他把推理过程从头到尾重新走一遍。
而在纽约大学。
虽然提问的人也很认真,但问题的层次明显不同。
不得不说,在某种程度上。
这或许已经说明了一些问题。