首页 > 都市重生 > AI时代:码农的涅盘重生 > 第174章 组建小组

第174章 组建小组(1/2)

目录

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。

周三上午十点,3号会议室。

林晨第一次以项目负责人的身份坐到了主位上。面前的白板还是空的,马克笔整整齐齐地放在槽里。他手里捏着一张A4纸,上面是自己昨晚写的会议提纲——字迹有点潦草,但逻辑清晰。

门被推开,两个年轻人一前一后走了进来。

走在前面的是个高个子,皮肤偏黑,穿着T厂标准的灰格子衬衫和运动鞋,嘴角总挂着一丝不太自信的笑。他叫张明远,去年校招进来的,在推荐系统组做了一年多的特征工程,写代码快但架构经验不足。简历上写着华科本科、浙大硕士,专业方向是机器学习。

后面跟着的是个短发女生,戴一副金属细框眼镜,表情淡然,看起来话不多。她叫陆小溪,今年初从一家AI创业公司跳槽过来,在推理引擎组待了半年,负责模型部署和性能优化。技术功底扎实,但对推荐系统和可解释性方向了解不深。

坐吧。林晨指了指对面的椅子,咱们认识一下。我林晨,之前在轻舟项目组做可解释性方向,现在负责透明蒸馏这个子项目。

张明远坐下来,双手放在膝盖上,看着有点紧张:林工好,我看过你上次技术分享的PPT,讲得特别好。

叫我林晨就行,不用叫林工。林晨笑了笑,转向陆小溪,小溪对吧?你在推理引擎组的时候,优化过模型加载速度,那块做得不错。

陆小溪微微点头:嗯,我之前主要做模型部署和性能优化,蒸馏这块接触不多,可解释性就更少了。

没关系,这就是我们这个项目有意思的地方。林晨站起来,走到白板前,拿起一支蓝色马克笔。

他在白板上写下三个词,排成一行:可解释性|蒸馏|结合。

我先把项目背景说清楚。他在每个词让大模型变小、变快、变便宜,同时尽量不损失效果。传统蒸馏只关注效果保真——学生模型的输出尽量接近教师模型。但陈博士提出了一个新要求:在蒸馏过程中,不能只传递输出,还要传递决策依据。换句话说,学生模型不仅要,还要解释为什么答对

他在

这就是我们的项目名——指的是模型决策过程透明可解释,指的是从大模型到小模型的知识迁移。两个目标合在一起,就是我们的核心任务。

张明远举手:那可解释性具体怎么定义?是特征归因那种,还是生成自然语言解释那种?

好问题。林晨在白板上画了两个分支,短期我们先做特征归因——就是Shapley值、注意力权重这些,让模型能指出哪些特征对这次决策贡献最大。远期目标是生成自然语言解释,但那需要更强大的模型支持,先不急。

陆小溪推了推眼镜:蒸馏部分呢?用哪种蒸馏方法?硬标签、软标签、还是特征蒸馏?

这是我们要在技术方案里确定的核心问题。林晨在白板上画了一个问号,我的初步想法是——如果只用传统的软标签蒸馏,学生模型学到的只是教师怎么输出,学不到教师为什么这样输出。我们需要设计一种蒸馏损失函数,让学生模型同时学习教师的输出分布和特征归因信息。

相当于在蒸馏损失里加了一个可解释性正则项?陆小溪反应很快。

对,可以这样理解。林晨点头,但具体怎么设计这个正则项,怎么在效果和可解释性之间找到平衡,需要实验验证。这也是我需要你们帮忙的地方——明远负责特征归因的实现和评测,小溪负责蒸馏实验的数据管道和模型部署。

他在白板上画了一个简单的分工图:

林晨(架构设计+技术路线)├──张明远(可解释性模块实现+评测)└──陆小溪(蒸馏数据管道+模型部署)

时间线是这样的,他在白板右侧画了一条时间轴,第一个月出架构方案和技术路线,第二个月做原型验证,第三个月做A/B测试和效果评估。现在我们处于第一个月的开始阶段,本周的目标是把技术方案框架定下来。

本章未完,点击下一页继续阅读。

目录
返回顶部