首富从AI浪潮开始 第347节

　　这个会议室空荡荡的，连个屏幕也没有，更别说专用于视频会议的摄像头了。好久没用过这么简陋的会议室，还挺不习惯的。

　　赵文渊拿出接下来要面试的候选人的简历看了看。

　　章闻铎，水木的计算机科学准博士，研究方向是人工智能，细分方向是世界模型。

　　有意思。

　　国内做这个方向的不多啊，他的导师是谁？

　　赵文渊翻了翻简历，没写在简历上。

　　这孩子，不是很会写简历啊。

　　赵文渊不由得回想起自己博士刚毕业的时候在美国找工作的经历来。

　　那个时候人工智能还没爆发，ChatGPT还没有横空出世，即使是人工智能方向的博士，就业方向也就有限的几个大厂，人家还不一定要你。

　　赵文渊准备的简历，别说是自己的论文，自己的导师，恨不得连学术会议上说过两句话的行业大佬的名字都写上去。

　　现在时代不一样啦，只要是学人工智能的，不管你跟的是谁，都不愁找工作，薪资还被炒到了天上去。

　　没办法，行业太缺人了。

　　赵文渊打开电脑，在知网搜了一下章闻铎的名字——信息检索是做研究的基本能力，简历上的不全，就自己再找找吧。

　　花了几分钟收集了一下章闻铎的信息，赵文渊挑了挑眉。

　　竟然发了NeurIPS的长文，还不止一篇，还都是第一作者，引用量也不低。

　　赵文渊又点进去看了看通讯作者，庄治院士。

　　看起来不是个水博啊。

　　就在这时，门被敲响了。

　　“请进。”赵文渊说道。

　　一个年轻人走了进来，瘦瘦高高，带个黑框眼镜，穿着棉质衬衫，一脸的学生气。

　　“你好，是章同学吗？”赵文渊打招呼，“请坐。”

　　“博士。”章闻铎坐下，开口说道。

　　赵文渊一愣：“啊？”

　　“我已经答辩通过了，虽然还没有参加毕业典礼，拿到学位证，但是已经是一个博士了。”

　　赵文渊闻言动了动嘴角，谁还不是个博士了。

　　我还是斯坦福的博士，我和谁说了吗？

　　“好的，章博士，你好，我先自我介绍下，我叫赵文渊，斯坦福的博士，出自李飞飞教授门下。”

　　这话一出口，章闻铎眼神就是一动。

　　见面自报家门，这就是学术门派之间的碰撞。

　　赵文渊接着说：“我现在担任源智京城研究院的院长，负责统管源智在京的所有事务，以及研究团队的研究方向，今天由我来对你进行面试。”

　　章闻铎点了点头，然后转头看了一下四周，开口问道：“韩总不在吗？”

　　赵文渊又是一愣。

　　这个章博士，说话总是出人意料啊。

　　“韩总不在京城，之后也不会常驻京城，今天只有我对你进行面试。”赵文渊确认了一下。

　　章闻铎没说话，眼睛里有点儿失望的眼神。

　　赵文渊能读懂里面的意思：你谁啊？怎么不让韩总面试我？

　　赵文渊觉得有点儿好笑，但是又有点儿熟悉，他刚去谷歌的时候也是这样，但凡碰见个级别比他高的就想和人家比比论文引用数。

　　凭什么你级别比我高？

　　后来他被社会教育了，才明白出了学术界，论文引用数的作用就大大下降了。

　　其实在学术界也没有那么好用。

　　赵文渊容忍了初出茅庐的章博士，情商低就情商低吧，我也不是雇你过来当行政的。

　　先看看你水平到底怎么样再说。

　　赵文渊把电脑合上：“我们开始面试了，先聊点基础知识。”

　　章闻铎把身子挺直，手也攥了攥。

　　还行，还知道紧张。

　　“你是研究世界模型方向的，那么你怎么定义世界模型？”

　　章闻铎几乎没有停顿。

　　“一个系统如果能从有限观测里构建环境状态的内部表示，并且能利用这个表示预测未来观测、评估动作后果、支持规划和反事实推理，就可以称为世界模型。”

　　赵文渊点点头，接着问：“世界模型和一个很强的next-token predictor（下一个词元的预测器）有什么区别？”

　　“区别不在输出形式，在内部表示的约束。”章闻铎推了推眼镜，“Next-token predictor只需要学到文本分布里的条件概率，哪怕它在很多任务上表现得像理解了世界，也可能只是学到了足够复杂的共现结构。”

　　“想要成为世界模型，必须满足三个条件。”章闻铎伸出三根手指，“一，状态压缩，不同的表述在同一个世界状态下的内部映射要一致；二，状态更新，新观测会引起内部变量按照可复用的规则更新；三，因果性，对于事件的预测不是纯粹基于相关性的，而是能给出相应的因果关系。”

　　赵文渊边听边点头。

　　这个章博士对世界模型的理解还挺深刻的。他说的这些，没有哪个官方的学术定论，但却都描述了世界模型的主流方向。

　　第一点是说，同一件事不管你怎么表述，本质是一样的，那就应该表示为同样的内部状态，比如说“一只猫在桌上”和“桌上有一只猫”，不能因为说法不一样，就在内部作为两种表示。

　　第二点则是说，世界变化的时候，内部表示要更新，而这种更新要遵循规律。这种变动本身避免了每次瞬时状态都要从头进行大量运算，而是可以用上一状态和变化量来计算下一状态。

　　第三点是学界现在最热门的课题之一，相关性不代表因果性，夏天冰淇淋的销售增加，淹死的小孩也变多了，但是并不是吃冰淇淋导致小孩被淹死。这是纯语言模型最容易出错的地方。

　　赵文渊继续提问：“那你怎么验证一个语言模型有没有内部状态？你拿不到权重，只能黑盒调用。”

　　章闻铎嘴角挂起微笑。

　　这就是他博士论文的课题，现在还没发表，但是在面试里牛刀小试完全没问题。

　　“黑盒很难验证‘有内部状态’，最多只能排除低级解释。”章闻铎说，“我会设计状态追踪任务。定义一个隐藏状态，把同一个状态用不同叙述方式包装——叙事文本、表格、聊天记录、甚至带噪声的口述，都可以。如果模型真的有稳定的内部表示，在不同包装下对同一问题的回答应该一致。”

　　“一致就够了吗？”

　　“不够。还要加干扰项，再做反事实。问它如果第三步没有发生，最后状态是什么。只有在反事实任务上也稳定，才说明它有某种状态迁移能力。”

　　赵文渊点了点头，章闻铎在世界模型的检测这块研究的挺深。

　　“我们假设你已经有了很好的状态探针，需要一个状态追踪框架。如果要作为持续评测指标跑进训练循环里，你怎么保证评测信号本身不成为训练目标的一部分？”

　　赵文渊接着问道。

　　这在机器学习里是个永恒的难题。

　　甚至在现实世界中也是个永恒的难题。

　　当你的考核固定，你怎么知道考核对象是学会了知识，还是背过了答案？

　　章闻铎皱起了眉头。

　　从概念上来说，他知道这是什么问题。

　　但是他从来没有处理过需要循环训练，动态更新的大规模项目，没资源，也没必要。

　　赵文渊微微一笑。

　　这是典型的工业界而非学术界的问题。

　　章博士，你要学的东西还很多啊。

　　章闻铎还在思考，赵文渊看了看表，已经十点五十了。

　　“今天的面试问题就先到这里吧，我们还有十分钟的时间，你有什么问题想要问我的？”赵文渊说道。

　　章闻铎被打断了思路，有点儿不甘心，但是他确实一时也想不出什么可行的答案，只能强行把自己的思维从问题中拽了出来。

　　面试的地方多了，章闻铎也有自己的一个“对面试官问题集”，直接抽题出来问就行了。

　　“贵单位现在有多少人？”

　　赵文渊说：“在京的有十五人，在招岗位十五个，最终会有三十个研究员，还有其他的行政岗位。”

　　“你们的可用算力有多少？”

　　“我们的算力全部是自有集群，现在有十多个五百卡集群，机房就在张家口。”赵文渊回答道。

　　至于这些集群其实都是国产卡，CUDA体系用不了这些事，赵文渊没说。

　　毕竟你也没问啊，对吧？

　　听到这个答案章闻铎还挺意外的。

　　像源智这样的初创企业，竟然已经有近万张卡了？是A100？不会是H100吧？

　　但是为什么都是五百卡的集群呢？为什么不做大集群呢？五百卡怎么做训练？

　　章闻铎心里的疑问很多，但是没有问出来，涉及一些机密信息了，他也知道不方便问。

　　章闻铎回想了一下赵文渊面试开头说的话，突然问出了一个不在他的“问题集”里的问题。

　　这个话题他也和师哥师姐们聊过，甚至和导师聊过，但是他还没有自己的答案。