能否请田师兄简单介绍一下自己?虽然我知道田师兄呃已经非常有名了,呃,很早很早之前我已经了解到田师兄的大名,还是麻烦田师兄介绍一下。好的,嗯,那欢迎那个呃交大那个呃美洲校友联谊分会啊过来采访我,啊,我也很荣幸,嗯,能够呃在这次采访过程中呃获得一个露脸机会啊,给大家讲讲一讲我这边的一些有意思的故事。嗯,对,所以我这边是那个二零零五年交大本科毕业,然后二零零八年呃三月吧交大硕士毕业,啊,所以我在交大待了大概有很七年的时间,对,然后我就去哪卡内基梅隆大学啊是进行啊读博士。啊,大概到我在博士读了五年吧。对我之前之前还写过一部呃,就是 blog 叫博士五年总结。对,二零一三年九月我是博士毕业啊,然后先去了那个啊谷歌的无人车团队啊,那个时候还不叫那个 Waymo 啊,那时候还是叫 Google X,叫 Schiffer 啊这样的一个内部代号啊。后来大概他们那个一一六一七年的时候才变成叫 Waymo。

啊,那个,但是我在那边待了个一年多一点吧,然后我就去了那个 Meta,啊,就是现以前叫 Facebook,现在叫 Meta,嗯,啊,所以我在 Meta 一待就是十年多的时间吧,对,我现在可能就是十年三个月四个月的样子,对,也是很久了,所以也算 Meta 的老员工了,啊,大概是这样的一个过程吧,对我在 Meta。呃,做了一些,主要是做研究吧,嗯,做这种比较前沿的一些一些研究啊。一开始是做围棋啊,所以我们当时是发布了叫 Dark Forest 这个 AI,就是比那个啊,当时 AlphaGo 要早几个月啊,然后效果也也也挺不错的啊。后来我们在二零一八年的时候是复制了那个 AlphaZero 啊的训练算法啊,这是一个大规模强化学习的训练算法啊,然后我们当时训练出了一个很强的围棋程序,能战胜。

呃,韩国的几个顶尖的棋手啊,当时我们的战绩是二十比零,啊,对方是一局都没有赢啊,然后我们就用单卡啊做那个推理啊,然后五十秒一步啊,然后战胜了啊所有四位,呃韩国棋手啊,每个人啊下了五盘棋啊,其中还包括就是当时还没有成为世界第一,后来成为世界第一的申真谞。啊,就是现在我听说是,就是申真谞的棋风非常像AI,就是从那个时候开始,他们学习AI的那个下棋的方案,他的的棋风就跟那个正常的围棋来说就不一样了,然后下得就非常好,现在变成了排名第一。啊,当时我也觉得很有幸啊,这个人这个AI能够跟,呃,那么厉害的那个职业棋手下棋啊,并且看那个AI的表现啊,所以当时我就已经感觉到,就是,嗯,AI这种左脚踩右脚的这种自我强化的能力啊,最终是能够,呃,给大家一个很大的惊喜的啊。

所以呃,现在我们开始这边做那个呃强化学习和那个大模型的结合吧,对吧?所以一些推理模型的结合,所以其实现在大家也就发现了,其实强化学习和大模型的结合有会有很多的有意思的发现啊,所以这个也是很令人振奋的一个方向啊,大概是这样子吧。所以那么在这中间呢,其实啊我在做完围棋项目之后。啊,我这边也会,呃,我这边当时是也做了一些,就是更加偏于研究的项目,啊,比如说,呃,关于就是怎么样用AI来做决策优化,啊,怎么样用AI啊来做一些那个。啊,多热多多多项目啊,多智能体,对吧?然后啊,怎么样研究这个神经网络内部的结构?那打开它的黑箱,找到它的那个啊工作机理啊,这些啊这些项目啊。那在大模型出现之后呢,啊,我们这边也做了一些就是快速推理啊,这呃和那个加速的啊一些一些工作。那么这些东西其实以后应该说对于强化学习的这个啊和那个和大模型的这个联合是有很大的帮助的。啊,大概是这样的一个历程吧。啊,对,其实有一些有意思的工作啊在这里面啊。那么我现在在外他已经已经十年多了嘛,反正也在继续啊这个旅程啊。最近我们也加入了那个Jenny I团队啊。之前我们是在那个Fair,就是Face Research啊,是做纯研究的一个方一个一个组啊。我最近啊,我们是被呃,相当于是征招吧,征招进了那个真链AI,然后我们开始做一些可能更加和我们的大模型发布有关系的工作吧,嗯。

明白明白,呃,非常波澜壮阔的一段历程。我觉得师兄师兄做的很多东西都是非常重要的,并且也有非常 fundamental 的一些东西,特别是对那些机理的研究,那些东西呢,感觉其实,其实比应用的可能会更加影响深远一点。嗯,对对对,不过师兄既然嗯,你说那确实也很难,是是是是的,是的是的,就是呃,师兄在Meta工作了十年,就是其实我我加入Meta没有多久,但是我感觉Meta其实还是非常忙碌的,呃,我觉得师兄他在Meta这么忙碌的情况下,还能抽出时间写这么精彩的小说。我觉得十分佩服。最近我是拜读了您的小说,快速的呃浏览了一遍,然后我感觉写的非常的好。那到后面的话。就是很很有点像侦探小说,有点像科幻小说,哇,感觉很多都没想到,写的非常的精彩。不过当时您为什么要决定呃写小说,或者是写这样一个时空背景的小说呢?

呃,是这样,我觉得写小说本身是我的爱好吧。就是我其实从二零零五年、零六年开始就有这个写小说的想法。当时我是写英文,主要那个时候看了很多网络小说啊。然后,呃,当然就是这个属于属于摸鱼的一种吧。当时我去那个未来校园园做一做实习的时候,呃,有一阵子心还挺喜欢看小说的啊。对,但是看多了之后,就是我会觉得就是很多小说我还不如我自己写,我感觉是这样子。当时这么想没想法,但是一开始我写的时候是非常糟糕的,对,就是写出来的东西是不能看的,嗯,我可能一开始度过了一些比较两三两三阶段时间嘛,就是我自己试着写写看啊,然后发现写的非常糟糕,不怎么样,对吧?但是这个热情一直没有去没有没有退下来,对,然后等到我二零零八零九年的时候。呃,我觉得就开始质量就开始变好了,啊,就是确实质量还是不错的。其实,在我主页里面也有一些过去的写的一些小说,就是这样已经可以了,啊,那么这个到了博士阶段,那当然有段时间我是比较忙的,其实也没有特别多时间写小说啊,但是呢,在这个过程中间,其实也积累了很多小说的素材,嗯嗯嗯。

那么这些素材呢,其实是就是人生的生活的一些点滴吧,就是一些因比较有意思的或者能够引起比较大情绪波动的一个瞬间,那我也会记录下来。记录下来之后呢,就是它成为一个素材。那么这个素材最后怎么样合在一起变成一个有意思的故事,那么那个就要等到很久以后了啊。所以基本上我在毕业之后,我会去看这些素材,我会去想一想这些东西能干什么啊?怎么这个时候呢?我其实已经对这部小说的一个结尾呢有一些想法。因为一部一般一部小说是这么生成的,就是一旦作家对他的开头、结尾和高潮有一些想法之后,那么它就自然而然就形成了。啊,就是说,接下来的任务就是把这个这些东西连起来。啊,通过人物的刻画,然后通过故事的推进,慢慢把这些东西连起来,连起来之后呢,就成为一部又有意思的小说啊。当然,就说这个时候我写这个小说的那个就是能力还不是很成熟啊,因为我会觉得就是比如说我会说啊,我这个周末我就抽时间出来我写一段,然后通过这种方式来推进啊。但是你会发现就是经常写着写着写了两天啊,发现我写出来的东西是废稿,就说也许这个故事在这一部分可以这样进行,但是它对于整个全局来说可能不是一个好的进展。啊,所以就会发现我花了很多时间,但是这些时间不是很有用。啊,后来我就下定决心了,就是二零二零年的时候,因为那会是疫情嘛,对吧?所以说你也非常无聊,天天在家里待着,也不能去别的地方。啊,所以那段时间我就在想,就是要把自己逼一下自己吧,我就在知乎上宣布自己要写小说,自己不想要连载啊。对,所以这个很有意思,因为一旦向大家宣布之后,那就会有压力给过来,就是拜拜了。对,就会读者来催稿啊。对对,然后我自己会也会自己有要求,我会觉得我既然说了句话,我就得实现啊,所以就会逼着我自己每天。呃,每天晚上会,或者每天早上会花一点时间去写啊,大概是这样的一个一个状态。对,那么这个过程中呢,其实会把之前的很多的这种备用稿件拼起来。因为这些很多的稿件其实是这部小说的一个可能的一个方向,对吧?是开头的方向都比较明确了,所以还是比较可以写。但中间有些地方你要补的,那么在连载过程中,就是加工、加工你这个加班加点把它补足了,大概是这样。那么这样的话呢?大概连载了三个多月吧,然后这部小说就写完了。

哇,比太快了!对他每每天都会写的话,其实是很快的,就是嗯嗯,就是这个还是要逼一下。那写完了之后,那就可以慢慢润色啊,然后慢慢那个加工啊,加工之后呢,就嗯之后其实有出版社来找我啊,电子工业出版社来找我问就是愿不愿意出版啊。我当时也很惊讶,因为我当时也是网上随便写的。啊,也不是想到要出版或者要怎么样啊,但是他们还是挺欣赏这部小说,所以后来就啊就出版了啊,不消之众就出版了。嗯,但但中间还是拖了点时间嘛,也比较忙啊,所以后来大概是在去年呃中中年年终的时候啊,终于出版了,所以还是还是OK的,大概就这样这样个历程吧。对,然后第二部其实也写了一部分吧,那个时候哇,不过后来厉害厉害呃也是挺忙的啊,所以也没有写下去。那么之后再看一下,其实还是要改一改啊,因为第一部写出来之后,其实还是有很多反馈啊,有些反馈我觉得还挺有道理的啊,所以我肯定要想一想。嗯,所所以第二部也是基于第一部的延伸吗?哎,是的,是的,是对,第二部是第一部延伸嘛?第二部就是说,可能在第一部的这个基础上,就是把这个想法扩展到整个银河系吧,然后看看就是在这样的一个设定下,会有什么样的有意思的故事会发生?嗯,很期待,很期待。我觉得这这算是您的第一部就是出版的小说是吗?啊,对对对,其实我之前有写过一些小说吧,只是网上我自己的网页上是有的啊,但是都没有出版,嗯。我我觉得第一部出版小说豆瓣,我觉得豆瓣评分已经很高了。我看了,呃,非常非常厉害。我自己看完以后也觉得这个就是值得拍一部电影了。之后可能会有电影版权了。嗯,对对,我电影版权还在我手里。如果有人很有兴趣的话,可以联系。对对对对,欢迎欢迎相关的电影出版方联系师兄啊!

对我在看那个小说的时候,呃,就是我在看那些人名的时候,特别是主角的名字的时候,我觉得这个这些人名呢,可能在生活中,至少在我生活中,好像不太常出现,所以我在想,呃,师兄在给那些主角起名的时候,有没有特别的一些深意?啊,其实没有特别的深意吧?对,像那个朱小河和林福雨这两个人加起来就是“福小”两个字嘛,对吧?所以其实是有一些名字在里面。然后苏烈的名字其实就是“苏醒的火焰”的意思。对,其实其他倒没有特别大的意思,我没有花太多时间在起名字上面啊。我当时看感觉风息云这个名字一看就是男主,但怎么一上来就没了呢?对,这个名字起的挺好,但是可惜用错人了,可能这样吧。嗯,不过后面写了,那可能就是这样了。嗯,啊,不过最后发现他一直都在,还是很厉害,很厉害的。

嗯嗯,就是师兄在一个知乎的文章里面有提到过,这个小说呢是在 ChatGPT 出来之前写的,都是一字一句敲出来的。那后面第二部的时候有没有用 LLM 来用来写小说上面?你感觉效果怎么样?呃呃,其实现在也会试一下,但是我感觉上呢,其实用的感觉不是特别好,因为一个是它写出来的风格跟我想的风格不一样。嗯,这个是一个,然后另外就是他有很多的一些细节,他可能抓不住,就是所以呢,他可能对一个人的描写,或者说对事情的描写,会流于一个比较。平淡的一个写法啊,就比如说王子公主最终幸福的生活在一起这样的故事啊,所以我会觉得这样的故事其实不太适合写出来,对吧?就是作家要有自己的风格嘛。对,呃,所以我一直在关注这方面。像我们之前研究,其中有一部分的研究其实是怎么样用A I M来写小说啊。这个是之前我们有几篇工作是做这方向的啊。但是确实写出来的东西不是特别比较平淡,就是没有没有起伏,然后也没有这种就是作家特有的风格,这块还是比较难的,嗯。它是不是可能就是从语料库里面提取一些类似的一些,呃,是的,因为我觉得大语言模型的问题是它的目标函数就是啊,想要模仿其他人的写法,对吧?但是写小说的人是希望出新的,不希望模仿其他人写法,他希望这个写的东西跟别人不一样。啊,所以它其实从本质上来说,跟大语言模型的训练目标还是是违背的,啊,所以这个其实是挺难。但是大语言模型其实可以拿来做很多的,就是润色或者说是那个一些桥段的这个这个就是连接的工作,我觉得这个应该是可以的。对,嗯,有有没有就是你实际上用过效果不错吗?呃,怎么说呢?就说其实现在因为模现在这个模型越来越好了啊,所以现在效果看起来还是可以的。就如果大纲或者说这个主要的那个方向把握住的话,就是让它扩写。然后他的结果还可以啊,但是呢,你看了之后,你会禁不住说,我让我这个地方改一点,那边改一点。我希望这个那个改加一些东西,能够让这个小说变得更生动啊,感觉还不够生动。很多时候就人比较人物比较呆板,就是比较呆板,就是觉得这个人这么做和那个人那么做都比较有规矩嘛,嗯,不是特别的那个鲜活吧?我感觉是这样子。

明白,明白,明白。其实,就是我在读这个小说的时候,我感觉师兄好像是把自己生活中的一些体验,还有一些看法,都给他注入到这个小说里面了,不同的人物里边了。特别是他们发表的一些观点,然后就就开始的时候,那个呃那个研究研究组里面讨论研究方向啊,那些评论啊,我仿佛都看到师兄读 P H D 期间的一些遭遇。对,就是这部小说前一部分,其实很多时候跟我P H D的一些有意思的事情会是有重合的。这个是从他们那边来的素材,嗯,对,但是它最后的走向其实是我一开始写的时候是始料未及的。哎,不过话说话说回来,就是当时您在呃就是在知乎上逐渐逐渐更新的时候,那个小说已经是大概就写完了吗?只是润色一下去更新,还是说是根据更新的部分然后再去想接下来要写的桥段?

哦,应该说是这样嘛,就是说,呃,应该说这个还是一开始呢,我觉得我的大纲都已经写完了,然后那个桥段写完了,应该很容易就能够连载。那其实不是这样的,就是我估计可能在二十章写完了之后呢,你会发现有些展开可以有更好的做法,有些人的选择可以不一样。那到这个时候,你就发现你的大纲没有用了,就是你就必须得要自己创作一些你就是之前没想过的想法,但这个想法很非常让人激动,是应该写下来的。对吧?但同时呢,要想办法能够把它拉回原来主线啊,所以其实有段时间挺辛苦的,就是你怎么样去想把这个新的或者有意思的这样一个组合啊,和啊和现在的已有的那些素材能够结合起来啊,所以这个很有情很有意思。嗯,就是很很像金庸当年连载小说的感觉。嗯,对,就是比如说有人给他代笔,对吧?然后发现这个人被他写死了,怎么办?对对对,办法你要收回来,然后同时要把以前的素材跟他结合起来。啊,所以这很有意思,这是一个非常有意思的一个一个一个事情。嗯,很不错,很不错。