下一章 上一章 目录 设置
23、被退回来的稿子 2039年 ...
-
2039年春天,江城大学的樱花开了。
星瑶没时间看花。
开学第一周,陶老师就来找她:"校务会收到几封匿名邮件,质疑少年班'资源浪费''名不副实'。校领导的意思是,少年班今年要拿点硬成果出来。你……是第二届里最被关注的。系里希望你能牵头做个东西。"
"什么东西算'硬成果'?"星瑶问。
"论文。"陶老师说,"SCI、顶会,都行。"
星瑶想了想,说:"老师,我寒假里正好有一个想法。我能试试吗?"
"试试。"陶老师说完,又补了一句,"不过星瑶,我知道你聪明,但论文不是考试。考试是答别人的题,论文是答自己的题——答不好,是要被全世界看的。"
"我知道。"星瑶说。
她回到自习室,把寒假那篇草稿——《注意力即压缩:一种基于稀疏结构的注意力重参数化》——摊在桌上。
十五岁的她,要答自己的题了。
第一个来找她的是周野。
"听说你要写论文?"周野拖了把椅子坐下,打开笔记本,"你那个'压缩注意力',寒假我按你的思路写了个模拟程序。你想不想看看结果?"
星瑶眼睛一亮:"你跑出来了?"
"跑出来了。"周野把屏幕转过来,"我拿一个公开的小数据集试的。你那个写法,收敛速度跟标准注意力差不多,但参数量少了三成,推理速度快了一倍。"
"……你确定?"
"我自己的机器跑的,跑了三遍。"周野难得正经,"星瑶,你这个想法,好像真的能跑。"
星瑶盯着屏幕上的曲线,看了很久。
"那……"她说,"你能帮我把它写得更好一点吗?就是,正式一点,能放在论文里那种。"
"论文里的实验图?"周野问,"你没找导师吗?"
"还没到那一步。"星瑶说,"我想先把草稿写完,再找教授看。"
"行。"周野合上笔记本,"那说好了——你出思想,我出程序。将来论文真发表了,你得在致谢里写'感谢周野同学倾情奉献'。"
"……我写'感谢周野同学提供的跑腿服务'。"
"那我自己加一行'附赠三箱泡面'。"
第三个来的是何美琳。
她是听说星瑶要写论文,抱着笔记本电脑过来的:"我妈说,写论文跟写作文一样,结构要漂亮。我帮你看看。"
星瑶有点意外:"你……不忙吗?你那个'这学期专业课要考过我'的flag呢?"
"flag倒了。"何美琳面不改色,"但我可以换个flag——帮你把论文写得比我好。反正都是赢你,赢在哪不重要。"
"……你真是逻辑鬼才。"
"彼此彼此。"
何美琳的专业是数学,但她在写作上确实有天赋。她把星瑶的草稿从头到尾读了一遍,圈出十七处"不说人话"的地方:
"这里,'利用流形上的测地距离'——你说人话。"
"这是对的啊,流形上的……"
"读者是人。人看不懂,你的论文就白写。"何美琳拿红笔一划,"改成'我们利用数据在低维空间中的内在结构'。懂了吗?"
"懂了。"星瑶看着那十七处红圈,心悦诚服,"你是对的。考试考的是答案对不对,论文考的是别人能不能看懂。我习惯了对答案,忘了还要对人说话。"
"对嘛。"何美琳得意地一挑眉,"所以这学期的flag虽然倒了,但我换了个更大的。"
四月,论文第一稿完成。
星瑶把它投给了国内一家人工智能领域的老牌期刊。她按照格式要求,认认真真地排了版,附上了周野的实验数据,何美琳改了五遍的摘要。
两个月后,退稿信回来了。
审稿意见两条:
"实验规模过小,仅在小数据集上验证,说服力不足。"
"作者提出的'压缩'视角与现有注意力理论框架差异过大,建议作者先厘清与标准注意力机制的理论关系。"
星瑶把退稿信看了三遍,没哭,也没摔东西。
她把信折好,放进抽屉,然后打开电脑,开始重读标准注意力机制的数学基础。
"他们说得对。"她对周野说,"我只证明了'能跑',没证明'为什么能跑'。审稿人不是不信我的结果,是不信我的理由。"
"那怎么办?"
"补理论。"星瑶说,"我得证明,'压缩'和'选择'在数学上不是两回事——'选择'是'压缩'的一个特例。如果我能把这个关系写清楚,审稿人就没办法说'差异过大'了。"
"这能证明吗?"
"不知道。"星瑶说,"但我可以试试。反正,我不急。"
她真的不急。她把速度放慢下来,每天读论文、推公式、写草稿,日子过得像个真正的博士生。
六月,第二稿完成。
这一次,她补上了"压缩包含选择"的理论证明,还让周野换了个更大的公开数据集跑了实验。她把稿子投给了另一个会议。
两个月后,又是退稿。
这次的意见更直接:"该工作与主流注意力机制的性能差距在统计上不显著,且理论框架虽有趣,但缺乏对大规模模型的实际验证。建议转投其他方向。"
周野看到退稿信,气得摔了泡面盒:"不显著?我们参数量少三成,速度翻倍,他们说'不显著'?"
"他们的意思是,在'效果'上不够惊艳。"星瑶反而平静,"我懂了。我光证明了'更省',没证明'更好'。审稿人要的是:你这个东西,除了省,还能干出什么别人干不了的事。"
"那怎么办?"
"换个问题。"星瑶说。
八月,暑假,少年班自习室。
星瑶面前摊着一张纸,纸上只写了一句话:
如果注意力是压缩,那它能压出什么"新的东西"来?
她盯着这句话想了三天。
第三天傍晚,她在食堂打饭时,突然停住脚步。
"我知道了。"她说。
"你知道什么了?"何美琳端着餐盘,莫名其妙。
"我一直在证明'压缩'跟'选择'一样好——但我的问题应该反过来。"星瑶的眼睛亮得吓人,"我要证明的是:压缩能做到'选择'做不到的事。"
"什么事?"
"让模型在结构上稀疏之后,还能保留全局的信息。"星瑶说,"现在的注意力,窗口一长,模型就'忘了'前面的东西,因为它在选择最近的。但如果我用压缩……"她放下餐盘,在餐巾纸上飞快地画,"压缩不丢信息,它把所有东西换到另一个空间里互相指认。也就是说——理论上,它可以把注意力窗口撑到无限长。"
何美琳看着餐巾纸上的图,愣住了:"你确定?"
"不……不完全确定。"星瑶承认,"但我觉得,值得试一试。"
当晚,她给周野打电话:"周野,你帮我跑一个实验:把注意力窗口拉长到原来的十倍,看我那个'压缩注意力'还能不能撑得住。"
"十倍?"周野的声音从电话里传来,"你知道十倍窗口,显存要爆多少吗?"
"你想想办法。你不是说过,你写的操作系统,全江城大学找不出第二台吗?"
"……你这是将军。"
"是请求。"星瑶说,"周野,这可能是这篇论文能不能站起来的关键。"
电话那头沉默了几秒。
"行。"周野说,"你等着。我今晚不睡了。"
"你别不睡,你明天还要……"
"我说了,你等着。"
三天后,周野顶着两个巨大的黑眼圈,给星瑶发来一串结果。
窗口拉到十倍,标准注意力直接崩溃,显存溢出,训练中断。星瑶的"压缩注意力"——稳稳地跑完了。
周野在消息里附了一句话:"星瑶,我程序写得再快,也没见过这个。你那个'压缩',好像真的不是'选择'的改良。它是另一种东西。"
星瑶看着屏幕,很久没动。
然后她打开文档,把论文标题下面,郑重地加了一行小字:
本文的理论基础,受陈砚秋(1997)《稀疏结构与连接主义》启发。作者于少年班图书馆读到该书,深感二十年前的洞见未竟,愿以此文续之。
"好了。"她合上电脑,窗外的夏夜蝉鸣阵阵,"现在,它是一篇论文了。"
八月末,三人组把论文挂在预印本平台上。
星瑶、周野、何美琳三个名字,第一次并排出现在一篇论文的作者栏里。
何美琳盯着网页看了很久,忽然说:"你们知道吗,我八岁那年,在实验小学的走廊里堵她,是因为我爸爸说'那丫头是个人物,你好好会会她'。我当时想,什么人物,我碾过去。"
"现在呢?"周野问。
"现在,"何美琳看着屏幕上那篇论文,"我发现我爸爸说对了。她确实是个人物。只不过,不是用来'会'的,是用来'一起走'的。"
周野翻了个白眼:"你煽情的时候能不能提前说一声,我好录下来当把柄。"
"滚。"
星瑶没说话。她看着预印本页面上的浏览量,从0,变成10,变成100,变成——
凌晨一点,她刷新了一下页面。
浏览量:12,847。
一夜之间,四位数。
星瑶揉了揉眼睛,又刷了一次。
31,562。
她慢慢放下手机,看向窗外。九月的江城,天还没亮,但好像,有什么东西,已经亮了。