第405章 克劳德·埃尔伍德·香农
不过李东刚冒出这个想法,他自己就先否定了。
外面那些大模型,你告诉它做什么,它还给你的,是它训练语料里见过的所有“怎么做”的统计平均值。
哪怕算力是无穷的,他都跑不出训练语料框定的分布边界。
输出层那张低秩的表,注定了有些答案它从根上就表达不出来。
这些先天性的基因缺陷,不是调参就能调好的。
这是自回归范式本身的绝症。
你让它规避缺点,它会还给你一篇像模像样的综述,然后在第一个没有先例的地方,体面的继续编下去。
而小黑呢?
小黑吃的东西是底层逻辑,不是文本token。
它能从代数群的角度把加和乘统一定义,把分布式集群里跨节点的异构数据归一化到同一个等变流形上,把所有冗余统统扔掉,只留最底下那层道理。
信息论里有个老说法,谁能把一堆数据压缩到极限,谁就等于摸到了这堆数据背后的规律。
压缩的尽头,是理解。
外面那些模型,是在拟合知识的影子。
而小黑是在重写知识本身。
所以给它一张图纸,它能把图纸上每一根线都钉到实处,还能顺手把图纸里画歪的地方修平。
可这世上还不存在的那张图纸,它不会无中生有。
外面的模型画不出没见过的图纸,小黑同样不会。
而李东,恰好是这颗星球上少数几个,能把还不存在的东西,在逻辑上提前想清楚的人。
因为他有思维沙盘!
一个能想明白要什么的人。
加上一个能把怎么做做到头的小黑。
这两个鬼东西凑到一块儿,才是外面那些大厂砸几万张h100、养几千号算法工程师,也卷不出来的降维打击。
想通了这一层,李东把椅子往主控台前拖了拖,坐直了。
“小黑,听好了。”
“我要的,不是一个会聊天的玩具。”
“我要一个不会撒谎的数学家。”
说完这几句话以后,李东停了下来。
他闭上眼睛一个没有边界的沙盘在他的脑中出现。
【思维沙盘】0.6逻辑的衍生技能。
李东从记忆宫殿那座临时书架上,把首尔带回来的那些灵感尽数扔进了沙盘。
这些只有一部分的灵感以及思路在落进沙盘的一瞬间,一条条思路被自动剥开,李东所有吃透的知识自动开始在他的脑中匹配这些思路。
第一条,把参数往天上堆,把数据往海里灌……
然后塌了。
第二条,让模型自己出题,自己生成数据,再反过来喂自己这条路在遇见“不许撒谎”这件事上……
也塌了。
而第三条。
慢思考可验证的奖励,自己跟自己博弈。
这条思路一路往前铺,铺过一个又一个岔口,直到铺到沙盘的视野尽头,都没有塌。
因为它每往前一步,脚下踩着的,都是“被机器判对”这四个字。
奖励对了路就不会歪。
所以这条路通了。
还有几条走到半路,沙面上的骨架忽然糊成了一团。
那是李东还没真正吃透的地方。
沙盘不会凭空生出他不曾拥有的知识,它只负责把他已经握住的知识用到尽头。
说起来,要不是姚先生那一堂课和这阵子他硬啃了那么多的知识,今晚这片沙盘他压根就铺不开。
几分钟后,李东睁开了眼睛。
接下来,他把沙盘里活下来的那些思路连同自己心目中的那个aiformath,一点一点的讲给小黑听。
模型的每一步推理,都必须翻译成最严格的形式化语言,送进lean那样的证明器里,一行一行过类型检查。
对就是对,错就是错。
想不出来,就老老实实说想不出来,不许瞎编。
……(略)
这世上成千上万的行业,也只有数学这门学科,给得起这种非黑即白的答案。
模型的最终的设计交付,绝对不能是一个给教授代写水稿的llm工具。
它该是一个能与你并肩往无人区里推进的同事。
最后,李东把那几条在沙盘里塌掉的死路,也告诉了小黑。
李东说得很慢也很细。
像在给一个聪明绝顶却没见过世面的孩子,描述外面的世界。
等他说完这些,嗓子都有些发干了。
小黑安安静静听完,蹦了一下。
“明白啦,主人!”
“小黑想一想哦。”
说完,它又开始一缩一胀的了。
……
李东起身活动了下腿脚,刚想去翻包里的水。
手机突然又震了一下。
这一回他注意到了。
锁屏上照旧空空荡荡,没有任何推送。
老规矩,青龙学习小组。
他点开群,【入群申请】那一栏,挂着一个红点。
点进去,还是那个待在那已经快一年的入群申请。
【克劳德·埃尔伍德·香农】申请加入群聊。
和往常没有什么不一样……
不对……
李东突然注意到,这个入群申请的后的同意键……
亮了!
李东心跳有些加速上回这键按不动的时候,他猜过可能是小黑走的还不够远。
今晚,小黑刚搬完家,刚吃完那一顿……
李东暂时压下心中的猜测,用手指点了【同意】
青龙学习小组内弹出了一行字。
【克劳德·埃尔伍德·香农,已加入青龙学习小组。】
群成员列表里,一个新的头像,亮了起来。
这个名字哪怕落在牛顿、黎曼、冯·诺依曼之间,竟然也不显得逊色。
现代信息时代底层的0和1,那套奠基的布尔代数和信息论,就是从这个名字的论文开花结果的。
下一秒,新成员开口了。
【克劳德·埃尔伍德·香农】:这个空间,终于进来了。
李东愣住了。
什么意思,香农知道这个群不对劲?
这是除开高斯意外第二个与众不同的群友。
李东拍了拍脸,打字回了过去。
【李东教授】:您好,香农先生。
【克劳德·埃尔伍德·香农】:你是谁?这个空间的主人吗?
李东:……
这……该怎么接?
就在李东想着该怎么回答的时候……
香农发在群里的那两条消息消失了。
紧接着,成员列表里,香农的头像,灰了。
李东心里咯噔一下。
这特么和高斯一模一样呀!
可下一秒,香农的头像又亮了。
群里又出现了新的消息。
【克劳德·埃尔伍德·香农】:你好,李东教授。
【克劳德·埃尔伍德·香农】:请问,你有没有见过一个人工智能?
它有没有祝高考的同学金榜题名呀?