学霸的征途是星辰大海

第133章符号逻辑推理的数学模型

加入书签 推荐本书

第133章符号逻辑推理的数学模型(第3/4页)

层的感知机,到最前沿的大语言模型,在他的脑海中,构建起了一座宏伟的知识大厦。

【叮!】

【检测到宿主系统性地掌握了「深度学习与自然语言处理」的核心知识体系。】

【信息学经验值+20!】

【当前信息学等级:lv.0(35/100)】

看着那猛涨了一截的经验条,徐辰并没有太多的惊讶。

对于一个已经站在数学lv.2高度的人来说,ai的底层逻辑并不神秘。抛开工程实现的细节,现代深度学习的本质,就是在一个极高维的参数空间里,寻找一个能够拟合数据分布的流形。

「现在,地基已经打好了。」

徐辰的目光,投向了系统物品栏里那份名为《具备逻辑推理与长时记忆模块的改进型大语言模型算法框架(laart)》的「草稿」。

他将其提取出来,仔细研读。

这份「草稿」并没有直接给出成型的代码,它更像是一份来自未来的「技术白皮书」,指出了三个核心模块。徐辰决定,先攻克最核心的——符号逻辑推理模块(slrm)。

目前的ai界,为了解决大模型的「幻觉」问题,即一本正经地胡说八道,主流做法是rlhf,也就是基于人类反馈的强化学习。但这本质上是让人类去「教」鹦鹉说话,鹦鹉并不懂真理,它只是学会了迎合人类的口味。

徐辰翻开草稿的「逻辑推理」章节,眼神逐渐变得凝重。

草稿上写着这样一段话:

「不要试图在离散的符号层面去强行嫁接逻辑规则。应当将一阶谓词逻辑的语法树,通过某种拓扑变换,嵌入到连续的向量空间中。使得逻辑推演的过程,等价于向量空间中的几何变换。」

「建议路径:采用区域表示法。将每个概念视为高维空间的一个闭区域。逻辑蕴含即为几何包含。」

「关键模型参考:箱嵌入……」

然而,写到这里,草稿就像是被撕掉了一半似的,戛然而止。

后面关于如何构建这个「box」,如何处理梯度的反向传播,以及最关键的损失函数设计,全是一片空白。

「系统,你这是断章狗行为啊……」

徐辰忍不住吐槽了一句。

不过,这也激起了他的好胜心。既然方向已经指明了,剩下的路,自己走不出来吗?

他在草稿纸上画了一个简单的示意图,顺着草稿的思路继续推演。

「把逻辑关系,映射成几何关系……boxembeddings……」

徐辰的笔尖在纸上重重一点。

「明白了!系统的意思是,我们要把每一个概念,比如『猫』丶『动物』丶『生物』,都不看作是一个点,而是看作高维空间里的一个长方形盒子(box)。」

他在纸上画了几

(本章未完,请点击下一页继续阅读)

上一页 章节目录 下一页

小说推荐:九天玄歌外篇:尘世笔录前夫别跪了,绝嗣大佬追着夫人生三胎误入动物聊天群,我成警局团宠!红妆贵人万人迷真千金,玩弄权臣们被亲哭八零女配睡了就跑,高冷军少追疯了快穿:于是绿茶妹妹抢走了男主婚情告急!太太揣崽跑路了出狱狂龙:重回巅峰王妃她杀疯了我想躺平当保安,女神非要来纠缠七零沪上富贵花,撩动军官心间芽佔有送个饭,怎么就被大领导盯上了