第133章符號邏輯推理的數學模型
第133章符號邏輯推理的數學模型(第3/4頁)
層的感知機，到最前沿的大語言模型，在他的腦海中，構建起了一座宏偉的知識大廈。
【叮！】
【檢測到宿主係統性地掌握了「深度學習與自然語言處理」的核心知識體係。】
【信息學經驗值+20！】
【當前信息學等級：lv.0(35/100)】
看著那猛漲了一截的經驗條，徐辰並冇有太多的驚訝。
對於一個已經站在數學lv.2高度的人來說，ai的底層邏輯並不神秘。拋開工程實現的細節，現代深度學習的本質，就是在一個極高維的參數空間裡，尋找一個能夠擬合數據分布的流形。
「現在，地基已經打好了。」
徐辰的目光，投向了係統物品欄裡那份名為《具備邏輯推理與長時記憶模塊的改進型大語言模型算法框架（laart）》的「草稿」。
他將其提取出來，仔細研讀。
這份「草稿」並冇有直接給出成型的代碼，它更像是一份來自未來的「技術白皮書」，指出了三個核心模塊。徐辰決定，先攻克最核心的——符號邏輯推理模塊（slrm）。
目前的ai界，為了解決大模型的「幻覺」問題，即一本正經地胡說八道，主流做法是rlhf，也就是基於人類反饋的強化學習。但這本質上是讓人類去「教」鸚鵡說話，鸚鵡並不懂真理，它隻是學會了迎合人類的口味。
徐辰翻開草稿的「邏輯推理」章節，眼神逐漸變得凝重。
草稿上寫著這樣一段話：
「不要試圖在離散的符號層麵去強行嫁接邏輯規則。應當將一階謂詞邏輯的語法樹，通過某種拓撲變換，嵌入到連續的向量空間中。使得邏輯推演的過程，等價於向量空間中的幾何變換。」
「建議路徑：采用區域表示法。將每個概念視為高維空間的一個閉區域。邏輯蘊含即為幾何包含。」
「關鍵模型參考：箱嵌入……」
然而，寫到這裡，草稿就像是被撕掉了一半似的，戛然而止。
後麵關於如何構建這個「box」，如何處理梯度的反向傳播，以及最關鍵的損失函數設計，全是一片空白。
「係統，你這是斷章狗行為啊……」
徐辰忍不住吐槽了一句。
不過，這也激起了他的好勝心。既然方向已經指明了，剩下的路，自己走不出來嗎？
他在草稿紙上畫了一個簡單的示意圖，順著草稿的思路繼續推演。
「把邏輯關係，映射成幾何關係……boxembeddings……」
徐辰的筆尖在紙上重重一點。
「明白了！係統的意思是，我們要把每一個概念，比如『貓』丶『動物』丶『生物』，都不看作是一個點，而是看作高維空間裡的一個長方形盒子（box）。」
他在紙上畫了幾
（本章未完，請點擊下一頁繼續閱讀）