第135章邏輯與生成的結合
第135章邏輯與生成的結合(第3/4頁)
推理數據集。給兩句話,判斷它們是「蘊含」丶「矛盾」還是「中立」。這是最經典的nli任務。
2.squad(stanfordquestionansweringdataset):閱讀理解問答。這個稍好一點,但也側重於信息提取。
3.clutrr(compositionallanguageunderstandingandtext-basedrelationalreasoning):基於文本的關係推理。
徐辰的目光最終鎖定了最後一個數據集clutrr。
……
clutrr這個數據集很有意思。它會給你一段像繞口令一樣的故事:
「愛麗絲的媽媽是鮑勃的姐姐,鮑勃的兒子是查理。」
然後問你:「愛麗絲和查理是什麽關係?」
這不僅需要模型讀懂文本,更需要在腦子裡構建出一張「家譜圖」,進行多次的邏輯推理,才能得出正確答案。
對於傳統的transformer模型來說,這是個噩夢。因為transformer本質上是在算「詞與詞之間的相關性」,它並冇有真正的邏輯推理模塊。它可能會因為「媽媽」丶「姐姐」這些詞出現的頻率,瞎猜一個「姨媽」或者「奶奶」。
但對於裝載了「邏輯幾何嵌入」的laart來說……
這簡直就是送分題!
在徐辰的數學模型裡,「媽媽」丶「姐姐」丶「兒子」這些關係,會被映射為向量空間裡的幾何變換算子。推導關係,不過就是做幾次向量加法和包含運算而已。
「就選它了!」
徐辰打了個響指。
……
徐辰心情大好,轉過身準備拿水杯喝口水。
然而,剛一回頭,他就嚇了一哆嗦,杯子裡的水差點灑出來。
隻見身後,方博丶薛超丶劉鑫羽三個人,不知何時已經站成了一排。三人雙手抱胸,六隻眼睛直勾勾丶陰森森地盯著他
空氣安靜得有些詭異。
「呃……」徐辰端著水杯的手僵在半空,嘴角抽搐了一下,尷尬地笑了笑,「你們……怎麽都站在這兒?這麽閒?不用學習嗎?」
「學習?」
方博冷笑一聲,痛心疾首地指著徐辰。
「徐神,你老實交代,你不在燕園那個獨立公寓裡待著,特意跑回咱們這又擠又亂的301,是不是就是為了回來裝個逼?」
「啊?」徐辰一臉無辜,「我不是為了找你修開發環境嗎?」
「修環境需要順手修出一套人工智慧算法嗎?!」方博悲憤地喊道,「你考慮過我們這些還在跟bug互啄的小萌新的感受嗎?」
一旁的薛超也長歎了一口氣,走過來拍了拍徐辰的肩膀:
「老徐,真的,算兄弟求你了。以後
(本章未完,請點擊下一頁繼續閱讀)