資料越存越多,怎樣用 Karpathy LLM Wiki 整理成可引用的知識?

把原始資料、綜合知識和查詢回答分開,後續更新才有依據可查。

Buda Team
← 返回部落格
資料越存越多,怎樣用 Karpathy LLM Wiki 整理成可引用的知識?

同一批資料,第一次問能回答,過幾天再問,答案卻換了一套說法。你得重新開啟 PDF、找原句、比對版本;之前讀過的材料,沒有替下一次判斷省下多少工夫。真正缺的往往不是更多收藏,而是一份能持續維護、隨時查回依據的知識。

Karpathy LLM Wiki 將這件事拆成明確的檔案操作:保留原文,更新知識頁,新證據出現時檢查舊結論,普通提問則不擅自改庫。目前由 Astro-Han 的來源儲存庫維護。先看懂一份材料如何進入知識庫,以及改變結論時哪些頁面要跟著更新,才容易用得長久。

先分清原文、知識頁、索引與紀錄

它將檔案分成兩層:raw/ 儲存不可改寫的原始材料,wiki/ 儲存可以持續更新的知識文章。原始材料記錄來源 URL、採集日期和釋出日期,並保留原文;知識文章按概念組織,不是每存一篇文章就生成一份同名摘要。

wiki/index.md 是全域性索引,負責讓人和 Agent 找到文章;wiki/log.md 只追加操作記錄,說明發生了什麼。這四個角色要分清:原文提供證據,知識頁形成綜合,索引指路,日誌保留變化。檔案持續積累不意味著模型權重自動學會了這些內容。

當新材料推翻舊說法,應該修改綜合判斷,同時保留原始證據,不能把舊原文改成符合新結論的版本。

第一步:安裝 Skill,收錄一份真實資料

在 Buda AI 的 Marketplace 搜尋並安裝 Karpathy LLM Wiki,先核對維護者和源倉庫。選擇專門的專案目錄,提供 Agent 實際能讀取的材料。掃描 PDF、登入後網頁或受限連結,仍要先解決文字提取與訪問許可權;安裝 Skill 不會自動打通外部賬號。

可以這樣交代:“在這個專案中,用 Karpathy LLM Wiki 收錄這份材料。保留原文和來源資訊,先搜尋已有知識,再判斷新建、更新或標記爭議。完成後列出改動檔案,以及重要判斷對應的原文位置。”

首次收錄只建立缺失的目錄、索引和日誌,不覆蓋已有檔案。查詢與檢查遇到空知識庫時,應先要求收錄,不能悄悄初始化後假裝已經有知識。

原文留存,知識持續更新

第二步:判斷新增、更新或保留爭議

材料先進入原文目錄,再按實體和同義詞搜尋知識頁。確實增加概念時新建,同一核心論點補入現頁,來源衝突時標記爭議。新建、更新和爭議可以同時發生;沒有實質新增時,則保留原文、記入日誌後停止。

這一步決定知識庫會越用越清楚,還是堆滿重複摘要。不要用文章數量作為驗收目標,更不要為了讓每次執行都有“成果”而強寫一頁。

寫入數字、日期和直接引語前,要先在關聯原文中找到字面依據,數值形式保持一致;推導值必須能看到組成部分。它約束的是結論與材料的關係,不能代替對來源可靠性的判斷。

第三步:同步更新相關知識頁

新材料可能影響多個主題。級聯更新要搜尋全文裡的實體、別名和相關主張,不能只看索引。已被新資訊替代的舊說法保留並標註 Outdated;來源相互矛盾則標註 Disputed,跨頁爭議互相連結。歷史歸檔頁是當時的快照,不參與級聯改寫。

檢查輸出時,重點看三件事:哪些知識頁被影響、每個變化有何來源、其他頁面是否還在沿用舊結論。隨後更新索引中的知識日期,向日志追加本次記錄。

從一個來源,到不同處理結果

第四步:查詢知識,按需封存回答

Query 先看索引,再用同義詞做全文搜尋,引用找到的知識文章回答。普通問題不寫檔案。只有明確要求把回答歸檔,才新建歸檔頁,引用作為依據的知識頁,再更新索引和日誌。

這樣,一次對話中的綜合回答與直接依據原文編譯的知識頁不會混為一談。歸檔也不是把原文章覆蓋成剛才聊天的版本。

第五步:檢查連結與事實依據

Lint 可以處理部分結構問題,例如補齊漏掉的索引項、修復只有唯一候選的移動連結;有多個可能目標時應報告。倉庫的 check_evidence.py 檢查關聯原文中的高訊號字面值,疑似不匹配仍要回到上下文判斷。事實衝突、過時判斷和來源缺口以報告形式交給人,不自動改事實。

字面匹配成功,只說明這句話能追到材料,不保證材料本身正確。完整的一輪,應留下原文、明確的分流結果、有依據的知識頁、更新的索引與追加日誌。

可以用 Buda 的 Drive 與檔案工具搭建這套流程,先圍繞一個主題跑通並人工抽查,再擴大資料範圍。執行指令碼前核實際環境和完整 Skill 檔案;具體格式可查源倉庫。

從一份會反覆使用的資料開始

開啟 Karpathy LLM Wiki Skill 頁面,在 Buda AI 的 Marketplace 搜尋並安裝到 Agent。交給它一份真實資料,先檢查原文、知識頁與來源連結,再處理下一份,從第一輪就留下能回查的知識。