5 分鐘

和 AI 一起寫長篇小說,前面定好的設定總是越來越模糊。為了解決這個問題,我做了 TypeTak 的設定辭典「世界」,並把過程中的考量和選擇一篇篇寫下來。

AI 為什麼會忘記小說前面的內容

AI 會忘記長篇小說前面的內容,是因為它一次能讀的分量有上限。原稿超過這個分量,AI 就看不到前面的部分,只能回頭去找另外記下來的東西。在我看來,找的方法有兩種:一種是找出意思相近的段落補進來的 RAG,另一種是讀事先整理好的檔案。

我正在開發一款叫 TypeTak 的 AI 寫作編輯器,作家在這裡和代理(一起工作的 AI)合寫小說。為了讓 AI 在長篇小說裡不忘記前面定好的設定,我做了一部設定辭典:世界。設定整理在這裡,AI 需要時就來查。這個系列按時間順序,記錄世界是怎麼做出來的。

第一篇回到世界還不存在的時候,寫下我當時怎麼思考:該怎麼讓 AI 記住小說前面的內容,又該在兩條路之間選哪一條。

一次能讀的分量有上限

AI 模型一次能讀的範圍叫作上下文視窗。每個模型的視窗大小不同,也一年比一年大,但連載一旦超過一百章,就很難每次都把整份原稿放進去。就算放得進去,成本也很高。

視窗夠大,問題也還在。2026 年 3 月發表的研究〈Lost in Stories〉測量了 AI 寫長篇故事時,有多常寫出和前面設定矛盾的句子。矛盾最常出現在事實(誰擁有什麼)和時間(什麼時候發生了什麼),而且集中在故事中段,比開頭和結尾都多。(arXiv)

作家實際碰到的情況是這樣:第 3 章左臂受傷的主角,到了第 10 章卻用雙手揮劍;原本說話客氣有禮的配角,不知不覺就開始沒大沒小。

所以處理長篇小說的 AI 工具,都得回答同一個問題:放在視窗外的前文,需要時要怎麼讓 AI 重新找來讀?我看到的答案有兩個。

方法一:RAG,照意思找就找不到累積下來的東西

RAG 會先把原稿切成小塊存起來,再找出和正在寫的場景意思相近的片段,一起交給 AI。像公司內部文件或客服問答這種答案完整寫在某一段裡的情況,它很好用。

但我認為小說會卡在這裡。故事需要的不是相似的句子,而是累積下來的結果。

問「主角的左臂現在是什麼狀態」,RAG 會找來好幾段提到「左臂」的文字:受傷的場景、纏繃帶的場景、痊癒的場景混在一起,卻不會告訴你哪一段才是現在。像「兩個角色為什麼鬧翻」這種跨好幾章累積起來的原因,任何一段都沒有寫全,照意思去找只會拿到碎片。

照意思找,能回答「跟什麼相似」,卻回答不了「到目前為止累積了什麼」。所以我決定不把 RAG 當成記憶的核心。

方法二:檔案,能順著連結走,卻沒有格式

另一條路,是把設定另外整理成檔案,讓 AI 去讀。這和作家自己做設定集是同一個想法。常見的做法是維基:每個角色、每個地點各有一篇文件,彼此用連結串起來。

吸引我走向檔案的是連結。在維基裡,可以從「主角」跳到「主角的師父」,再跳到「師父受傷的事件」。不管意思是否相近,都能順著相連的東西走下去。要找累積下來的故事,這種方式比較合適。

不過檔案也有兩個弱點。

  • 沒有格式。放著讓 AI 自由發揮,每篇文件的樣子都不一樣。AI 照樣讀得懂,人要瀏覽、修改卻很不方便。作家沒辦法確認的設定集,用起來不能放心。
  • 不整理就會越堆越亂。寫原稿的過程中,設定會一直變。每次變動都不整理的話,同一個角色會多出兩篇文件,或是互相矛盾的內容留在同一篇裡。互相矛盾的設定集,比沒有還糟。

最後決定走檔案這條路

把兩條路放在一起看,答案是檔案。RAG 的限制來自方法本身,檔案的兩個弱點看起來卻是可以解決的問題。

  • 沒有格式,就訂一套格式:人讀起來順眼,AI 也能自己填。
  • 不整理就會亂,就把整理變成一項固定的工作:同一個對象不會出現兩次,改過的設定會放回該放的位置。

說起來容易。解決這兩個問題花的時間比預期長,最後做出來的檔案,就是現在 TypeTak 的世界。

下一篇談第一個問題:格式。我是在 NamuWiki(韓國最大的維基網站)找到線索的。不同的人寫的大量作品條目,為什麼長得幾乎一樣?我從那裡帶走了什麼?下一篇再說。

TypeTak 決定不用 RAG 照意思去找小說前文,而是讓 AI 順著連結讀整理好的檔案來記住內容。代價是接下了格式和整理這兩份功課。

常見問題

AI 小說工具怎麼記住前面的內容?

AI 一次能讀的分量(上下文視窗)有上限,長篇原稿前面的部分,只能從另外記下的地方重新找來讀。找法大致有兩種:從原稿片段裡找出意思相近的補進來的 RAG,以及讀整理好設定的檔案(維基)。

上下文視窗很大的 AI,就不會忘記小說前面的內容嗎?

還是會忘。上下文視窗是 AI 一次能讀的分量,視窗變大,一次放得進去的原稿就多,成本也跟著增加。而且就算內容在視窗裡,也不一定讀得仔細。2026 年的研究〈Lost in Stories〉發現,長篇故事裡的設定矛盾集中在故事中段。

為什麼 RAG 不太適合小說?

RAG 會把原稿切成小塊存起來,再找出意思相近的片段交給 AI。小說需要的是跨好幾章累積下來的結果和目前的狀態,這些不會完整寫在某一段裡。所以照意思找,會拿到不同時間點的片段混在一起,分不出哪一段才是現在。

用維基整理小說設定有什麼缺點?

維基可以順著連結找到相關設定,但有兩個弱點:沒有訂好格式,每篇文件的樣子都不同,人很難確認;設定每次變動都不整理,就會出現重複的對象,或累積互相矛盾的內容。

本課用到的功能

詳細用法請看指南。

作者
Oasis

正在開發 TypeTak。設計世界時遇到的問題和選擇的答案,都記在這個系列裡。

親手試試 TypeTak

免費版就能開始。

免費開始