AI와 긴 소설을 쓰면 앞에서 정한 설정이 자꾸 흐려집니다. 이 문제를 풀려고 TypeTak의 설정 사전 「월드」를 만들며 고민하고 고른 것들을 한 편씩 적고 있습니다.

AI는 왜 소설의 앞 내용을 잊을까

AI가 긴 소설의 앞 내용을 잊는 건, 한 번에 읽을 수 있는 분량이 정해져 있어서입니다. 원고가 그 분량을 넘으면 AI는 앞부분을 직접 보지 못하고, 어딘가에 따로 적어 둔 것을 다시 찾아 읽어야 합니다. 제가 보기에 찾아 읽는 방법은 둘입니다. 뜻이 비슷한 문단을 찾아 붙이는 RAG, 그리고 정리해 둔 파일을 읽는 방식입니다.

저는 TypeTak이라는 AI 글쓰기 에디터를 만들고 있습니다. 작가가 에이전트(함께 일하는 AI)와 소설을 쓰는 곳입니다. 긴 소설에서 AI가 앞에서 정한 설정을 잊지 않게 하려고, 설정을 정리해 두고 AI가 찾아 읽게 하는 설정 사전 월드를 만들었습니다. 이 시리즈는 월드를 만든 과정을 순서대로 적은 기록입니다.

첫 편은 월드가 아직 없던 때의 이야기입니다. AI에게 소설의 앞 내용을 어떻게 기억시킬지, 두 길 중 어느 쪽으로 갈지 고민한 과정을 적습니다.

한 번에 읽을 수 있는 분량에는 끝이 있다

AI 모델이 한 번에 읽는 범위를 컨텍스트 창이라고 부릅니다. 창은 모델마다 크기가 다르고 해마다 커지고 있지만, 연재가 백 화를 넘기면 원고 전체를 매번 다 넣기는 어렵습니다. 넣을 수 있다고 해도 비용이 큽니다.

창이 넉넉해도 문제는 남습니다. 2026년 3월에 나온 연구 「Lost in Stories」는 AI가 긴 이야기를 쓸 때 앞에서 정한 사실과 어긋나는 문장을 얼마나 자주 쓰는지 쟀습니다. 어긋남은 사실(누가 무엇을 가졌나)과 시간(언제 무슨 일이 있었나)에서 가장 많았고, 이야기의 처음이나 끝보다 중간쯤에 몰렸습니다. (arXiv)

작가가 겪는 모습은 이렇습니다. 3화에서 왼팔을 다친 주인공이 10화에서 두 팔로 검을 휘두르고, 존댓말을 쓰던 조연이 어느새 반말을 합니다.

그래서 긴 소설을 다루는 AI 도구는 모두 같은 질문에 답해야 합니다. 창 밖에 둔 앞 내용을, 필요할 때 어떻게 다시 찾아 읽게 할 것인가. 제가 본 답은 둘이었습니다.

첫 번째 방법, RAG: 뜻으로 찾으면 쌓인 것이 안 나온다

RAG는 원고를 잘게 나눠 저장해 두고, 지금 쓰는 장면과 뜻이 비슷한 조각을 찾아 AI에게 함께 넘기는 방식입니다. 사내 문서나 고객 상담처럼, 답이 어느 한 문단에 다 들어 있을 때는 잘 맞습니다.

소설에서는 여기서 막힌다고 봤습니다. 이야기에서 필요한 건 비슷한 문장이 아니라 쌓인 결과이기 때문입니다.

「지금 주인공의 왼팔은 어떤 상태인가」를 물으면, RAG는 「왼팔」이 나오는 문단을 여럿 찾아옵니다. 다친 장면, 붕대를 감은 장면, 다 나은 장면이 섞여 오는데, 그중 어느 것이 지금인지는 알려 주지 않습니다. 「두 인물은 왜 사이가 틀어졌나」처럼 여러 화에 걸쳐 쌓인 이유는 어느 한 문단에도 다 들어 있지 않아서, 뜻으로 찾으면 조각만 나옵니다.

뜻으로 찾는 방식은 「무엇과 비슷한가」에는 답하지만, 「지금까지 무엇이 쌓였나」에는 답하지 못합니다. 그래서 저는 RAG를 기억의 중심에 두지 않기로 했습니다.

두 번째 방법, 파일: 링크는 따라가지만 형식이 없다

다른 길은 설정을 따로 정리한 파일을 두고, AI가 그 파일을 읽게 하는 것입니다. 작가가 쓰는 설정집과 같은 생각입니다. 인물마다, 장소마다 문서를 두고 서로 링크로 잇는 위키 모양이 흔합니다.

제가 파일 쪽에 끌린 이유는 링크였습니다. 위키에서는 「주인공」 문서에서 「주인공의 스승」 문서로, 다시 「스승이 다친 사건」으로 건너갈 수 있습니다. 뜻이 비슷한지와 상관없이 이어진 것을 따라갑니다. 쌓인 이야기를 찾는 데는 이쪽이 맞았습니다.

다만 파일에도 약점이 둘 있었습니다.

• 형식이 없다. AI가 알아서 쓰게 두면 문서마다 모양이 제각각이 됩니다. AI는 그래도 읽지만, 사람이 훑어보고 고치기에는 불편합니다. 작가가 확인할 수 없는 설정집은 믿고 쓸 수 없습니다.
• 정리하지 않으면 쌓인다. 설정은 원고를 쓰는 동안 계속 바뀝니다. 바뀔 때마다 정리하지 않으면 같은 인물 문서가 둘이 되거나, 서로 어긋나는 내용이 한 문서에 함께 남습니다. 어긋난 설정집은 없는 것보다 나쁩니다.

그래서 파일로 가기로 했다

두 길을 놓고 보니 답은 파일 쪽이었습니다. RAG의 한계는 방식 자체에서 나오지만, 파일의 약점 둘은 풀 수 있는 문제로 보였기 때문입니다.

• 형식이 없다면, 형식을 정하면 된다. 사람도 읽기 좋고, AI가 알아서 채울 수 있는 형식으로.
• 정리하지 않으면 쌓인다면, 정리를 일로 만들면 된다. 같은 대상이 두 번 생기지 않게, 바뀐 설정이 제자리에 들어가게.

말은 쉬웠습니다. 두 문제를 푸는 데 생각보다 오래 걸렸고, 그렇게 만든 파일이 지금 TypeTak의 월드입니다.

다음 편은 첫 번째 문제, 형식 이야기입니다. 저는 그 실마리를 나무위키에서 찾았습니다. 서로 다른 사람이 쓴 수많은 작품 문서가 어떻게 같은 모양을 하고 있는지, 거기서 무엇을 가져왔는지 적겠습니다.

자주 묻는 질문