1시간 전•

학습일지-LLM위키

26년 11월8일 토요일

오늘 공부에 투자한 순수한 시간: 3시간 30분

[LLM위키]

1️⃣왜 LLM위키란 이름이 붙었을까?

-LLM을 직접 쓰고 관리하는 위키.

1.왜 '위키'인가?

-위키피디아처럼 주제별로 문서가 따로 있고, 문서끼리 링크로 연결된 지식모음.

-처음부터 완성된 책이 아니라 계속 고치고 늘려가는 문서

-이 방식은 원본자료(PDF,기사,메모)를 폴더에 넣어 두면 LLM이 그 자료를 읽고 위키를 조금씩 써 나감.

-자료마다 요약,개념별 항목,정리글,역링크까지 만듬.

-그 결과물은 마크다운파일 묶음임.

2.왜 'LLM'인가

-보통 위키는 사암이 쓰지만,여기서 쓰고 정리하는 사람이 LLM이다.

-위키의 주인은 LLM이고, 카피시는 위키를 직접 손대는 일이 거의 없다고 말함.

-바유 "옵시디언은 IDE(작업도구),LLM은 프로그래머, 위키는 코드베이스"=>사람은 자료를 넣고 질문하면,실제로 쓰고 고치는 일은 LLM이 한다.

3.왜 굳이 이런 이름을 붙혔을까?

-기존 방식인 RAG와 차이를 보여주려는 이름.

-안드레이 카파시가 GitHub Gist에 'LLM Wiki'라는 패턴을 공개했는데, 전통적인 RAG처럼 질문을 할때마다 문서를 다시 찾는 대신 LLM이 계속 쌓아가는 마크다운 지식베이스를 만드록 유지하는 방식.

~~RAG~~ : 질문이 올때마다 자료 더미에서 관련 조각을 찾아 그때그때 답한다. 정리된 지식이 남지 않음.
LLM위키: 자료가 들어올때 미리 읽고 정리해서 위키에 쌓아둔다. 다음질문은 정리된 위키를 보고 답을함. 그래서 시간이 지날수록 쌓임.

비유하면 RAG는 시험때마다 교과서를 처음부터 뒤지는 학생.
LLM위키는 평소에 요약노트를 꾸준히 만들어두는 학생.

2️⃣LLM위키는 누가 언제 왜 만들었을까?

1.누가?

-OpenAI공동창업자이자 전 테슬라 AI총괄 '안드레이 카파시'가 만듬.

-바이브코딩이라는 말을 만든사람도 이사람.

2.언제?

-2026년4월초.

-4월2일(미국시간)에 트위터에 "LLM Knowledge Bases"라는 글을 올렸고,4월4일에 정리한 버전을

GitHub Gist에 "LLM Wiki"라는 제목으로 공개함.

-형태는 프로그램이나 논문이 아니었다. 한페이지짜리"아이디어 파일"이었고,사람들이 이글을 AI에게 붙혀

넣어 각자 자기 위키를 만듬.

3.왜만들었는가?

-AI를 코딩보다 공부.정리에 더 많이 쓰게됨.

: 카파시는 원래 AI를 주로 코딩에 썼는데,요즘은 논문이나 기사,자료를 읽고 정리하는데 많이 쓰다보니 잘 쌓아 두는 방법이 필요했다.

-RAG는 지식이 쌓이지 않는다.

RAG는 질문할때마다 자료에서 조각을 새로 찾아 답하고,답하고 나면끝.
같은자료를 백번물어도 매번처음부터 찾음.
그래서 자료를 읽을때마다 미리 정리해두면 자료를 넣을수록 위키가 점점 풍부해져 복리처럼 쌓임.

-사람은 위키관리를 오래 못함.

개인위키나 정리노트를 나들어도 대부분 중간에 포기
글을 쓰는것보다 링크걸기, 목차고치기,옛내용을 수정하는 일이 더 귀찬기 때문
그래서 귀찬은 일을 LLM에게 맡기자 생각.
사람은 자료를 넣고 질문만 하고,요약,연결,절리,기록은 LLM이 하는분업

3️⃣LLM나오기전에 어떤 불편함이 있었을까?

1.AI에게 매번 자료를 올려서 묻기(RAG방식)

-쳇지피티나 클로드에 PDF파일을 올리거나 노트쿡LM같은 도구에 자료를 넣고 질문하는방식.

매번 다시 올려야함. : 새 대화를 열면 지난내용을 모름.
정리한 게 남지 않음 : AI가 잘정리해줘도 그 대화를 끝내면 사라짐.
여러자료를 엮는 질문에 약함 : "1월부터 10월까지 현장노임흐름"을 모아야 하는 여러파일을 모아서 하는 질문은 몇개만 보고 답해서 빠뜨림
자료끼리 충돌해도 모름 : 3월메모오 9월 메모에 신고방법이 다르게 적혀있어도,AI는 그때 찾은 조각만 보고 답해서 어느게 최선인지 알려주지 않음.

2.사람이 직접 정리 노트,위키만들기

-노션,옵시디언,엑셀에 업무메누얼이나 현장별정리 문서를 직접 만드는 방식.

관리하기 너무 귀찬음 : 새 자료가 올때마다 관련문서를 찾아 고치고,링크걸고,목차를 바꿔야함.->미루면 방치됨.
금방낡음 : 규정이나 방식이 바껴도 문서를 안고치면 틀린정보가 그대로 남음.
흩어짐 : 메일,카톡,엑섹,메모에 정보가 따로따로 있어서 필요할때 어디 있는지 시간이 걸림.
결국 사람 머릿속에만 남음=> 업무노하우가 담당자 기억에만 있어서 쉬거나 인수할때 곤란.

4️⃣LLM위키 나와서 어떤게 편리해졌을까?

-내가 일하는건설업을 예시를 담아 알려줌.

1.자료를 "넣기만"하면 정리가 끝남.
-전에는: 노임대장을 받으면 현장 문서를 열고, 내용을 옮기고,목차를 고치고,관련문서에 링크까지 직접 걸어야함.

-이제는: ~~raw폴더~~에 파일을 넣고 "정리해줘"한마다면 AI가 현장문서,업무문서,작업기옥을 한번에 고쳐줌

2.AI에게 매번 설명할 필요가 없다.

-전에는: 새대화를 할때마다 매번 같은 서류를 올려 물어봄

-이제는: AI가 위키를 먼저 읽고 시작, 위키가 곧 AI의 '업무기억'이 되는 셈.

3.여러 달,여러자료를 엮는 질문에 강해짐.

-전에는: RAG가 몇조각만 보고 답을해 빠뜨리는 달이 생김,

-이제는: 이동현장md에 달마다 정리가 이미 쌓여 있어서 한문서만 보고도 전체 흐름에 답해줌.

4.바뀐내용이나 충돌을 AI가 찾아줌.

-전에는: 예전메모와 새안내가 다르게 적혀있어도 사람이 눈치채야함.

-이제는: 새자료를 넣을때나 '위키 점검해줘'할때 3월메모와 9월 안내의 신고기한이 다름을 표시해줌.

5.답의 근거를 바로 확인.

-위키문장마다 어느 raw파일에서 나왓는지 출처가 붙어있어서,의심스러우면 원본을 바로 열어 볼수 있음.

6.인수인계,업무메뉴얼이 저절로 생김.

-평소에 자료만 넣어도 업무별 순서,주의사항,기관연락처가 정리된 위키가 쌓임.

7.비싼장비가 필요없음.

-RAG는 벡터DB,임베딩같은 기술을 갖취야하는데,LLM위키는 '마트다운파일이 든 폴더+AI도구'만 있으면 됨.

나온지 7개월 정도된 방식이라 아직 오나벽하진 않음. 자료가 아주 많아지면 AI가 위키를 읽는 내용이
커지고,AI가 정리하다 실수 할수 있어서 가끔 원본가 대조하는 점검이 필요.

5️⃣LLM의 불편함을 어떻게 해결했을까?

[구조 3가지와 작업 3가지로 설명]

[구조]

구조1.raw/wiki를 나눠둠.

문제-정리하다 틀려도 확인할 기준이 없음.
해결-raw폴더로 원본그대로 보관하고 ai는 읽기만 하게 하였음

-wiki폴더는 AI가 정리한 문서를 둠.

구조2.목차(index.md)와 링크

문제- RAG처럼 복잡한 검색 장비가 필요, 엉뚱한 조각을 찾음.
해결-LLM위키는 훨씬 단순하게 사람이 책을 보는 방식으로 찾음(RAG는 문장을 좌표로 바꿔 비슷한 조각을 찾음)

=>요즘 AI는 한번에 읽을수 잇는 양이 커저서,조각을 자르지 않고 정리된 문서를 통째로 읽고 답함. 그래서 백터db나 임베딩 같은 장비 없이 마크다운 폴더만으로 충분해짐.

구조3.규칙서( CLAUDE.md)

문제-AI가 대화때마다 다르게 행동함. 매번설명해야함.
해결- 새자료가 오면"새자료가 오면 이렇게 정리해라.문서는 이형식으로 써라"같은 규칙을 파일로 적어둠,.

-AI는 작업때마다 규칙서를 먼저 읽기 때문에 매번 같은 방식으로 일하고,다시 설명할 필요없음.

[작업]

작업1.넣기(Ingest):들어올때마다 미리 정리

문제 : rag는 질문할때마다 처음부터 찾고,정리가 남지않음.
작업: 정리하는 시점을 바꿈

*RAG: 자료->(그대로 쌓아줌)->질문할때 찾아서 정리->답->정리한건 버림
*LLM위키: 자료->들어올때 바로 정리해서 위키에 반영->질문하면 정리본 보고 답.

=>10월 노임대장을 넣으면 AI가 그순간 이동현장.md,노임대장월마감md 등 관련문서를 전부 고쳐둠. 정리결과가 파일로 남으니깐 다음달,다음해에도 쌓임.=>즉, 복리처럼 쌓임.

작업2.묻기(Query) :좋은 잡도 다시 위키에

문제: AI와 나눈 좋은분석이 대화가 끝나면 사라짐.
작업: 질문해서 좋은 정리가 나오면 그답도 위키에 새문서로 저장하라 할수 있음.

예>'올해 형장별 노임비교'를 물어서 좋은 표가 나오면 '분석/2026현장노임비교.md'로 남겨두는것.

작업3.점검(Lint):낡은 정보와 충돌찾기

문제:사람이 만든 위키는 금방 낡고,자료끼리 충돌해도 모름.
작업:'위키점검해줘'하면 AI가 전체를 훑어서 찾음

-서로 다르게 적힌내용(3월메모와 9월안내의 신고기한이 다름)

-끊긴링크,아무데서도 연결 안된 문서

-오래되서 확인이 필요한 정보

=>사람이 귀찬아서 못하던 '관리'를 AI가 대신 하니깐 위키가 방치되지 않음.

[한눈에 정리]

기존의 불편함 해결방법

매번 처음부터 찾고,정리가 안남음 넣기:들어올때 미리정리해서 파일로 저장

사람이 관리하기 귀찬아 위키가 방치됨 넣기,점검을 AI가 대신

정이본이 틀려도 확인 못함. raw/wiki분리+출처 표시

AI에게 매번 설명 규칙서(CLAUDE.md)+위키가 AI의 기억역할

복잡한 검색장비 필요 목차+링크로 사람처럼 찾아읽기

자료끼리 충돌해도 모름 점검으로 AI가 표시

[RAG]

ㄴ꼬리질문1.RAG가 뭐야?

-RAG는 Retrieval-Augmented Generation의 줄임말.

우리말로 하면"검색해서 보강한 답변 생성" AI가 답하기 전에 관련 자료를 먼저 찾아보고, 찾은 내용을 참고해서 답하는 방식.

1.왜 필요한가?

-LLM(쳇지피티,클로드 같은 AI)은 학습할때 본 내용만 안다. 그래서 개인회사의 정보,학습이후에 생긴 최신정보는 모른다. 이걸해결하려고 "질문이 오면 자료에서 관련 부분을 찾아서 AI에게 같이 보여주자"는 방식이 나왔고, 이게 RAG.

2.작동순서는?

-예를들어 회사자료 100개를 넣어두고 "이동현장 노임신고는 어디에 해?"라고 물으면,

검색 : 자료 100개 중 질문과비슷한 부분 몇조각을 찾음(예:신고방법 머모의 한문단)
보강: 찾은 조각을 질문과 함께 AI에게 넘김.
생성: AI가 그 조각을 읽고 답함-> "근로복지공단 근로내용확인신고 하면된다."

챗지피티나 클로드에 PDF파일을 올리고 질문하는 것도 대부분 이런 원리이다.

예시> "이동현장의 올해 노임흐름은 어땠어?" 처럼 여러달의 자료를 엮어 하는 질문
-RAG는 조각몇개만 찾아서 놓치는 일이 쉬움.
-LLM위키는 이미 '이동현장노임대장md에 달마다 정리되어있어 답을 더 잘함.
=>그래서 카파시가 "매번 찾지말고,쌓아두자"는 뜻으로 LLM위키를 제안.

ㄴ꼬리질문2.RAG는 누가언제 왜 만들었는가?

-RAG는 2020년 페이스북 AI연구소(지금의 메타 AI)연구팀에서 만듬.

누가?

-패트릭 루이스가 대표저자. 당시 페이스북 AI연구소(FAIR)연구원이자 런던대학교(UCL)박사과정생이었다. 페이스북,UCL,뉴욕대 연구자들이 함께 쓴 논문.

언제?

-2020년5월 : 논문공개

-2020년12월 : AI분야 대표 학회인 NeurIPS에서 발표

->챗지피티가 나오기(2022년11월) 2년전. 처음에는 연구자들 사이의 기술이었고, 챗지피티 이후 회사들이 " 우리자료로 답하는 AI"를 만들면서 널리 알려짐.

왜?

-당시 AI모델은 세가지 질문이 있었음.

a.지식이 고정되 있었음. : 학습할때 본 내용만 알고, 새정보를 넣으려면 모델을 통째로 다시 학습.비용이 높았음.

b.지어냄(환각): 모르는 것도 그럴듯하게 꾸며서 답을 함.

c.출처를 알수 없음.: 답이 어디서 나왓는지 확인할 방법이 없었음.

=>그래서 "AI머릿속에 다 외우게 하지말고, 필요할때 자료(당시엔 위키피디아)를 찾아보게 하자"는 아이디어를 냄.

-이렇게 하면 - 자료만 바꾸면 지식이 업데이트 되고 (재학습이 불필요)

- 찾은자료를 근거로 답하니 지어내는게 줄고

-어떤자료를 봤는지 출처를 보여줄수 있음.

RAG(2020)-AI가 자료를 찾아보게 하자
LLM위키(2026)-찾아보는 것보다 미리 정리해두게 하자

ㄴ꼬리질문3. RAG가 나오기전에 어떤불편함이 있었어?

-RAG전에는 3가지 방법이 있었음.

1.AI가 전부 외워서 답하기(GPT-2,GPT-3 같은모델)

-AI가 학습할 때 읽은 내용을 머릿속에 저장해두고 그걸로만 답하는방식.

불편한점

-새정보를 모름: 2019년까지 학습했으며 2020년일은 모름. 고용보험신고방식이 바뀌어도 예전방식으로 대답

-고치려면 다시 학습 : 정보하나 바꾸려고 모델전체를 다시 학습함. 수억~ 수십억원 드는 일이라 자주할수 없었음.

틀려도 자신있게 말함: 기억이 흐릿한걸지어냄.어디서 나온말인지 확인방법도 없음.

2.우리 자료로 추가학습시키기(파인튜닝)

-회사자료를 AI에게 추가로 공부시키는 방식

불편한점

-자료가 바뀔대마다 계속학습.매달노임대장이 새로 나오면 매달학습시켜야함.

-학습해도 내용을 정확히 안다는 보장이 없음. 숫자나 날짜가 틀리기 쉬움

-전문인력과 장비가 필요해서 일반화사는 엄두를 못냈음.

3.검색해서 문장 그대로 뽑아주기(기존검색,질의응답 시스템)

-검색엔진,회사내부문서검색,정해진 답만 하는 챗봇들.

불편한점

-단어가 똑같아야 찾음 : '노임신고'로 검색하면 '근로내용확인신고'라고 적힌문서는 못찾음.

-문서만 던져줌: 결과로 문서 10개를 보여주면 읽고 정리라는건 결국 사람 몫.

-답이 딱딱함.: 질의응답 시스템은 문서에서 문장한줄을 그대로 잘라서 보여주는 정도. 여러문서를 합쳐 설명못함.

-챗봇은 각본대로만: 은행챗봇처럼 미리 정해 둔 질문에만 답하고 조금만 다르게 질문하면 이해못함.

RAG가 '검색+AI'를 처음합친건 아님.
2017년쯤 검색한 문서에서 답을 뽑는 연구가 있었고, 같은 2020년 구글도 Realm이라는 비슷한 연구를 냄.
RAG의 의미는 검색과 '문장을 새로 써주는 AI'를 하나로 묶어서, 찾은 자료를 바탕으로 자연스러운 답을 만들게 했다는데 있음.

ㄴ꼬리질문4.RAG가 나와서 어떤게 편리해졌어?

-'직접찾아 읽던일을 AI가 대신 찾아 읽어준다'

1.내파일을 올리고 바로 물어볼수 있게 됨.

-챗지피티나 클로드에 PDF나 엑셀파일을 올리고 '이 계약서에 지체상금 조항을 찾아줘'라고 묵는 기능이 대표적이

RAG활용.

전에는: 50쪽짜리 문서를 처음부터 넘기면서 찾아야함
지금은: 질문하면 해당부분을 찾아서 요약하고, 몇쪽에 있는지 알려줌

2.검색이 '링크목록'에서 '답'응로 바뀜

-네이버의 AI브리핑,구글의 AI요약,퍼블렉시티 같은 AI검색이 이 방식

전에는: 검색결과 10개를 하나씩 열어서 읽고 직접 종합.
지금은: 여러 사이트를 읽고 정리한답을 먼저 보여주고, 출처링크도 같이 달아줌.

3.AI의 답을 확인할수 있게됨.

전에는: AI가 말하면 맞는지 틀리는지 알수없음
지금은: '이 문서 3쪽에 근거함'처럼 출처가 붙어 확인가능. 세금이나 신고기한처럼 틀리면 안되는 일에 Ai를 쓸수 있게된이유임.

4.회사마다 '우리회사전용AI'를 만들수 있게 됨.

전에는: 회사자료를 아는 AI를 만들려면 모델을 다시 학습시켜야해서 대기업만 가능.
지금은: 사내규정,메뉴엘, 과거자료를 넣어두기만 하면 됨.

-사내규정챗봇(연차이월규정이 어떻게 돼?)

-고객센터 챗봇(상품설명서를 보고 답변)

-신입교육용 AI(이업무는 어떤순서로 해?)

5.정보가 바뀌어도 바로 반영됨

규정이 바뀌면서 문서만 새것으로 바꾸면 됨.AI재학습이 필요없음.

ㄴ꼬리질문5. RAG가기존의 불편함을 어떻게 해결했을까?

*편해진 기술원리 3가지

1.문서를 잘게 자르기(청킹)

-문제:긴 문서를 AI가 한번에 못읽음.

-해결:AI가 한번에 읽을 수 있는 양에는 한계가있음. 그래서 문서를 미리 한두문단 크기의 조각(chunk)로 잘라둠.

2.뜻을 숫자로 바꿔서 찾기(임베딩,Embedding)

-문제: 단어가 똑같아야만 찾던 검색

-해결:가장 중요한부분. 각조각의 '의미를 숫자목록(좌표)'로 바꿈 뜻이 비슷한 문장은 비슷한 좌표를 가짐.

지도에 비유하면, 모든문장을 ' 의미지도'위의 위치로 바꿔둠. 질문이 오면 질문도 지도위의 위치로바꾸고 가장

가까운 조각을 찾음. =>이 좌표를 모아두는 저장소를 백터DB

3.찾은 조각을 질문과 함께 넘기기(보강->생성)

-문제: AI가 모르는 건 지어냄, 출처없음.정보가 낡음.

-해결: 찾은 조각을 질문에 붙혀서 AI에게 넘김.

RAG의 한계
-조각만봄으로 전체적인 맥락을 노칠수있음.
-엮는 질문에 약함.
-매법처음처럼: 같은질문을 해도 매번 다시찾고 다시 읽음. 정리된 결과가 남지않음.

[raw폴더]

-LLM위키에서 원본자료를 그대로 넣어두는 창고.

-"raw"영어로 "날것,가공되지않은"의 뜻.

=>받은자료를 손대지 않고 그대로 넣음.

=>엑셀,pdf,메일내용,메모,사진 등 형식은 상관 없음.

1.규칙 :AI는 읽기만 함.

AI는 raw폴더에서 가장 중요한 규칙은 AI를 읽기만하고 절대 고치지 않는다
AI는 raw자료를 읽고 정리해서 wiki폴더에 문서를 넣음
raw자료는 처음넣은 상태 그대로 남아있음.

2.왜 따로 두나?

-AI가 정리하다 실수할수 있고, 원본이 그대로 남아 있으면 내용이 이상할때 raw파일을 열어서 맞는지 확인하고 바로 잡을 수 있다. ,raw폴더가 "진짜 기준"역할을 하는 것.

raw폴더 =받은 서류 원본을 넣어두는 서류함.
wiki폴더=그서류를 보고 정리한 업무노트

사무실에 세금계산서 원본은 따로 보관하고,엑셀에 내용을 정리하는 것과 같은 원리.

...

AI 대화 내역 링크:https://claude.ai/share/604ef375-e2ba-4ea3-baeb-6207cad28cc9

ClaudeShared via Claude, an AI assistant from Anthropicclaude.ai

오늘 잘한 점: 아직까지 잘 모르겠다.

오늘 부족했던 점: 공부하면서 아직까지 갈길이 멀다고 생각했다

오늘 총평: 갈길이 멀지만 선생님따라 쭉믿고 따라서 어느새 가다보면 나도 많은걸 알고 하게 될꺼라 믿는다.

여기에 파일을 드롭하세요