전체 글(107)
-
RAG를 제품으로 — 설치 마법사 · 폐쇄망 · Databricks 이식, 그리고 Claude Code로 만든 방법
이 글 한눈에어디에나 설치할 수 있어야 제품입니다. 설치 마법사는 고객 환경에서 묻고, 그 자리에서 연결을 시험하고, 다 묻기 전에는 아무것도 바꾸지 않은 채 로컬에 쌓았다가 한 번에 이관 · 배포합니다(테스트 71개).모델 · 임베딩 · 재정렬 · 파서는 설정으로 갈아 끼우고, 폐쇄망에서 전부 로컬로 돕니다.Ariadne 코드를 import하지 않고 청킹 규칙 11개와 검색 단계를 Databricks 노트북에 다시 썼습니다(약 30분). 같은 질문에 Ariadne와 같은 답이 나왔고, Databricks 기본 기능만으로는 답이 매우 이상했습니다. 로직은 인프라에 묶여 있지 않습니다.이 시스템의 코드는 거의 전부 Claude Code가 썼습니다. 하지만 아키텍처 · 원칙 · 의사코드는 내가 먼저 줬고, ..
2026.11.22 -
RAG 품질은 한 번 재고 끝나지 않는다 — 평가셋 검증 · 품질 사이클 · 프롬프트 게이트 · 진단 에이전트
이 글 한눈에평가는 평가셋부터 의심합니다. 질문을 사람이 먼저 거르고, 정답은 5단계(겹침 · 임베딩 · 조항 번호 · 질문 정합 · 함의)로 검증한 뒤, 실제 서비스와 같은 답변 경로로 채점합니다.운영 중에는 품질 사이클이 돕니다. 실제 대화를 자동 채점 → 검토 큐 → AI 수정 제안(검증된 정답 아님) → 사람이 골든셋으로 승격 → 프롬프트 후보를 골든셋 게이트로 검증 → 통과하면 활성화.진단 에이전트는 추적은 코드가, 해석만 LLM이 합니다. 로컬 모델이 도구를 안 부르고 지어낼 틈을 줄였고, 첫 도구 호출 100% · 미호출 0건을 확인했습니다.이 편에서 내가 만든 것: 평가셋 생성 2종(빠른 · RAGAS 표준) · 질문 사전 검토 · 페르소나 질문 · 5단계 검증 · 검토 게이트 · 평가 실..
2026.11.22 -
로컬 8B 모델로 믿을 수 있는 답 만들기 — RAG 검색 · 근거 선택 · 답변 검사 설계
이 글 한눈에검색은 넓게 찾고(BM25 · 원문 벡터 · 표 요약 · 이미지 · 가상 질문 · KG를 RRF로 합친 뒤 교차 인코더로 재정렬), 답변 전에는 LLM에게 보여 줄 근거를 좁힙니다. 안 보여 준 정보는 잘못 쓸 수 없기 때문입니다.RAG 품질은 모델 크기가 정하지 않습니다. 같은 근거를 gpt-oss-120b로 요약해도 결과가 좋지 않았고, 연구도 같은 방향을 가리킵니다(11B 검색 모델이 540B를 이긴 Atlas 등). 답을 정하는 건 어떤 근거를 어떻게 보여 주느냐입니다.로컬 8B 모델은 프롬프트 규칙을 늘릴수록 다른 형태로 실수했습니다. 그래서 막히지 않은 실수는 결정적인 코드로 막았습니다 — 자체 검수, 조항 인용 보정, 근거에 없는 조항 제거, 빠진 예외 덧붙이기.재정렬은 컨테이너..
2026.11.22 -
작게 자르고 관계로 잇는다 — RAG 청킹 전략과 지식그래프(KG) 설계
이 글 한눈에청크는 작게 자르고, 끊어진 연결은 관계로 다시 잇습니다. 자르는 단위를 키우면 검색이 흐려지고, 줄이면 원칙과 예외가 떨어집니다.원문은 그대로 두고 검색 입구(벡터)를 여러 개 만듭니다. 원문 · 가상 질문 3개 · 표 요약 · 규칙 문장 · 이미지 해석 — 청크 769개에 벡터 약 3,200개.관계는 규칙이 먼저, LLM은 규칙이 못 보는 것만, 그리고 자체 검수의 세 겹으로 만듭니다. 검색에 쓸 때는 의미 관계만 깊이 1로 따라갑니다. 이 원칙을 지키지 않았을 때 KG가 오히려 순위를 흐렸고, 고친 뒤 MRR이 0.600 → 0.712가 되었습니다.이 편에서 내가 만든 것: 청킹 전략 7종과 LLM 자동 판단 · 청크 검사와 품질 게이트 · 맥락 접두어 · 가상 질문(HyDE) · 표 ..
2026.11.22 -
이미지뿐인 페이지를 VLM으로 읽는 법 — 멀티모달 문서 RAG의 함정과 안전장치
이 글 한눈에일반 문서의 그림 · 병합 셀이 있는 복잡한 표 · 계산 예시는 원본에서 잘라 VLM + OCR로 읽고, 표 검증이 끝내 실패하면 표 자체를 이미지로 다시 읽습니다.브로셔 · 브랜드북처럼 이미지가 배경으로 깔린 문서는 어떤 파서도 그림을 떼어 주지 않습니다. 그래서 페이지를 통째로 렌더링해 VLM이 읽게 했습니다.VLM에게는 무엇을 믿으라고 말할지가 핵심이었습니다. 표기는 PDF 글자층을, 글자층에 없는 글자만 OCR과 이미지로. 이 순서를 바꾸자 가격 오독(3,000원 → 13,000원)이 사라졌습니다.16GB 노트북에서 VLM은 자주 죽습니다. 끊긴 응답을 성공으로 저장하지 않는 검사, 재시도 · 재기동, 실패한 페이지만 다시 처리하는 경로를 만들었습니다.이 편에서 내가 만든 것: 그림 ..
2026.11.22 -
문서는 원래 지저분하다 — 표·슬라이드·숫자를 안 놓치고 읽는 법
이 글 한눈에문서를 PDF 한 가지로 맞추지 않습니다. 형식마다 구조를 읽는 입구를 따로 두고, 결과만 같은 모양(블록)으로 맞춥니다.엑셀은 시트마다 전략을 판별하고 병합 셀 · 이어진 행을 복원합니다. PDF는 비싼 파서를 돌리기 전에 몇 초 만에 훑어 파서를 추천하고, 문서 하위 유형을 4단계(패턴 → 규칙 → LLM → 사람)로 정합니다.표는 유형을 나누고, 표 프롬프트 라이브러리에서 비슷한 표의 검증된 프롬프트를 찾아 쓰며, 원본과 대조해 틀리면 고칩니다.이 편에서 내가 만든 것: 형식별 파서 4개(엑셀 · PDF · HWPX · 페이지 단위) · 엑셀 시트 판별 · 병합 셀 복원 · PDF 파서 자동 추천 · 하위 유형 4단계 판정 · 청킹 전략 7종 · 표 유형 분류 · 표 프롬프트 라이브러리..
2026.11.21