45개 도메인에서 RAG, GraphRAG, 사전 구조화된 지식 그래프를 비교 분석해본 결과 – 무슨 일이 벌어졌을까

(dev.to)

Dev.to OpenSource2026년 4월 27일AI 모델

45개 도메인에서 RAG, GraphRAG, 사전 구조화된 지식 그래프를 비교 분석해본 결과 – 무슨 일이 벌어졌을까

이 기사는 RAG, GraphRAG, 그리고 CKG(Compact Knowledge Graph)의 성능을 45개 도메인에서 비교 분석하여, CKG가 기존 RAG 대비 정확도는 4배 높고 토큰 사용량은 11배 적다는 놀라운 결과를 보여줍니다. 특히 복잡한 의존 관계를 묻는 멀티홉(multi-hop) 쿼리에서 CKG는 구조적 이점을 통해 압도적인 성능과 비용 효율성을 증명했습니다.

이 글의 핵심 포인트

1CKG는 RAG 대비 F1 Score 기준 약 4배 높은 정확도(0.471 vs 0.123)를 기록함
2CKG는 RAG 대비 토큰 사용량을 11배 절감(269 vs 2,982)하여 운영 비용을 획기적으로 낮춤
3질문의 단계(Hop depth)가 깊어질수록 CKG의 성능은 향상되는 반면, RAG는 성능이 저하됨
4의존성 쿼리(Dependency query) 유형에서 CKG가 RAG보다 8.1배 높은 성능 우위를 보임
5전문가에 의한 수동 큐레이션 없이도 API를 통해 도메인 지식을 CKG로 구조화 가능함

이 글에 대한 공공지능 분석

왜 중요한가

단순히 '더 많은 데이터'와 '더 큰 모델'을 사용하는 RAG 방식이 가진 한계를 명확히 짚어냈기 때문입니다. 데이터의 양보다 '데이터의 구조화(Structure)'가 LLM의 추론 정확도와 운영 비용에 얼마나 결정적인 영향을 미치는지 수치로 증명했습니다.

배경과 맥락

기존 RAG는 벡터 유사도 기반의 텍스트 청크 검색에 의존하므로, 여러 단계의 논리적 연결이 필요한 질문(예: 법률 조항 간의 관계, 약물 상호작용 등)에서는 답변이 파편화되거나 환각(Hallucination)이 발생하기 쉽습니다. 이를 해결하기 위해 GraphRAG 등이 등장했으나, CKG는 사전 구조화된 DAG(유향 비순환 그래프)를 통해 훨씬 가볍고 정확한 접근법을 제시합니다.

업계 영향

AI 에이전트 개발의 패러다임이 '비정형 데이터 검색'에서 '정형화된 지식 그래프 활용'으로 이동할 수 있음을 시사합니다. 이는 특히 높은 정확도와 낮은 비용이 필수적인 버티컬 AI(Vertical AI) 분야에서 모델의 성능을 극대화할 수 있는 새로운 아키텍처 표준이 될 수 있습니다.

한국 시장 시사점

법률, 금융, 의료 등 규제와 복잡한 의존 관계가 핵심인 한국의 전문 분야 스타트업들에게 큰 기회입니다. 단순히 LLM을 API로 가져다 쓰는 수준을 넘어, 도메인 특화 지식을 CKG 형태로 구조화할 수 있는 기술력을 확보한다면 글로벌 경쟁력을 갖춘 고효율 AI 서비스를 구축할 수 있습니다.

이 글에 대한 큐레이터 의견

많은 AI 스타트업이 RAG의 성능 개선을 위해 더 정교한 청킹(Chunking)이나 리랭킹(Re-ranking)에 매달리고 있지만, 이 기사는 근본적인 해결책이 '데이터의 구조화'에 있음을 보여줍니다. CKG의 핵심은 텍스트를 찾는 것이 아니라, 이미 정의된 개념 간의 관계(Edge)를 따라가는 것입니다. 이는 LLM의 추론 부하를 획기적으로 줄이면서도 결과의 신뢰성을 보장할 수 있는 강력한 전략입니다.

창업자 관점에서 볼로 볼 때, 이는 '데이터 엔지니어링의 가치'가 다시금 부상함을 의미합니다. 단순히 웹 스크래핑을 통해 데이터를 모으는 것에 그치지 않고, 해당 도메인의 핵심 개념과 의존 관계를 추출하여 DAG 형태로 구축할 수 있는 역량이 곧 AI 서비스의 진입장벽(Moat)이 될 것입니다. 비용 측면에서도 토큰 사용량을 1/11로 줄일 수 있다는 점은 수익성(Unit Economics) 개선을 고민하는 초기 스타트업에게 매우 매력적인 인사이트입니다.

원문 보기 →