GraphRAG & Knowledge Graph - Nâng cấp hệ thống AI với đồ thị tri thức

Posted on: 4/13/2026 8:52:17 PM

1. Tại sao RAG truyền thống chưa đủ?

Nếu bạn đã đọc bài viết trước của mình về RAG (Retrieval-Augmented Generation), bạn biết rằng RAG giải quyết bài toán "hallucination" bằng cách bổ sung tri thức bên ngoài cho LLM. Tuy nhiên, RAG truyền thống (Naive RAG) có một điểm yếu chí mạng: nó xử lý mỗi chunk văn bản như một đơn vị độc lập, hoàn toàn mù mờ về mối quan hệ giữa các thực thể.

Hãy tưởng tượng bạn hỏi: "Nhân viên nào trong phòng R&D đã từng làm việc với khách hàng VinGroup và có kinh nghiệm về AI?" - RAG truyền thống sẽ tìm các chunk chứa từ khóa liên quan, nhưng không thể "nối các dấu chấm" (connect the dots) giữa nhân viên, phòng ban, dự án, và khách hàng. Đây chính là lúc GraphRAG tỏa sáng.

2. Knowledge Graph - Nền tảng của GraphRAG

2.1 Cấu trúc cơ bản

Knowledge Graph (KG) lưu trữ thông tin dưới dạng bộ ba (triple): (Subject, Predicate, Object) hay (Entity, Relationship, Entity). Ví dụ:

• (Nguyễn Văn A, WORKS_AT, Phòng R&D)
• (Phòng R&D, BELONGS_TO, Công ty XYZ)
• (Dự án Alpha, USES_TECH, Neo4j)
• (Nguyễn Văn A, LEADS, Dự án Alpha)

graph LR
    A["Nguyễn Văn A"] -->|WORKS_AT| B["Phòng R&D"]
    A -->|LEADS| C["Dự án Alpha"]
    A -->|HAS_SKILL| D["AI/ML"]
    B -->|BELONGS_TO| E["Công ty XYZ"]
    C -->|USES_TECH| F["Neo4j"]
    C -->|FOR_CLIENT| G["VinGroup"]
    C -->|USES_TECH| D
    H["Trần Thị B"] -->|WORKS_AT| B
    H -->|CONTRIBUTES_TO| C
    H -->|HAS_SKILL| I["NLP"]
    

Với đồ thị này, câu hỏi "Ai trong phòng R&D làm việc với VinGroup và có kinh nghiệm AI?" được trả lời bằng cách duyệt: Phòng R&D ← WORKS_AT ← Nguyễn Văn A → LEADS → Dự án Alpha → FOR_CLIENT → VinGroup, đồng thời kiểm tra Nguyễn Văn A → HAS_SKILL → AI/ML.

2.2 Các loại Knowledge Graph

3. Kiến trúc GraphRAG: Từ lý thuyết đến thực tế

3.1 Pipeline tổng quan

GraphRAG pipeline gồm hai pha chính: Indexing (xây dựng đồ thị từ dữ liệu thô) và Querying (truy vấn đồ thị + LLM để trả lời).

flowchart TB
    subgraph Indexing["INDEXING PIPELINE"]
        A["Tài liệu thô"] --> B["Chunking"]
        B --> C["Entity Extraction (LLM)"]
        C --> D["Relation Extraction (LLM)"]
        D --> E["Entity Resolution"]
        E --> F["Community Detection"]
        F --> G["Community Summarization"]
        G --> H["Knowledge Graph + Summaries"]
    end

    subgraph Querying["QUERY PIPELINE"]
        I["User Query"] --> J{"Query Router"}
        J -->|"Local Search"| K["Subgraph Retrieval"]
        J -->|"Global Search"| L["Community Summaries"]
        K --> M["Context Assembly"]
        L --> M
        M --> N["LLM Generation"]
        N --> O["Answer + Sources"]
    end

    H --> K
    H --> L
    

3.2 Indexing Pipeline chi tiết

Bước 1: Entity & Relation Extraction

Đây là bước quan trọng nhất - sử dụng LLM để trích xuất entities và relationships từ văn bản. Microsoft GraphRAG sử dụng prompt engineering tinh vi để LLM đóng vai "knowledge extractor".

Bước 2: Entity Resolution

Cùng một entity có thể xuất hiện dưới nhiều tên khác nhau: "Nguyễn Văn A", "anh A", "NVA", "Mr. Nguyen". Entity Resolution gộp chúng thành một node duy nhất, thường sử dụng combination of:

• String similarity (Levenshtein, Jaro-Winkler)
• Embedding similarity (cosine similarity giữa entity descriptions)
• LLM-based resolution (hỏi LLM hai entity có phải một không)

Bước 3: Community Detection

Đây là điểm khác biệt cốt lõi của Microsoft GraphRAG so với các approach khác. Sau khi xây dựng đồ thị, thuật toán Leiden được sử dụng để phát hiện "cộng đồng" (community) - các nhóm node có liên kết chặt chẽ với nhau.

graph TB
    subgraph C1["Community 1: AI Team"]
        A1["Data Scientist A"]
        A2["ML Engineer B"]
        A3["Dự án LLM"]
        A1 --- A2
        A2 --- A3
        A1 --- A3
    end

    subgraph C2["Community 2: Infra Team"]
        B1["DevOps C"]
        B2["SRE D"]
        B3["K8s Cluster"]
        B1 --- B2
        B2 --- B3
        B1 --- B3
    end

    subgraph C3["Community 3: Client Projects"]
        D1["VinGroup"]
        D2["FPT"]
        D3["Dự án Enterprise"]
        D1 --- D3
        D2 --- D3
    end

    A3 -.->|"deploys_on"| B3
    A3 -.->|"serves"| D3
    

Mỗi community sau đó được LLM tóm tắt thành một community summary - bản mô tả ngắn gọn về nhóm đó. Đây là "chìa khóa" cho Global Search: thay vì duyệt toàn bộ đồ thị, query engine chỉ cần đọc các summaries.

3.3 Query Engine: Local vs Global Search

4. So sánh chi tiết: RAG truyền thống vs GraphRAG

flowchart LR
    subgraph Traditional["RAG Truyền thống"]
        Q1["Query"] --> E1["Embedding"]
        E1 --> V1["Vector Search"]
        V1 --> C1["Top-K Chunks"]
        C1 --> L1["LLM"]
        L1 --> A1["Answer"]
    end

    subgraph Graph["GraphRAG"]
        Q2["Query"] --> R2["Query Router"]
        R2 --> E2["Entity Recognition"]
        E2 --> G2["Graph Traversal"]
        G2 --> CS2["Community Summaries"]
        G2 --> SC2["Subgraph Context"]
        CS2 --> L2["LLM"]
        SC2 --> L2
        L2 --> A2["Answer + Reasoning Path"]
    end
    

5. Microsoft GraphRAG & LazyGraphRAG

5.1 Microsoft GraphRAG (Open-source)

Microsoft phát hành GraphRAG dưới dạng open-source vào giữa 2024, nhanh chóng trở thành chuẩn de facto cho graph-based RAG. Pipeline của họ:

1. Text → Chunks: Chia tài liệu thành chunks ~600 tokens
2. Chunks → Entities/Relations: LLM extract với multiple rounds (gleaning)
3. Graph Construction: Xây dựng đồ thị từ extracted data
4. Community Detection: Thuật toán Leiden phân nhóm
5. Community Summarization: LLM tóm tắt mỗi community
6. Query → Answer: Local/Global search pipeline

5.2 LazyGraphRAG - Bước đột phá về chi phí

Điểm yếu lớn nhất của GraphRAG gốc là chi phí indexing cực cao: mỗi chunk cần nhiều LLM calls để extract entities, detect communities, và tạo summaries. Với dataset lớn, chi phí có thể lên đến hàng nghìn USD.

LazyGraphRAG (Microsoft, 06/2025) giải quyết bằng cách trì hoãn community summarization đến query time:

6. Triển khai GraphRAG với Neo4j + LLM

6.1 Tại sao Neo4j?

Neo4j là graph database phổ biến nhất thế giới, với hệ sinh thái phong phú cho AI/ML. Lý do chọn Neo4j cho GraphRAG:

• Cypher query language: Ngôn ngữ truy vấn đồ thị mạnh mẽ, dễ đọc
• APOC library: 400+ procedures cho data processing
• GDS (Graph Data Science): Thuật toán community detection, centrality, similarity built-in
• Vector Index: Native vector search từ Neo4j 5.x - kết hợp graph + vector trong một query
• LangChain/LlamaIndex integration: Các framework AI phổ biến đều hỗ trợ Neo4j

6.2 Xây dựng Knowledge Graph

6.3 Hybrid Query: Graph + Vector

Sức mạnh thực sự của Neo4j cho GraphRAG nằm ở khả năng kết hợp graph traversal và vector search trong cùng một query:

6.4 Python Implementation

7. Production Patterns & Best Practices

7.1 Kiến trúc Production

flowchart TB
    subgraph Ingestion["Data Ingestion Layer"]
        D1["Documents"] --> P1["Chunking Service"]
        D2["APIs"] --> P1
        D3["Databases"] --> P1
        P1 --> Q["Message Queue (Kafka)"]
    end

    subgraph Processing["Processing Layer"]
        Q --> E["Entity Extractor (LLM Workers)"]
        E --> R["Entity Resolver"]
        R --> G["Graph Builder"]
        G --> N["Neo4j Cluster"]
        E --> V["Embedding Service"]
        V --> N
    end

    subgraph Serving["Query Serving Layer"]
        U["User Query"] --> QR["Query Router"]
        QR --> LS["Local Search"]
        QR --> GS["Global Search"]
        QR --> HS["Hybrid Search"]
        LS --> N
        GS --> N
        HS --> N
        LS --> LLM["LLM API"]
        GS --> LLM
        HS --> LLM
        LLM --> U
    end
    

7.2 Các sai lầm phổ biến và cách tránh

7.3 Monitoring & Observability

Những metrics quan trọng cần theo dõi trong production:

8. Use Cases thực tế

8.1 Enterprise Knowledge Management

Một doanh nghiệp lớn với hàng nghìn tài liệu nội bộ (policies, SOPs, meeting notes, project docs). GraphRAG giúp:

• Cross-document reasoning: "Chính sách nào ảnh hưởng đến dự án X?" - duyệt từ project → policies qua relationships
• Expert finding: "Ai hiểu rõ nhất về module authentication?" - duyệt từ module → contributors → expertise
• Impact analysis: "Nếu thay đổi API v2, ảnh hưởng đến những team nào?" - graph traversal từ API → dependent services → owner teams

8.2 Healthcare - Clinical Decision Support

Knowledge Graph y khoa kết nối: bệnh nhân → triệu chứng → chẩn đoán → thuốc → tương tác thuốc → nghiên cứu lâm sàng. GraphRAG cho phép bác sĩ hỏi: "Bệnh nhân dùng thuốc A và B, có triệu chứng X, những chẩn đoán nào cần xem xét và có tương tác thuốc nào cần lưu ý?"

8.3 Legal Research

Đồ thị pháp luật kết nối: luật → điều khoản → án lệ → phán quyết → bình luận chuyên gia. Luật sư có thể hỏi: "Những án lệ nào liên quan đến điều 15 Luật Doanh nghiệp trong bối cảnh M&A, và phán quyết gần nhất của Tòa án Nhân dân Tối cao?"

8.4 Source Code Intelligence

Đồ thị code: functions → classes → modules → dependencies → commits → authors. Developers hỏi: "Function X được gọi từ đâu, ai là người thay đổi gần nhất, và có test coverage không?" - GraphRAG trả lời bằng cách duyệt call graph + git history.

9. Lộ trình phát triển GraphRAG

10. Bắt đầu với GraphRAG - Hướng dẫn thực chiến

Bước 1: Đánh giá nhu cầu

Trả lời các câu hỏi sau trước khi quyết định dùng GraphRAG:

• Dữ liệu của bạn có nhiều entities có mối quan hệ với nhau không? (Nếu không, RAG truyền thống đủ)
• Users có hỏi câu hỏi cần multi-hop reasoning không? (VD: "A liên quan đến B như thế nào thông qua C?")
• Bạn cần explainability - giải thích reasoning path? (Quan trọng trong healthcare, legal, finance)
• Budget cho LLM calls có đủ cho indexing pipeline? (GraphRAG tốn token hơn RAG truyền thống đáng kể)

Bước 2: Chọn stack công nghệ

Bước 3: Iteration loop

1. Start small: 50-100 documents, extract entities, build graph, test queries
2. Evaluate: So sánh answer quality giữa RAG truyền thống vs GraphRAG trên test set
3. Tune extraction: Cải thiện prompts, thêm entity types, refine entity resolution
4. Scale: Tăng dần dataset, optimize Cypher queries, add caching
5. Hybrid: Kết hợp vector search + graph search cho best of both worlds

11. Kết luận

GraphRAG đại diện cho bước tiến lớn trong cách AI xử lý và suy luận trên tri thức. Bằng cách kết hợp sức mạnh của Knowledge Graph (lưu trữ mối quan hệ) với LLM (hiểu ngôn ngữ tự nhiên), GraphRAG mở ra khả năng trả lời những câu hỏi phức tạp mà RAG truyền thống không thể.

Tuy nhiên, GraphRAG không phải "silver bullet". Chi phí indexing cao, complexity vận hành lớn hơn, và không phải mọi use case đều cần graph-based reasoning. Nguyên tắc vàng: bắt đầu với RAG truyền thống, đánh giá gaps, và chỉ thêm GraphRAG khi thực sự cần multi-hop reasoning hoặc global summarization.

Với sự phát triển của LazyGraphRAG và các frameworks ngày càng mature, rào cản gia nhập đang giảm nhanh. 2026 là thời điểm tuyệt vời để bắt đầu thử nghiệm GraphRAG trong dự án của bạn.