RAG 教材檢索增強
方法論

1. 概述

Uedu 平台的 AI 助教（UeduGPTs）支援 AI 知識庫 功能：教師上傳課程教材（PDF、DOCX、PPTX），系統自動將教材內容切塊、向量化，並在學生提問時進行語意檢索，將最相關的教材片段注入 AI 的 System Prompt，使 AI 的回覆能以教材內容為依據。

此機制稱為 RAG（Retrieval-Augmented Generation），是目前業界讓 LLM 回答「有依據」的主流方法。本文件說明 Uedu 的 RAG 實作細節，供研究者理解資料產生過程。

2. 什麼是 RAG

RAG（Retrieval-Augmented Generation）是一種結合資訊檢索與文本生成的技術架構（Lewis et al., 2020）。其核心概念為：

1. Retrieval（檢索）：當使用者提出問題時，先從知識庫中找出最相關的文件片段
2. Augmentation（增強）：將檢索到的片段作為額外上下文注入 LLM 的輸入
3. Generation（生成）：LLM 基於原始問題 + 檢索到的教材內容生成回答

相較於僅依賴 LLM 內建知識的回答，RAG 可以讓 AI 的回覆以特定教材為依據，降低幻覺（hallucination）的風險，並確保回答內容與課程相關。

3. 資料處理流程

教師上傳教材後，系統在背景執行以下處理流程：

3.1 文字提取

系統支援三種文件格式，使用對應的 Python 套件提取全文：

3.2 語意分塊（Chunking）

提取的全文使用 tiktoken cl100k_base tokenizer 進行 token 級分塊：

• 最大 chunk 長度：800 tokens
• 相鄰 chunk 重疊：100 tokens — 確保跨 chunk 邊界的語意不會斷裂
• 最小 chunk 長度：20 tokens — 過短的片段會被丟棄

分塊在逐頁（或逐投影片）內進行。若單頁文字不超過 800 tokens，該頁整體作為一個 chunk；否則在 token 層級滑動切割。

3.3 向量嵌入（Embedding）

每個 chunk 的文字內容通過 OpenAI text-embedding-3-small 模型轉換為 1536 維的稠密向量，以 float32 格式儲存於資料庫的 BLOB 欄位。

4. 語意檢索機制

學生送出提問時，系統在回覆前執行以下檢索步驟：

1. 將學生的問題文字通過同一 embedding 模型（text-embedding-3-small）轉為 1536 維向量
2. 從記憶體快取載入該課程所有 chunk 的 embedding matrix（快取 TTL 5 分鐘）
3. 計算問題向量與所有 chunk 向量的 cosine similarity
4. 取相似度最高的 top-k 個 chunks，過濾掉低於 threshold 的結果
5. 將檢索到的教材片段格式化後注入 AI 的 System Prompt

5. 系統參數

6. GraphRAG 擴展

Uedu 支援進階的 GraphRAG 模式。當教師開啟此模式時，系統除了標準的向量檢索外，還會利用知識圖譜進行圖擴展檢索：

1. 標準向量檢索命中若干 chunks
2. 查詢這些 chunks 對應的知識概念（kg_concepts）
3. 沿知識圖譜的關聯邊（1-hop）找到相鄰概念
4. 將相鄰概念的教材 chunks 補充進檢索結果（最多額外 3 個）

圖擴展時，prerequisite（先備知識）和 contains（包含關係）的邊權重會獲得 1.2 倍加成，優先補充這兩類關聯的教材。

7. 檢索紀錄與透明性

每次檢索的詳細紀錄都儲存於 rag_retrieval_log 資料表，包含：

• query_text：學生的原始提問
• chunk_ids：檢索命中的 chunk ID 陣列
• similarity_scores：對應的 cosine similarity 分數
• retrieval_time_ms：檢索耗時（毫秒）

這些紀錄可供研究者分析「AI 回答時參考了哪些教材片段」，以及「學生的提問與教材的語意匹配程度」。

8. 研究引用建議

建議同時附註以下資訊：

• 課程使用的是標準 RAG 或 GraphRAG 模式
• 上傳的教材數量與總 token 數（可從教師端查看）
• embedding 模型名稱與版本