Kiến trúc RAG doanh nghiệp: nối câu hỏi với chứng cứ

Đăng ngày 27/10/2026

Kiến trúc RAG doanh nghiệp nên bắt đầu từ câu hỏi cần giải quyết và dấu vết để kiểm lại câu trả lời. Một trợ lý tìm thấy tài liệu có chữ “bảo hành” vẫn có thể trả lời nhầm loại sản phẩm, dùng bản chính sách đã thay hoặc bỏ mất điều kiện ngoại lệ. Khi ấy, thêm một đường dẫn cuối câu chưa giải quyết được lỗi. Người phụ trách cần biết nguồn nào được tìm, đoạn nào thực sự đưa vào mô hình và nhận định nào dựa trên đoạn đó.

Bài viết dùng tình huống giả định tại một doanh nghiệp phân phối thiết bị ở Việt Nam. Nhân viên chăm sóc khách hàng tra chính sách để soạn câu trả lời nội bộ, chưa tự chấp thuận sửa chữa, đổi hàng hay cam kết với khách. Không có hệ thống, dữ liệu khách hàng hoặc kết quả triển khai thật trong ví dụ. Mục tiêu là xây một chuỗi quyết định đủ rõ để đội nghiệp vụ và đội kỹ thuật cùng tìm được nơi sai trước khi mua thêm công cụ.

RAG có hai thành phần học được, nhiều quyết định vận hành

Nghiên cứu RAG của Lewis và cộng sự kết hợp bộ truy hồi tài liệu với mô hình sinh, sử dụng cả tri thức trong tham số và kho bên ngoài. Thiết kế nghiên cứu còn huấn luyện chung các thành phần; vì vậy, không nên định nghĩa mọi RAG là phương án tuyệt đối không huấn luyện. Điều liên quan ở đây là câu trả lời có thể được tạo dựa trên những đoạn được lấy cho chính câu hỏi đang xử lý. Đây là cơ chế, chưa phải bảo đảm chính sách doanh nghiệp luôn đúng và mới nhất[1].

Trong hệ thống thực tế, trước và sau hai thành phần ấy còn nhiều lựa chọn. Ai được tra kho nào, tài liệu có còn áp dụng, câu hỏi đang thiếu thông tin gì, có cần nối hai đoạn và ai được chốt câu trả lời đều ảnh hưởng kết quả. Một sơ đồ chỉ có “kho tài liệu đi vào mô hình” che khuất những lựa chọn này. Người đọc khó phân biệt lỗi tìm kiếm với lỗi diễn giải nếu không nhìn được đầu vào và đầu ra của từng bước.

Tôi đề xuất xem mỗi lần trả lời như một hồ sơ nhỏ có trạng thái. Hồ sơ đi từ câu hỏi đã xác định sang nguồn được phép, đoạn ứng viên, căn cứ đủ dùng rồi mới tới bản nháp. Mỗi lần chuyển phải giữ được thông tin cần kiểm lại. Cách tổ chức này không bắt buộc một nhãn sản phẩm hay một kiểu cơ sở dữ liệu; nó đặt yêu cầu cho công việc mà các thành phần phải cùng thực hiện.

Xác định việc cần biết trước khi viết lại câu hỏi

Giả sử nhân viên hỏi một thiết bị đã sửa trước đây có được tiếp tục tiếp nhận bảo hành hay không. Câu hỏi đang gộp ít nhất hai việc: điều kiện áp dụng của chính sách và tình trạng thực tế của thiết bị. Kho chính sách có thể hỗ trợ việc đầu, nhưng chưa chắc chứa lịch sử tiếp nhận của thiết bị cụ thể. Nếu trợ lý tự gộp hai việc thành một kết luận đồng ý, nó đã đi xa hơn phạm vi căn cứ dù câu văn nghe hợp lý.

Bước đầu nên lưu nguyên câu hỏi, ghi điều cần biết và đánh dấu dữ kiện còn thiếu. Loại sản phẩm, thời điểm mua, ngày tiếp nhận và nội dung lần sửa trước có vai trò khác nhau; không được thay một mốc chưa biết bằng ngày hiện tại cho thuận tiện. Nhân viên có thể chỉ cần biết hồ sơ cần bổ sung, chưa yêu cầu quyết định quyền lợi. Khi mục đích đã rõ, cách tìm tài liệu và cách diễn đạt cũng ít phải đoán hơn.

Viết lại câu hỏi để tìm kiếm là một phép biến đổi cần kiểm. Từ viết tắt nội bộ có thể được mở rộng, nhưng tên dòng hàng và mốc thời gian phải giữ đúng. Bản viết lại nên đi cùng câu ban đầu trong hồ sơ. Nếu hệ thống đổi “đã sửa” thành “đã thay mới”, mọi bước sau có thể chính xác đối với một câu hỏi khác. Lỗi này thuộc cách hiểu đầu vào, không thể chữa bằng tăng số đoạn được lấy.

Kho phù hợp được xác định trước thứ hạng tương đồng

Kho phục vụ tra cứu cần có danh mục tài liệu với người phụ trách, phạm vi sản phẩm, thời gian hiệu lực và quan hệ thay thế. Trong ca giả định, quy định chung và phụ lục một dòng thiết bị phải giữ quan hệ với nhau. Một bản trình chiếu giới thiệu dịch vụ có từ ngữ rất gần câu hỏi nhưng chưa chắc có thẩm quyền giải thích ngoại lệ. Độ giống về nội dung không tự tạo ra thứ bậc áp dụng giữa các nguồn ấy.

Đội nghiệp vụ nên xác định tài liệu nào được dùng để trả lời loại câu hỏi nào. Đội kỹ thuật hiện thực bộ lọc tương ứng và ghi phiên bản kho đã dùng. Quyền của người hỏi cũng cần được kiểm tại hệ thống cung cấp dữ liệu; lời nhắc cho mô hình không thay được kiểm soát truy cập. Bài này không đưa ra quy tắc pháp lý về bảo hành hay thời hạn lưu hồ sơ. Doanh nghiệp phải xác nhận chính sách và phạm vi dữ liệu của chính mình trước khi mở tra cứu.

Một tài liệu được cập nhật không có nghĩa mọi bản sao và chỉ mục đã cập nhật cùng lúc. Vì thế, hồ sơ câu trả lời cần ghi mã bản chụp kho hoặc dấu phiên bản có thể truy ra. Nếu chỉ lưu “đã tìm trong thư mục chính sách”, người kiểm sẽ không biết câu trả lời hôm qua dùng bản nào khi hôm nay tài liệu đã thay. Dấu phiên bản giúp giải thích kết quả lịch sử; nó không tự chứng minh nội dung phiên bản ấy đúng.

Truy hồi là chọn ứng viên, chưa phải xác nhận căn cứ

DPR nghiên cứu việc mã hóa câu hỏi và đoạn văn bằng hai bộ mã hóa, rồi tìm các đoạn có biểu diễn gần nhau. Công trình phân biệt đánh giá tập đoạn tìm được với đánh giá trả lời phía sau: trong thiết lập của nó, có thể kiểm riêng tập đầu có chứa đoạn mang câu trả lời hay không. Các kết quả hỏi đáp thực thể trong kho nghiên cứu không cho phép kết luận tìm kiếm vector luôn thắng cách tìm từ khóa trên tài liệu tiếng Việt của mọi doanh nghiệp[2].

Với chính sách bảo hành, một đoạn nói về “thiết bị đã can thiệp” có thể quan trọng dù không lặp nguyên chữ “đã sửa”. Ngược lại, mã sản phẩm và số hiệu phụ lục thường cần khớp rất cụ thể. Vì vậy, đội dự án nên giữ một đường tìm đơn giản làm mốc so sánh và thử các cách tìm trên cùng câu hỏi. Chưa cần chọn trước một phương pháp chiến thắng; cần xem những đoạn quan trọng nào bị bỏ sót và vì sao.

Tập ứng viên nên có mã đoạn, vị trí trong tài liệu, tiêu đề gần đó và thông tin áp dụng. Điểm tương đồng chỉ giúp xếp hạng theo cấu hình đang dùng, không phải xác suất khách được chấp thuận bảo hành. Hai cấu hình có thang điểm khác nhau cũng chưa thể dùng chung một ngưỡng cho thuận tiện. Nếu đội vận hành gọi mọi điểm cao là “đủ tin”, họ đang bỏ qua bước kiểm xem đoạn có thực sự trả lời phần hỏi hay không.

Chọn ngữ cảnh đủ điều kiện, không nhồi hết kết quả

Lost in the Middle khảo sát độ dài ngữ cảnh và vị trí thông tin trên những mô hình, nhiệm vụ được thử trong nghiên cứu. Kết quả cho thấy thêm ngữ cảnh hoặc có cửa sổ dài chưa bảo đảm dùng tốt mọi đoạn, nhất là khi đổi vị trí thông tin liên quan. Đây là lý do để kiểm cách sắp xếp nguồn trong hệ thống của mình, không phải bằng chứng rằng mọi mô hình năm 2026 đều mắc cùng mức lỗi hay luôn quên phần giữa[3].

Trong ca bảo hành, đưa riêng một câu “tiếp nhận theo chính sách hiện hành” không đủ nếu điều kiện ngoại lệ nằm ngay dưới. Đưa toàn bộ sổ tay lại có thể làm chìm ngoại lệ giữa nhiều phần không liên quan. Một gói ngữ cảnh có ích phải giữ đủ điều kiện để hiểu đoạn, đồng thời chỉ rõ vì sao đoạn được chọn. Độ dài phù hợp cần được kiểm với các câu hỏi của doanh nghiệp, thay vì lấy một số từ chung rồi dùng cho mọi loại hồ sơ.

Có thể thử đổi thứ tự hai đoạn, bổ sung ngoại lệ và bỏ các đoạn gần nghĩa nhưng không chứa câu trả lời. Nếu kết luận đổi khi thứ tự đổi dù căn cứ không đổi, đó là dấu hiệu cần xem lại bước đọc và tổng hợp. Không nên che khác biệt bằng cách chọn bản trả lời nghe dễ chịu hơn. Nhật ký cần giữ bộ ngữ cảnh thực tế đã cung cấp, vì danh sách ứng viên ban đầu chưa cho biết mô hình cuối cùng đã nhìn thấy gì.

Đủ chứng cứ phải được kiểm theo từng điều kiện áp dụng

Tôi đề xuất lập phiếu căn cứ cho câu trả lời với bốn phần: nhận định cần nói, đoạn hỗ trợ, điều kiện áp dụng và chỗ chưa giải quyết. Chẳng hạn, quy định chung có thể xác định loại hồ sơ cần có, còn phụ lục quy định ngoại lệ cho sản phẩm. Hai đoạn cùng nhắc bảo hành chưa có nghĩa chúng kết hợp được. Người kiểm cần xác nhận chúng nói về cùng loại thiết bị và cùng giai đoạn áp dụng trước khi ghép thành một kết luận.

Phiếu này làm lộ ba trạng thái khác nhau. Không tìm thấy đoạn mang câu trả lời là một vấn đề. Tìm thấy đoạn nhưng thiếu điều kiện để áp dụng là vấn đề khác. Đã có đủ đoạn mà bản nháp vẫn bỏ mất ngoại lệ là vấn đề thứ ba. Cả ba đều có thể xuất hiện trên màn hình như một câu trả lời sai, nhưng cách khắc phục khác nhau. Thay mô hình sinh trước khi phân loại lỗi sẽ làm đội dự án khó biết tiền và công sức đã giải quyết chỗ nào.

Một trạng thái “chưa đủ” có thể dẫn tới câu hỏi bổ sung cụ thể: cần biết lần can thiệp trước thuộc loại nào hoặc cần người phụ trách xác nhận phụ lục nào áp dụng. Nó không nên dẫn tới tự điền dữ kiện thuận lợi cho việc trả lời. Khi hai nguồn đang mâu thuẫn và chưa có quy tắc phân xử đã được xác nhận, phiếu cần giữ cả hai cùng người nhận xử lý. Trợ lý không được tự biến sự tự tin khi viết thành quyền ban hành chính sách.

Trích dẫn phải hỗ trợ đúng nhận định đứng cạnh

ALCE đánh giá riêng độ trôi chảy, tính đúng và chất lượng trích dẫn. Trong thiết kế của nghiên cứu, câu có căn cứ và nguồn được gắn có ích là những khía cạnh cần kiểm riêng. Một đoạn có thể hỗ trợ phần đầu câu nhưng không hỗ trợ kết luận mở rộng ở phần sau. Các phép đánh giá tự động và đối chiếu người đọc trong bộ nghiên cứu giúp xem quan hệ hỗ trợ ấy; chúng không cấp giấy bảo đảm rằng chính sách nội bộ được diễn giải đúng trong mọi ca[4].

Bản nháp trong ví dụ nên tách “tài liệu yêu cầu bổ sung thông tin” khỏi “thiết bị được chấp thuận”. Nếu chỉ có căn cứ cho yêu cầu hồ sơ, câu trả lời cần dừng ở đó. Nguồn phải mở tới đúng đoạn và đúng phiên bản, thay vì đưa người kiểm về đầu một tệp dài rồi để họ tự tìm lại. Khi một nhận định cần hai đoạn, hệ thống nên giữ được cả hai cùng điều kiện kết hợp, không gắn một tài liệu chung để trang trí.

Cũng cần kiểm những câu không được trích dẫn. Một bản nháp có thể dẫn nguồn đầy đủ ở phần mô tả quy trình nhưng thêm câu hứa hẹn ở cuối bằng hiểu biết sẵn có của mô hình. Đếm số dấu nguồn sẽ không bắt được lỗi ấy. Người kiểm nên đối chiếu từng nhận định ảnh hưởng hành động, rồi hỏi liệu toàn bộ điều được nói đã có căn cứ hay chưa. Phần chào hỏi không cần được xử lý giống một kết luận về quyền lợi.

Đánh giá từng tầng trước khi nhìn điểm chung

Ragas đề xuất phân biệt sự bám sát ngữ cảnh, mức đáp đúng câu hỏi và độ tập trung của ngữ cảnh. Phương pháp trong bài nghiên cứu dùng mô hình để ước lượng các mặt ấy; việc so với người đọc được thực hiện trên dữ liệu WikiEval với phạm vi riêng. Đó là công cụ hỗ trợ tìm lỗi, không phải người quyết định chính sách. Một câu bám sát tài liệu sai phiên bản vẫn có thể bám sát rất tốt, trong khi kết quả không phù hợp với hồ sơ cần giải quyết[5].

Bộ kiểm của doanh nghiệp nên lưu câu hỏi cùng các đoạn mà người phụ trách xác nhận là cần thiết và phạm vi trả lời chấp nhận được. Kiểm truy hồi xem các đoạn ấy có xuất hiện trong tập ứng viên được phép hay không. Kiểm soạn câu trả lời có thể cho cùng bộ đoạn đã xác nhận để xem mô hình có giữ đủ điều kiện không. Sau đó mới chạy cả chuỗi. Hai phép kiểm riêng giúp nhận ra một thành phần tốt đang bị thành phần khác làm hỏng.

Không nên chỉ chấm câu trả lời đúng và bỏ qua việc từ chối sai. Tình huống thiếu hồ sơ, sai loại hàng hoặc chưa xác định ngày áp dụng cần có đáp án mong đợi về phần phải hỏi thêm. Kết quả chung nên đi cùng sổ lỗi có người nhận và mức ảnh hưởng. Nếu tổng điểm tăng nhưng câu trả lời sai về ngoại lệ nghiêm trọng hơn, đội dự án chưa có đủ cơ sở mở rộng chỉ vì biểu đồ trung bình đẹp hơn.

Tự kiểm và tìm lại cần có giới hạn nguồn

Self-RAG nghiên cứu mô hình được huấn luyện với các dấu hiệu phản tỉnh để quyết định truy hồi và đánh giá tính liên quan, hỗ trợ, hữu ích. Không nên gọi bất kỳ lời nhắc “hãy tự kiểm” nào là đã triển khai phương pháp ấy. Bài học có thể áp dụng ở mức thiết kế là cần phân biệt việc có nên tìm, đoạn có liên quan và câu có được hỗ trợ. Kết quả tự đánh giá của mô hình vẫn cần được kiểm với căn cứ bên ngoài[6].

CRAG đưa một bộ đánh giá truy hồi vào trước bước sinh và có các nhánh xử lý khi kết quả được xem là phù hợp, không phù hợp hoặc còn lưỡng lự. Nghiên cứu dùng tìm web như một nguồn bổ sung trong phương án hiệu chỉnh. Điều đó không có nghĩa trợ lý chính sách bảo hành nên tự lấy quy định của một doanh nghiệp khác khi kho nội bộ thiếu thông tin. Ở đây, nguồn được phép và người phụ trách vẫn xác định giới hạn cho việc tìm lại[7].

Một vòng tìm lại trong ca giả định phải nêu lý do và đích đến: đổi từ khóa giữ nguyên loại thiết bị, lấy đoạn ngoại lệ còn thiếu hoặc hỏi người dùng thêm mốc thời gian. Nếu sau bước ấy vẫn thiếu căn cứ, kết quả cần chuyển trạng thái. Việc gọi tìm kiếm nhiều lần mà không có thông tin mới không làm kết luận đáng tin hơn. Hồ sơ nên ghi điểm dừng và người nhận để tránh một vòng lặp dài chỉ tạo thêm những câu gần giống nhau.

Ca bảo hành cần thử cả tiếng hỏi và tình huống thiếu nguồn

RGB chia việc đánh giá RAG thành khả năng xử lý nhiễu, từ chối khi thiếu căn cứ, tích hợp nhiều tài liệu và ứng phó thông tin sai trong điều kiện cảnh báo của bài. Bộ nghiên cứu được xây bằng tiếng Anh và tiếng Trung, với dữ liệu và mô hình của giai đoạn công bố. Có thể dùng các loại tình huống để suy nghĩ về bộ kiểm nội bộ; không được mang tỷ lệ của chúng thành xác suất sai trên chính sách tiếng Việt hay kết luận về mô hình đang dùng hôm nay[8].

Đối với ví dụ này, đội chăm sóc khách hàng có thể chuẩn bị các cách hỏi khác nhau về cùng một vấn đề, bao gồm từ viết tắt và câu chưa đủ chủ ngữ. Cùng câu hỏi ấy được thử với nguồn đúng, nguồn chỉ gần nghĩa, thiếu phụ lục và hai bản chưa phân rõ hiệu lực. Người phụ trách xác định trước phần được phép trả lời. Những biến thể này kiểm cơ chế của chuỗi, thay vì yêu cầu mô hình thuộc một danh sách câu hỏi đẹp đã nhìn thấy khi chuẩn bị.

Một lượt kiểm hữu ích còn xem người dùng có mở được căn cứ và biết việc tiếp theo không. Câu “chưa đủ thông tin” cần nêu thiếu gì trong phạm vi có thể công bố, tránh khẳng định không có tài liệu khi thực ra người hỏi không được xem. Không nên ghi nội dung nhạy cảm vào nhật ký chỉ để tái hiện cho dễ. Hồ sơ kiểm có thể dùng dữ liệu giả định đã duyệt; mở rộng sang dữ liệu thật cần xác nhận phạm vi và cách bảo vệ của doanh nghiệp.

Hồ sơ bàn giao giữ được nguyên nhân và trách nhiệm sửa

Hồ sơ câu hỏi gồm sáu trường: câu hỏi và phạm vi, thông tin áp dụng, kho và phiên bản, đoạn đã cung cấp, nhận định và căn cứ, kết quả cùng người nhận. Không phải mọi trường đều hiện hết trên màn hình nhân viên. Một phần phục vụ người vận hành truy nguyên, phần khác giúp người hỏi hiểu tại sao phải bổ sung. Điều quan trọng là các bản ghi nối được với cùng lượt xử lý và có quyền truy cập phù hợp.

Khi có phản hồi sai, người nhận ghi loại lỗi và phép kiểm cho lần sửa sau. Nếu nguồn thiếu ngoại lệ, chủ tài liệu bổ sung và xác nhận hiệu lực. Nếu truy hồi bỏ sót, đội kỹ thuật điều chỉnh rồi kiểm lại cả các câu từng đúng. Nếu bản nháp bỏ điều kiện, cần xem ngữ cảnh, hướng dẫn và mô hình sinh trên cùng căn cứ. Việc phân công này giúp sửa đúng tầng, đồng thời tránh để người dùng lặp lại một phản hồi mà không ai nhận xử lý.

Hỏi đáp về kiến trúc RAG doanh nghiệp

RAG có làm hết câu trả lời bịa không? Không, vì lỗi vẫn có thể xuất hiện khi chọn nguồn, chọn đoạn hoặc diễn giải. Một câu bám sát bản chính sách không áp dụng cũng chưa đáp đúng việc. Đội dự án nên kiểm từng tầng và giữ trạng thái chưa đủ căn cứ, thay vì dùng nhãn RAG làm cam kết chất lượng. Trong ca bảo hành, bản nháp có nguồn vẫn cần người có trách nhiệm xác nhận trước khi thành quyết định cho khách.

Có cần lập cơ sở dữ liệu vector ngay không? Chưa cần quyết định trước khi có bộ câu hỏi và nguồn được xác nhận. Một đường tìm từ khóa đơn giản giúp tạo mốc so sánh, nhất là với mã hàng và số hiệu tài liệu. Sau đó mới thử cách tìm khác trên cùng phạm vi, xem đoạn nào bị hụt và chi phí vận hành ra sao. Hạ tầng phù hợp là hạ tầng giải quyết được lỗi đã nhận diện, không phải hạ tầng có tên đang phổ biến.

Tài liệu đúng mà câu trả lời sai thì phải thay mô hình không? Chưa chắc; cần kiểm đoạn thực tế đã đưa vào, điều kiện bị bỏ và cách gắn nguồn trước. Tài liệu có ngoại lệ ở trang sau nhưng ngữ cảnh chỉ chứa trang trước vẫn là thiếu căn cứ đầu vào. Nếu cùng bộ đoạn đủ điều kiện mà mô hình tiếp tục suy rộng, mới có cơ sở sửa bước sinh hoặc so sánh mô hình. Mỗi thay đổi cần được thử lại trên các ca từng đúng.

Có thể cho trợ lý tìm web khi không thấy chính sách nội bộ không? Chỉ khi phạm vi công việc cho phép và nguồn bổ sung phù hợp. Với câu hỏi về quy định riêng của doanh nghiệp, web của đơn vị khác không thay được chính sách còn thiếu. Cách xử lý thường cần là hỏi thêm, nêu phần chưa đủ hoặc chuyển người phụ trách. Nếu có tìm lại, hồ sơ phải ghi rõ nguồn mới và giới hạn sử dụng; không âm thầm đổi căn cứ của câu trả lời.

Nguồn, phương pháp và giới hạn suy luận

Bài được biên soạn có hỗ trợ AI, dựa trên tám nguồn nghiên cứu gốc đã mở đọc ngày 27/10/2026 trong phạm vi ghi tại hồ sơ nguồn. Các phiên bản được giữ cụ thể; Ragas dùng bản v2, còn các cơ chế nghiên cứu lịch sử không được trình bày thành tính năng hiện tại của một dịch vụ. Tác giả nguồn có cả trường đại học và tổ chức thương mại; bài không xem tuyên bố của bên phát triển là xác nhận độc lập cho sản phẩm.

Chuỗi quyết định, phiếu căn cứ và hồ sơ sáu trường là đề xuất phân tích riêng. Tình huống doanh nghiệp Việt Nam, câu hỏi bảo hành và các phép kiểm đều là giả định; chưa có dữ liệu khách hàng, gọi dịch vụ AI, đo thực địa hoặc tái lập benchmark. Bài không tư vấn quyền lợi bảo hành, không kết luận nghĩa vụ pháp lý và chưa được chuyên gia thẩm định. Kết quả nghiên cứu được giữ trong điều kiện mẫu, ngôn ngữ và phiên bản nguồn, không quy đổi thành tỷ lệ hiệu quả cho Việt Nam.