AIDD Foundation · Module 03

Context Engineering Best Practices

Các nguyên tắc và kỹ thuật triển khai Context Engineering hiệu quả trong thực tế — từ 'Ít mà Chất' đến Review liên tục.

Lessons5 + Quiz
Mục tiêuKỹ năng thực chiến
AudiencePM · BrSE · QA · Dev
01 / 16
// MODULE.03 / ROADMAP

Bạn sẽ đi qua những gì?

02 / 16
// MODULE.03 / LESSON.1 — Nguyên tắc Ít mà Chất

Nguyên tắc cốt lõi: "Ít mà Chất"

Cốt lõi của Context Engineering là tìm "tập hợp tối thiểu" các token hữu ích nhất để đạt được mục tiêu, thay vì cố nhồi nhét thật nhiều thông tin.

Quy tắc vàng Mỗi token đưa vào phải có lý do — hoặc góp phần vào kết quả mong muốn, hoặc hỗ trợ mô hình ra quyết định đúng. Nếu một phần thông tin không tạo thêm giá trị → mạnh dạn loại bỏ.
Context như tài nguyên

Khung giấy bị giới hạn

Mỗi token như một nét vẽ quý giá. Kỹ sư Context cần tiết chế & tinh lọc — chỉ giữ những nét cần thiết tạo nên bức tranh tổng thể.

Không phải sơ sài

Minimal ≠ Thiếu thông tin

"Tối thiểu" không đồng nghĩa với ngắn gọn thiếu thông tin. Đôi lúc phải chấp nhận "thừa vẫn còn hơn thiếu" khi không chắc chắn.

03 / 16
// MODULE.03 / LESSON.1 — Hai cách tiếp cận

Bottom-up  vs  Top-down

Bottom-up

Ít → Nhiều

  • Khởi đầu với lượng thông tin nhỏ nhất có thể
  • Thử nghiệm với mô hình tốt nhất hiện có
  • Bổ sung dần chi tiết / ví dụ nếu phát hiện thiếu sót
  • Mục tiêu: ngữ cảnh cô đọng, đủ ý
Top-down

Nhiều → Ít

  • Khởi đầu bằng cách đưa thật nhiều Context
  • Dần dần lược bỏ bớt từng phần
  • Quan sát xem kết quả có tệ đi không
  • Mục tiêu: tinh giản dần đến mức tối thiểu
Key Takeaway Cả hai đều hướng đến tập hợp token tối ưu. Chọn hướng tiếp cận phù hợp với bài toán và điểm xuất phát của bạn.
04 / 16
// MODULE.03 / LESSON.2 — Quản lý Tools

Tools cũng là một phần của Context

Mỗi công cụ (tool) mà agent có thể dùng cũng là một phần của Context — thường định nghĩa ở đầu Context. Thiết kế bộ tool ảnh hưởng trực tiếp đến chất lượng Context.

Nguyên tắc 1

Nhỏ, gọn, đúng việc

Mỗi tool làm đúng một việc. Tránh tool "đa năng mơ hồ" hoặc trùng lặp chức năng.

Nguyên tắc 2

I/O rõ ràng

Mô tả cụ thể, tham số rõ ràng. Giới hạn kết quả trả về cô đọng — tránh trả quá nhiều dữ liệu dư thừa.

Nguyên tắc 3

Nạp tri thức đặc thù

Cung cấp API spec, domain knowledge, glossary, style guide trước khi giao việc cho model.

Quy tắc Tool càng "gọn" về thông tin → context càng ít bị ô nhiễm bởi dữ liệu không cần thiết. Agent dễ lựa chọn đúng hành động hơn khi bộ tool tinh gọn.
05 / 16
// MODULE.03 / LESSON.2 — Tri thức nền

Nạp tri thức domain vào Context

Context không chỉ gồm nội dung cuộc hội thoại — còn có thể chứa những tri thức nền để mô hình ra quyết định chuẩn xác hơn.

Các loại tri thức cần nạp

Domain Knowledge

  • Mô tả API & endpoint specs
  • Thông tin & thuật ngữ nghiệp vụ
  • Dữ liệu cấu hình
  • Style guide, coding conventions
Ví dụ thực tế

Agent tài chính

Cấp bảng chú giải thuật ngữ tài chính quan trọng → mô hình "biết" bối cảnh công việc thay vì đoán mò từ dữ liệu huấn luyện.

Kết quả: ít hallucination, ra quyết định chính xác hơn trong domain.

06 / 16
// MODULE.03 / LESSON.3 — Bộ nhớ ngắn hạn

Bộ nhớ ngắn hạn — In-Context Memory

Những gì mô hình nhớ trong phiên làm việc hiện tại: lịch sử hội thoại, các bước lập luận vừa thực hiện, kết quả tool mới nhận.

Nên GIỮ

Giữ lại

  • Mục tiêu của task
  • Quyết định quan trọng
  • Kết quả bất thường cần chú ý
  • Constraints / requirements
Nên LOẠI

Loại bỏ

  • Đoạn lặp lại / dư thừa
  • Log tool dài không còn cần thiết
  • Nội dung đã được tóm tắt
  • Intermediate results không còn dùng
07 / 16
// MODULE.03 / LESSON.3 — Bộ nhớ dài hạn

Bộ nhớ dài hạn — Persistent Memory

Với tác vụ kéo dài hoặc lặp lại qua nhiều phiên, Agent cần dạng trí nhớ bền vững hơn context tạm thời.

📝

File System

NOTES.md · STATUS.md — ghi chú mục tiêu, tiến độ, chi tiết cần nhớ

🗄️

Database

Relational DB hoặc công cụ bộ nhớ đặc biệt — lưu trữ có cấu trúc

🔍

Vector / Graph DB

Tìm kiếm ngữ nghĩa & quan hệ — nạp lại vào context khi cần

Lợi ích Agent nhớ được sự kiện từ lâu mà không phải gánh tất cả trong một Context Window hạn hẹp.
08 / 16
// MODULE.03 / LESSON.3 — Compaction

Kỹ thuật Compaction — Tóm tắt thông minh

Khi cuộc hội thoại hoặc chuỗi hành động sắp chạm trần giới hạn token, kỹ thuật tóm tắt ngữ cảnh cũ sẽ phát huy tác dụng.

Cách thực hiện

2 bước

  • Dùng chính mô hình tóm tắt nội dung đã qua (chi tiết ít quan trọng, dữ liệu thô từ tool)
  • Mở phiên mới với bản tóm tắt + thông tin gần nhất
Tóm tắt tốt cần

Giữ đúng thứ quan trọng

  • Giữ quyết định chính, mục tiêu, vấn đề còn dang dở
  • Bỏ "râu ria": kết quả tool cũ, hội thoại phụ
Lưu ý quan trọng Nên ưu tiên high recall (giữ đủ thông tin) trước, rồi tinh chỉnh cho gọn dần (tăng precision). Tóm tắt quá tay có thể lược mất manh mối quan trọng.
09 / 16
// MODULE.03 / LESSON.4 — Duy trì mục tiêu

Hiện tượng "Lost-in-the-Middle"

Ở những chuỗi tương tác dài (hàng chục bước trở lên), LLM dễ "quên" mục tiêu ban đầu và sa đà vào chi tiết phụ.

Triệu chứng

Dấu hiệu nhận biết

  • Agent đi lạc khỏi mục tiêu gốc
  • Câu trả lời sa đà vào chi tiết phụ
  • Hành động không còn hướng đến kết quả cần đạt
Giải pháp

Kỹ thuật Recitation

Agent định kỳ tóm tắt mục tiêu hiện tại vào cuối ngữ cảnh (như cập nhật checklist, TODO).

Ở lượt suy luận kế tiếp, model luôn thấy mục tiêu ngay trong vùng chú ý gần nhất — giảm hẳn nguy cơ lan man.

"Mình đang làm X, bước kế tiếp cần Y" — như người tự độc thoại để duy trì tập trung.

10 / 16
// MODULE.03 / LESSON.4 — Lỗi trong Context

Giữ lỗi lầm trong ngữ cảnh

Phản xạ sai

Thường thấy nhưng sai

  • Che giấu hoặc xóa bỏ dấu vết lỗi
  • Reset trạng thái về ban đầu
  • Thử lại từ đầu một cách "sạch sẽ"

Vô tình xóa luôn manh mối để mô hình học.

Approach đúng

Để lỗi xuất hiện

  • Giữ các bước sai và lỗi trong context
  • Model tự điều chỉnh xác suất để tránh lặp lại
  • Agent thích nghi & cải thiện ở bước kế tiếp

Lỗi là một phần của vòng lặp học hỏi.

Triết lý Lỗi không phải thất bại hoàn toàn — mà là tín hiệu học để Agent tránh lặp lại cùng một sai lầm ở bước tiếp theo.
11 / 16
// MODULE.03 / LESSON.5 — Review liên tục

Mô hình AI không ngừng phát triển

Với mô hình hiện tại, có thể cần nhiều chỉ dẫn và ví dụ — nhưng vài tháng sau, mô hình mới ra đời có thể làm tốt mà không cần những chỉ dẫn như vậy.

Model cũ

Nhiều ngữ cảnh

  • Cut-off knowledge xa hơn
  • Cần nhiều document, ví dụ
  • Cần chỉ dẫn chi tiết cho framework mới
Model thế hệ mới

Context đơn giản hơn

  • Cut-off knowledge gần hơn
  • Thông minh hơn, tổng quát tốt hơn
  • Có thể không cần nhiều doc, ví dụ như trước
Ví dụ — Knowledge Cutoff LLM cần generate code cho thư viện ra đời sau cut-off → cần nhiều doc. Sau đó model mới ra mắt với cut-off gần hơn → không cần đưa vào nhiều document nữa.
12 / 16
// MODULE.03 / LESSON.5 — Cải tiến liên tục

Flow tốt hôm nay tốt mãi mãi

Một flow Context Engineering hoạt động tốt ở thời điểm hiện tại không có nghĩa là nó sẽ mãi phù hợp hoặc vẫn là phương pháp tối ưu trong tương lai.

Trigger 1

Model mới ra mắt

Đánh giá lại xem context có thể đơn giản hóa không — bớt ví dụ, bớt chỉ dẫn.

Trigger 2

Yêu cầu nghiệp vụ thay đổi

Domain mới, quy trình mới → cần cập nhật tri thức nền và tool descriptions.

Trigger 3

Performance suy giảm

Khi chất lượng output giảm theo thời gian → review lại toàn bộ flow.

Nguyên tắc vận hành Thường xuyên review lại flow, logic triển khai Context Engineering — đặc biệt khi có model mới ra mắt hoặc yêu cầu nghiệp vụ thay đổi.
13 / 16
// MODULE.03 / RECAP

5 ý chốt từ Module 3

Ít mà Chất

Mỗi token phải có lý do tồn tại. Context là tài nguyên quý giá, không phải kho chứa. Minimal ≠ sơ sài.

Tools & Knowledge

Tool nhỏ, gọn, làm đúng 1 việc. I/O rõ ràng. Nạp tri thức domain trước khi giao việc.

Short vs Long Memory

Short-term: in-context. Long-term: NOTES.md, vector DB... Compaction khi sắp đầy — recall trước, precision sau.

Mục tiêu & Lỗi

Recitation chống lost-in-the-middle. Giữ lỗi trong context — lỗi là phần của vòng học, không phải thất bại.

Review liên tục

Model AI không ngừng tiến bộ → context có thể đơn giản dần. Flow tốt hôm nay cần được review khi có model mới hoặc yêu cầu thay đổi.

14 / 16
// MODULE.03 / QUIZ

6 câu hỏi — bạn nhớ được bao nhiêu?

15 / 16
// MODULE.03 / FIN

Module 03 hoàn thành

Bạn đã nắm được các nguyên tắc thực chiến của Context Engineering — từ triết lý 'Ít mà Chất' đến kỹ thuật quản lý bộ nhớ và cải tiến liên tục.

Đã học 5 Lessons
Quiz 6 câu
Tiếp theo Module 04
← Quay lại tổng quan khóa học
16 / 16