Tác nhân AI thiếu trí tuệ hay thiếu ngữ cảnh

[Love AI]

Có một hiểu lầm cho rằng các tác nhân AI sẽ thay thế hoàn toàn phần mềm doanh nghiệp. Thực tế, vấn đề không nằm ở khả năng của mô hình mà ở ngữ cảnh và dữ liệu vận hành mà chúng được cung cấp.

Nhiều người tin rằng tác nhân AI (AI agents) sẽ thay thế các ứng dụng SaaS truyền thống bằng cách tự động hóa mọi quy trình phần mềm. Tuy nhiên, cách nhìn này bỏ qua thực tế nền tảng: AI không thay thế dữ liệu, hạ tầng và hệ thống vận hành mà doanh nghiệp phụ thuộc. Thay vào đó, AI cần ngữ cảnh rõ ràng để hoạt động đáng tin cậy.

Vì sao ngữ cảnh quan trọng​

Mô hình càng mạnh thì càng cần thông tin liên quan và nền tảng vận hành để đưa ra kết quả chính xác. Thiếu ngữ cảnh, AI dễ tạo ra "hallucination" — kết quả có vẻ hợp lý nhưng thiếu thông tin, gây hiểu nhầm hoặc sai sót nghiêm trọng.

Ví dụ thực tế: một mô hình đánh giá rủi ro tín dụng bị sai lệch có thể chấp thuận giao dịch gian lận, gây tổn thất tài chính và rủi ro pháp lý. Tương tự, trợ lý y tế nếu thiếu dữ liệu lâm sàng đầy đủ có thể đưa ra hướng dẫn không an toàn. Ngay cả quyết định chiến lược như chuỗi cung ứng cũng có thể sai hướng nếu mô hình hiểu nhầm xu hướng thị trường.

Context engineering là gì​

Context engineering (kỹ thuật ngữ cảnh) là cách thiết kế và cấu trúc dữ liệu, luồng công việc và môi trường để hệ thống AI hiểu đúng ý định, đưa ra quyết định tốt hơn và tạo ra kết quả phù hợp với doanh nghiệp. Theo Gartner, nó bao gồm việc sắp xếp các nguồn dữ liệu và quy tắc vận hành sao cho AI có thể hoạt động theo chuẩn mực doanh nghiệp.

Một ví dụ đơn giản: trợ lý chăm sóc khách hàng xử lý tranh chấp hoá đơn cần truy cập lịch sử tài khoản, nhật ký giao dịch gần đây, tài liệu sản phẩm và chính sách hoàn tiền hiện hành — đồng thời biết thứ tự ưu tiên khi dùng những nguồn đó. Nếu thiếu những ngữ cảnh này, dù mô hình mạnh mẽ, phản hồi vẫn có thể chung chung hoặc gây nhầm lẫn.

Giải pháp và thực hành​

Để khắc phục, doanh nghiệp cần nền tảng kết hợp dữ liệu có cấu trúc và không cấu trúc, truy xuất tín hiệu phù hợp từ nhiều hệ thống, và cung cấp khả năng minh bạch để kỹ sư theo dõi cách kết quả được sinh ra.

• Thống nhất nguồn dữ liệu nội bộ và tài liệu chuyên môn để AI truy vấn chính xác.
• Xây dựng cơ chế truy xuất thông tin liên quan (retrieval) và lọc độ ưu tiên cho ngữ cảnh.
• Cung cấp công cụ giám sát, giải thích đầu ra để phát hiện khoảng trống và sửa lỗi nhanh.
• Đảm bảo quản trị, tuân thủ và giám sát con người trong các quyết định quan trọng.
• Tùy chỉnh tác nhân cho từng miền chuyên môn (y tế, pháp lý, tài chính) để giảm rủi ro và tăng độ chính xác.

Khi kỹ thuật ngữ cảnh được triển khai đúng, AI sẽ trở thành một lớp đáng tin cậy nằm trên hệ thống doanh nghiệp hiện có — hỗ trợ các luồng công việc phức tạp, giảm ma sát giữa nhiều công cụ và cho phép nhà phát triển xây dựng các quy trình AI nhiều bước, phù hợp với yêu cầu chuyên ngành và quản trị vận hành.

Nguồn: Techradar