Sau khi “mổ xẻ” module , chúng tôi đã phát hiện ra một bài học đắt giá về Độ hạt dữ liệu (Data Granularity) và cách nó có thể bóp méo hoàn toàn kết quả của các mô hình Machine Learning.

1. Bản chất của sai số: Sự lệch pha về độ hạt

Trong hệ thống dữ liệu bán lẻ, dữ liệu thường tồn tại ở hai trạng thái với mục đích khác nhau:

• Dữ liệu Giao dịch (Transactional Data – Actuals): Lưu trữ trong DB dưới dạng từng dòng đơn hàng. Một sản phẩm A tại kho B trong một ngày có thể phát sinh 10, 20 hoặc cả trăm giao dịch nhỏ lẻ.
• Dữ liệu Dự báo (Forecasted Data): Để phục vụ lập kế hoạch tồn kho, mô hình AI thường đưa ra con số Tổng nhu cầu ngày (Daily Total). Ví dụ: “Ngày mai, chi nhánh này cần 40 bút bi”.

Lỗi logic xảy ra khi hàm đánh giá _append_records thực hiện phép tính sai số bằng cách lấy một giá trị dự báo tổng (Aggregate) đem so sánh lần lượt với từng dòng giao dịch riêng lẻ (Atomic).

Mô phỏng toán học của lỗi:

Giả sử Forecast cho ngày D là 40 units. Thực tế bán được 41 units thông qua 3 đơn hàng: a=10, b=11, c=20.

• Cách tính đúng (Sau khi Aggregate):
  • Error = | (10 + 11 + 20) - 40 | = | 41 - 40 | = 1 (Sai số cực nhỏ)
• Cách tính sai (Trước khi fix – lặp qua từng giao dịch):
  • Error_total = |10 – 40| + |11 – 40| + |20 – 40| = 30 + 29 + 20 = 79 (Sai số bị thổi phồng lên gấp 79 lần!)

2. Phân tích tác động: Từ 9,369 dòng xuống còn 84 dòng

Một trong những dấu hiệu rõ nhất của lỗi này chính là Sample Count (Số lượng mẫu đánh giá).

Trước khi fix, hệ thống báo cáo sample_count = 9,369. Đây thực tế là tổng số giao dịch (transactions) trong tệp dữ liệu test. Việc đánh giá dựa trên từng giao dịch không mang lại giá trị cho bài toán Supply Chain, vì chúng ta không dự báo cho từng khách hàng vãng lai, chúng ta dự báo cho tổng lượng hàng rời kho.

Sau khi thực hiện gộp dữ liệu (Aggregate) theo cặp (product_id, location_id) và date, con số này giảm xuống còn khoảng 84.

• Công thức: 84 = (Số lượng SKU-Location) x (Số ngày trong chu kỳ Eval ).
• Đây mới là con số thực tế đại diện cho số lượng “quyết định dự báo” mà model thực hiện. Khi sample_count chuẩn hóa, WAPE tự động rơi từ mức “thảm họa” 177% về mức “khả thi”.

3. Giải pháp kỹ thuật và Tối ưu hóa Code

Chúng tôi đã tái cấu trúc lại luồng xử lý trong forecast_x1 . Thay vì map trực tiếp actual_df vào vòng lặp, chúng tôi thực hiện một bước “Pre-evaluation Processing”:

1. Chuẩn hóa Actuals: Sử dụng hàm groupby trên Pandas để nén dữ liệu giao dịch thành dữ liệu ngày.
2. Đồng bộ Key: Tạo ra một Unique Key kết hợp giữa ID sản phẩm + ID vị trí + Ngày để đảm bảo phép Join (kết nối) giữa Forecast và Actual là 1-1.
3. Xử lý giá trị thiếu: Trong trường hợp một ngày có Forecast nhưng không có giao dịch thực tế (Actual = 0), hệ thống phải tự động fill 0 thay vì bỏ qua record đó để tránh làm đẹp chỉ số một cách giả tạo.

# Logic core sau khi điều chỉnh
actual_daily = actual_df.groupby(['product_id', 'location_id', 'date']).agg({
    'sales_quantity': 'sum'
}).reset_index()

# Đánh giá trên dữ liệu đã gộp
evaluation_results = calculate_wape(actual_daily, forecast_df)

# Logic core sau khi điều chỉnh
actual_daily = actual_df.groupby(['product_id', 'location_id', 'date']).agg({
    'sales_quantity': 'sum'
}).reset_index()

# Đánh giá trên dữ liệu đã gộp
evaluation_results = calculate_wape(actual_daily, forecast_df)

4. Bài học cho các kỹ sư dữ liệu (Data Engineers)

Vấn đề này không chỉ là một bug code đơn thuần, nó là bài học về tư duy hệ thống:

• Hiểu về Granularity: Luôn đặt câu hỏi “Dữ liệu này đang ở cấp độ nào?”. Dự báo cấp ngày không thể so sánh với giao dịch cấp giây.
• Sự nguy hiểm của WAPE: WAPE là chỉ số rất nhạy cảm với trọng số. Khi tử số (lỗi tuyệt đối) bị lặp lại quá nhiều lần trong khi mẫu số (tổng thực tế) không đổi, chỉ số này sẽ mất đi ý nghĩa.
• Trực quan hóa là chìa khóa: Nếu chúng tôi chỉ nhìn vào con số 177% mà không vẽ biểu đồ so sánh đường Forecast và Actual, có lẽ chúng tôi đã tốn hàng tuần để tinh chỉnh Model (Fine-tuning) trong khi thực tế Model đã chạy rất tốt.

Kết luận

Việc đưa WAPE từ 177% về giá trị thực không chỉ giúp báo cáo đẹp hơn, mà quan trọng nhất là phục hồi niềm tin của bộ phận vận hành vào hệ thống AI. Trong thế giới của Data Science, đôi khi một dòng lệnh groupby đúng chỗ còn giá trị hơn cả việc thay đổi toàn bộ kiến trúc mô hình Neural Network.

Thông tin dự án:

• Project: Ayai – Retail Forecasting
• Issue: Evaluation Granularity Mismatch.

Bài viết Data Granularity: “Lỗ hổng” logic khiến chỉ số WAPE biến dạng từ 2.5% thành 177% đã xuất hiện đầu tiên vào ngày Ứng dụng trí tuệ nhân tạo trong doanh nghiệp - AI.

Nếu bạn đang loay hoay tìm cách chuyển đổi những file Jupyter Notebook rời rạc thành một hệ thống AI vận hành trơn tru, thì khái niệm MLOps (Machine Learning Operations) chính là câu trả lời.

Hôm nay, chúng ta sẽ cùng “mổ xẻ” sơ đồ kiến trúc MLOps chuẩn mực – tấm bản đồ kho báu giúp kết nối giữa Business, Data và Operations.

MLOps là gì? Tại sao cần nhìn vào bức tranh toàn cảnh?

MLOps không chỉ là việc viết code. Đó là sự kết hợp giữa Machine Learning, DevOps và Data Engineering. Nhìn vào sơ đồ kiến trúc, bạn sẽ thấy nó không phải là một đường thẳng, mà là một vòng lặp khép kín của 4 vùng chiến lược (Zones):

1. Zone A: Khởi tạo dự án (Project Initiation)
2. Zone B: Kỹ thuật dữ liệu (Data Engineering)
3. Zone C: Thử nghiệm mô hình (Experimentation)
4. Zone D: Vận hành tự động (Automated Workflow)

Hãy cùng đi sâu vào từng “phân xưởng” trong nhà máy AI này.

Zone A: Project Initiation

Mọi hệ thống MLOps thành công đều bắt đầu từ trước khi dòng code đầu tiên được viết. Tại Zone A, sự hợp tác giữa Business Stakeholder (BS) và Solution Architect (SA) là chìa khóa.

• Business Goal: Xác định rõ bài toán kinh doanh (ví dụ: Tăng doanh số, giảm tỷ lệ rời bỏ).
• Data Understanding: Các Data Scientist (DS) và Data Engineer (DE) phải trả lời câu hỏi: Dữ liệu nằm ở đâu? Làm sao để lấy nó?
• Sai lầm thường gặp: Lao vào train model ngay mà không hiểu rõ yêu cầu đầu vào và kiến trúc tổng thể.

Zone B: Data Engineering Pipeline

Đây là nơi “nguyên liệu thô” được sơ chế. Quy trình này bao gồm:

• Ingestion: Hút dữ liệu từ nhiều nguồn (Streaming, Batch, Cloud Storage).
• Transformation: Làm sạch và biến đổi dữ liệu.
• Feature Store (Thành phần quan trọng nhất): Hãy chú ý đến khối “Feature store system” trong sơ đồ. Đây là kho lưu trữ trung tâm giúp đồng bộ dữ liệu giữa môi trường training (Offline DB) và môi trường serving (Online DB). Nó đảm bảo mô hình lúc học và lúc thi đều dùng cùng một bộ kiến thức.

Zone C: Phòng thí nghiệm sáng tạo (Experimentation)

Đây là sân chơi của các Data Scientist. Tại đây, các mô hình được thai nghén thông qua quy trình:

1. Data Analysis: Phân tích dữ liệu từ Feature Store.
2. Training & Validation: Thử nghiệm các thuật toán, tinh chỉnh tham số (Hyperparameter tuning).
3. Export Model: Chọn ra “nhà vô địch” – mô hình tốt nhất để đẩy sang giai đoạn tiếp theo.

Zone D: Automated Workflow & Production

Đây là nơi MLOps thực sự tỏa sáng. Thay vì deploy thủ công (dễ lỗi), hệ thống sử dụng CI/CD Component để tự động hóa mọi thứ:

• Model Registry: “Hộ chiếu” cho mô hình. Chỉ những mô hình đạt chuẩn (Staging/Prod) mới được lưu tại đây.
• Automated Pipeline: Khi có dữ liệu mới hoặc code thay đổi, hệ thống tự động kích hoạt quy trình training lại (Retraining).
• Serving & Monitoring: Mô hình được đưa ra phục vụ người dùng (Prediction). Đồng thời, hệ thống giám sát (Monitoring component) liên tục theo dõi hiệu năng. Nếu mô hình bắt đầu “học dốt” đi (Model drift), một tín hiệu sẽ được gửi về để kích hoạt vòng lặp huấn luyện lại.

3 Điểm “đắt giá” nhất của kiến trúc này

Nhìn vào sơ đồ, bạn cần ghi nhớ 3 từ khóa để hệ thống của bạn đạt chuẩn Enterprise:

1. Tính lặp lại (Reproducibility): Nhờ Feature Store và Model Registry, bạn luôn biết chính xác mô hình nào được tạo ra từ dữ liệu nào.
2. Tự động hóa (Automation): Pipeline CI/CD giúp giảm thiểu lỗi con người trong quá trình đưa mô hình ra thực tế.
3. Vòng phản hồi (Feedback Loop): Mũi tên quay ngược từ bước Monitoring về bước Initiation chính là bí quyết để AI ngày càng thông minh hơn theo thời gian.

Kết luận

Xây dựng hệ thống AI không khó, nhưng xây dựng một hệ thống AI có thể vận hành bền vững (Scalable & Maintainable) thì cần một tư duy kiến trúc bài bản như sơ đồ trên.

Bạn đang ở giai đoạn nào trong 4 Zone này? Hệ thống của bạn đã có Feature Store chưa? Hãy liên hệ với chúng tôi để được tư vấn

Bài viết Kiến trúc MLOps đã xuất hiện đầu tiên vào ngày Ứng dụng trí tuệ nhân tạo trong doanh nghiệp - AI.

Vấn  đề với độ chính xác  là nó không nhất thiết là một thước đo tốt để xác định mức độ hiệu quả của mô hình trong việc dự đoán kết quả. Điều này nghe có vẻ phản trực giác (do đó mới có nghịch lý), nhưng tùy thuộc vào dữ liệu mà nó gặp phải trong quá trình huấn luyện, một mô hình có thể trở nên thiên vị đối với một số dự đoán nhất định, dẫn đến tỷ lệ dự đoán chính xác cao nhưng hiệu suất tổng thể kém. Một mô hình có thể báo cáo có các dự đoán rất chính xác, nhưng trên thực tế, độ chính xác đó có thể chỉ phản ánh cách nó học cách dự đoán khi được huấn luyện trên một tập dữ liệu không cân bằng.

Hãy xem xét trường hợp thu thập dữ liệu huấn luyện cho một mô hình dự đoán tình trạng bệnh lý. Giả sử phần lớn dữ liệu bệnh nhân thu thập được, khoảng 95%, có khả năng thuộc nhóm khỏe mạnh, trong khi bệnh nhân mắc bệnh chỉ chiếm một phần nhỏ hơn nhiều. Trong quá trình huấn luyện, mô hình phân loại học được rằng nó có thể đạt độ chính xác 95% nếu dự đoán “khỏe mạnh” cho mọi dữ liệu mà nó gặp phải. Đó là một vấn đề lớn vì điều mà các bác sĩ thực sự muốn mô hình làm là xác định những bệnh nhân đang mắc phải một tình trạng bệnh lý nào đó.

Tại sao việc cân bằng tập dữ liệu lại quan trọng

Mặc dù các mô hình được huấn luyện trên dữ liệu không cân bằng thường dễ mắc phải nghịch lý về độ chính xác, nhưng các nhóm ML giỏi sử dụng các chỉ số khác như  độ chính xác (precision), độ thu hồi (recall) và độ đặc hiệu (specificity)  để phân tích độ chính xác. Các chỉ số này trả lời các câu hỏi khác nhau về hiệu suất của mô hình, chẳng hạn như “Trong số tất cả bệnh nhân, có bao nhiêu người thực sự được dự đoán là bị bệnh?” (độ thu hồi). Dữ liệu không cân bằng có thể làm sai lệch kết quả đối với mỗi chỉ số, vì vậy việc kiểm tra hiệu suất của mô hình trên nhiều chỉ số là chìa khóa để xác định xem mô hình thực sự hoạt động tốt như thế nào. 

Các tập dữ liệu không cân bằng tạo ra thách thức cho mô hình dự đoán, nhưng thực tế đây là một vấn đề phổ biến và được dự đoán trước vì thế giới thực đầy rẫy những ví dụ về dữ liệu không cân bằng. 

Cân bằng tập dữ liệu giúp việc huấn luyện mô hình dễ dàng hơn vì nó giúp ngăn chặn mô hình bị thiên vị về một class nào đó. Nói cách khác, mô hình sẽ không còn ưu tiên class đa số chỉ vì class đó chứa nhiều dữ liệu hơn.

Chúng ta sẽ sử dụng ví dụ sau xuyên suốt bài viết để giải thích khái niệm này và các khái niệm khác. Trong ví dụ, mèo thuộc nhóm đa số, còn chó thuộc nhóm thiểu số. 

Giờ chúng ta hãy cùng xem xét một số chiến lược mà các nhóm ML có thể sử dụng để cân bằng dữ liệu của họ.

Thu thập thêm dữ liệu

Khi các nhóm ML áp dụng phương pháp tiếp cận dựa trên dữ liệu trong trí tuệ nhân tạo, họ hiểu rằng dữ liệu chính là công cụ giúp vận hành mô hình. Nhìn chung, càng có nhiều dữ liệu để huấn luyện mô hình, hiệu suất của nó càng tốt. Tuy nhiên, việc lựa chọn dữ liệu phù hợp và  đảm bảo chất lượng dữ liệu cũng rất cần thiết để cải thiện hiệu suất mô hình.

Vậy câu hỏi đầu tiên cần đặt ra khi gặp phải tập dữ liệu không cân bằng là:  Tôi có thể thu thập thêm dữ liệu chất lượng từ nhóm dữ liệu ít được đại diện hơn không?

Các nhóm nghiên cứu ML có thể áp dụng hai cách tiếp cận để thu thập thêm dữ liệu. Họ có thể cố gắng thu thập thêm dữ liệu “thực” từ các ví dụ trong thế giới thực, hoặc họ có thể tạo ra  dữ liệu tổng hợp bằng cách sử dụng các công cụ trò chơi hoặc  mạng đối kháng tạo sinh . 

Trong ví dụ minh họa của chúng ta, tập dữ liệu mới sẽ trông như thế này: 

Lấy mẫu dưới mức 

Nếu không thể thu thập thêm dữ liệu, thì đã đến lúc bắt đầu triển khai các chiến lược nhằm cân bằng lại các class.

Lấy mẫu thiếu (undersampling) là một chiến lược cân bằng trong đó chúng ta loại bỏ các mẫu từ class được đại diện quá mức cho đến khi class thiểu số và class đa số có sự phân bố dữ liệu bằng nhau. Mặc dù trong hầu hết các trường hợp, lấy mẫu thiếu không được khuyến khích, nhưng nó có một số ưu điểm: nó tương đối dễ thực hiện và có thể cải thiện thời gian chạy và chi phí tính toán của mô hình vì nó giảm lượng dữ liệu huấn luyện.

Tuy nhiên, việc lấy mẫu thiếu phải được thực hiện cẩn thận vì việc loại bỏ các mẫu khỏi tập dữ liệu gốc có thể dẫn đến mất thông tin hữu ích. Tương tự, nếu tập dữ liệu gốc ban đầu không chứa nhiều dữ liệu, thì việc lấy mẫu thiếu sẽ khiến bạn có nguy cơ phát triển  mô hình quá khớp .

Ví dụ, nếu tập dữ liệu gốc chỉ chứa 100 mẫu – 80 mẫu từ class đa số và 20 mẫu từ class thiểu số – và tôi loại bỏ 60 mẫu từ class đa số để cân bằng tập dữ liệu, thì tôi đã bỏ qua 60% dữ liệu đã thu thập. Mô hình giờ chỉ còn 40 điểm dữ liệu để huấn luyện. Với lượng dữ liệu ít ỏi như vậy, mô hình có khả năng sẽ ghi nhớ dữ liệu huấn luyện và không thể khái quát hóa khi gặp dữ liệu chưa từng thấy trước đây. 

Với phương pháp lấy mẫu thiếu, tập dữ liệu trong ví dụ minh họa của chúng ta có thể trông như thế này, điều này rõ ràng là không lý tưởng.

Việc đạt được một tập dữ liệu cân bằng với nguy cơ quá khớp là một sự đánh đổi lớn, vì vậy các nhóm ML cần phải suy nghĩ kỹ về loại bài toán mà họ sử dụng phương pháp lấy mẫu thiếu. 

Giả sử lớp thiểu số có số lượng mẫu nhỏ. Trong trường hợp đó, việc sử dụng phương pháp lấy mẫu thiếu có lẽ không phải là ý tưởng hay vì kích thước của tập dữ liệu cân bằng sẽ làm tăng nguy cơ quá khớp. 

Tuy nhiên, việc lấy mẫu thiếu có thể là một lựa chọn tốt khi vấn đề mà mô hình đang cố gắng giải quyết tương đối đơn giản. Ví dụ, nếu các mẫu trong hai lớp dễ phân biệt vì chúng không chồng chéo nhiều, thì mô hình không cần nhiều dữ liệu để học cách đưa ra dự đoán vì nó khó có thể nhầm lẫn giữa các lớp với nhau, và ít có khả năng gặp phải nhiễu trong dữ liệu.

Lấy mẫu thiếu (undersampling) có thể là một lựa chọn tốt khi huấn luyện các mô hình để dự đoán các bài toán dữ liệu dạng bảng đơn giản. Tuy nhiên, hầu hết các bài toán thị giác máy tính đều quá phức tạp để áp dụng phương pháp lấy mẫu thiếu. Hãy nghĩ về các bài toán phân loại ảnh cơ bản. Hình ảnh một con mèo đen và một con mèo trắng có thể trông rất khác nhau đối với con người. Tuy nhiên, một mô hình thị giác máy tính sẽ tiếp nhận tất cả thông tin trong hình ảnh: nền, phần trăm diện tích hình ảnh bị chiếm bởi con mèo, giá trị pixel, và nhiều hơn nữa. Điều mà mắt người chỉ nhìn thấy là một sự khác biệt đơn giản lại là một quyết định phức tạp hơn nhiều trong mắt của một mô hình.

Nhìn chung, các nhóm ML thường cân nhắc kỹ trước khi loại bỏ dữ liệu, vì vậy họ thường ưu tiên các phương pháp cân bằng dữ liệu khác, chẳng hạn như lấy mẫu quá mức (oversampling).

Lấy mẫu quá mức

Lấy mẫu quá mức (oversampling) làm tăng số lượng mẫu trong lớp thiểu số cho đến khi thành phần của nó bằng với lớp đa số. Các nhóm nghiên cứu ML tạo bản sao của các mẫu trong lớp ít được đại diện để mô hình gặp số lượng mẫu bằng nhau từ mỗi lớp, làm giảm khả năng bị thiên vị về lớp đa số.  

Khác với lấy mẫu thiếu (undersampling), lấy mẫu thừa (oversampling) không liên quan đến việc loại bỏ dữ liệu, vì vậy nó có thể giúp các nhóm ML giải quyết vấn đề thiếu dữ liệu mà không có nguy cơ mất thông tin quan trọng. Tuy nhiên, vì lớp thiểu số vẫn bao gồm một lượng hạn chế các điểm dữ liệu duy nhất, mô hình dễ bị ghi nhớ các mẫu dữ liệu và quá khớp (overfitting). 

Để giảm thiểu rủi ro quá khớp (overfitting), các nhóm nghiên cứu ML có thể tăng cường dữ liệu sao cho các bản sao của mẫu trong lớp thiểu số khác với bản gốc. Khi huấn luyện mô hình thị giác máy tính trên dữ liệu hình ảnh, họ có thể kết hợp nhiều phép tăng cường khác nhau như xoay ảnh, thay đổi độ sáng, cắt xén, tăng độ sắc nét hoặc làm mờ, v.v. để mô phỏng một tập dữ liệu đa dạng hơn. Thậm chí, các thuật toán cũng được thiết kế  để giúp tìm ra các phép tăng cường tốt nhất cho một tập dữ liệu. 

Với phương pháp lấy mẫu quá mức (oversampling), các tập dữ liệu trong ví dụ minh họa của chúng ta có thể trông như thế này: 

Tính toán trọng số tổn thất của bạn

Thay vì sử dụng phương pháp lấy mẫu quá mức, bạn có thể điều chỉnh hàm mất mát để tính đến sự phân bố lớp không đồng đều. Trong mô hình phân loại, các hàm mất mát không trọng số coi tất cả các lỗi phân loại sai là các lỗi tương tự, nhưng trọng số phạt hướng dẫn thuật toán xử lý các lỗi dự đoán khác nhau tùy thuộc vào việc lỗi xảy ra khi dự đoán cho lớp thiểu số hay lớp đa số. Việc thêm trọng số phạt sẽ đưa sự thiên vị có chủ ý vào mô hình, ngăn nó ưu tiên lớp đa số.

Nếu một thuật toán có trọng số cao hơn cho lớp thiểu số và trọng số thấp hơn cho lớp đa số, nó sẽ phạt các lỗi phân loại sai từ lớp thiểu số nhiều hơn so với lớp đa số. Với trọng số phạt, các nhóm ML có thể điều chỉnh mô hình để chú trọng hơn đến lớp thiểu số trong quá trình huấn luyện, từ đó tạo ra sự cân bằng giữa các lớp.

Hãy xem một ví dụ đơn giản. Giả sử bạn có sáu mẫu huấn luyện, trong đó năm mẫu là mèo và một mẫu là chó. Nếu bạn lấy mẫu quá mức (oversample), bạn sẽ tạo ra một tập dữ liệu với năm con mèo khác nhau và năm bản sao của con chó. Khi bạn tính toán hàm mất mát trên tập dữ liệu được lấy mẫu quá mức này, mèo và chó sẽ đóng góp như nhau vào giá trị mất mát. 

Tuy nhiên, với phương pháp trọng số tổn thất, bạn sẽ không lấy mẫu quá mức mà chỉ đơn giản là nhân tổn thất của mỗi mẫu riêng lẻ với nghịch đảo số lượng mẫu (INS) của lớp đó

Như vậy, mỗi mẫu mèo trong số năm mẫu sẽ đóng góp một phần năm vào tổn thất, trong khi tổn thất của các mẫu chó sẽ không được tính theo tỷ lệ. Do đó, nhóm mèo và nhóm chó sẽ đóng góp ngang nhau.

Về mặt lý thuyết, phương pháp này tương đương với việc lấy mẫu quá mức. Ưu điểm ở đây là chỉ cần một vài dòng mã đơn giản để triển khai, và nó thậm chí còn hoạt động được với các bài toán đa lớp. 

Mặc dù các kỹ sư ML thường sử dụng phương pháp này cùng với việc tăng cường dữ liệu, vấn đề quá khớp vẫn có thể tồn tại vì mô hình vẫn có thể ghi nhớ lớp thiểu số trong nhiều trường hợp. Để giảm thiểu vấn đề này, họ có thể cần sử dụng các phương pháp điều chỉnh mô hình như  dropout  hoặc xem xét  thêm trọng số phạt vào  mô hình.

Sử dụng nhiều chỉ số khác nhau để kiểm tra hiệu suất mô hình

Mỗi khi các nhóm ML huấn luyện lại mô hình của họ trên một tập dữ liệu đã được thay đổi, họ nên kiểm tra hiệu suất của mô hình bằng các chỉ số khác nhau.

Tất cả các kỹ thuật nêu trên đều yêu cầu một số hình thức thử và sai, vì vậy việc kiểm tra mô hình trên các tập dữ liệu chưa từng được sử dụng trước đây là rất quan trọng để đảm bảo rằng việc huấn luyện lại mô hình trên một tập dữ liệu cân bằng mang lại hiệu suất ở mức chấp nhận được. 

Hãy nhớ rằng, điểm số hiệu năng của mô hình trên dữ liệu huấn luyện không phản ánh hiệu năng thực tế của nó trong môi trường thực tế. Một mô hình đủ phức tạp có thể đạt được độ chính xác 100%, độ chính xác tuyệt đối và khả năng nhớ lại dữ liệu huấn luyện hoàn hảo vì nó đã học cách ghi nhớ các mẫu dữ liệu. Để được đưa vào sử dụng thực tế, mô hình cần hoạt động tốt trên dữ liệu chưa từng được sử dụng trước đây vì hiệu năng của nó cho thấy điều gì sẽ xảy ra khi được áp dụng trong thế giới thực. 

Bài viết Dữ liệu không cân bằng là gì? đã xuất hiện đầu tiên vào ngày Ứng dụng trí tuệ nhân tạo trong doanh nghiệp - AI.

Trong huấn luyện các mô hình học sâu (Deep Learning), đặc biệt là các mạng thần kinh nhiều tầng (DNN, Transformer, CNN), chúng ta phải tối ưu hàm mất mát (loss function) để mô hình học ra trọng số tốt nhất. Tuy nhiên, hành trình tối ưu này không hề bằng phẳng. Trên thực tế, “bề mặt loss” hay loss landscape rất phức tạp, chứa vô số điểm tối cục bộ (local minima) và điểm yên ngựa (saddle points), khiến các thuật toán dựa trên gradient như SGD, Adam đôi khi gặp nhiều khó khăn.

Bài viết này giải thích một cách trực quan về loss landscape và lý do vì sao việc tối ưu mô hình AI không hề đơn giản như ta nghĩ.

1. Loss Landscape là gì?

Loss landscape là “bản đồ địa hình” của hàm mất mát, nơi:

• Trục X, Y, Z, …: đại diện cho các tham số (weights) trong mạng
• Trục chiều cao (loss): biểu thị giá trị mất mát tương ứng

Với các mô hình lớn (hàng triệu–tỉ tham số), loss landscape trở thành một “địa hình nhiều chiều” cực kỳ phức tạp.

Đặc điểm quan trọng của loss landscape:

• Không lồi (convex) như trong các bài toán tuyến tính
• Chứa nhiều “thung lũng”, “đồi núi”, “vực sâu”
• Rất nhạy cảm với thay đổi nhỏ trong tham số
• Thường gồ ghề và không đều do các hàm kích hoạt phi tuyến như ReLU, GELU

Loss landscape càng phức tạp cho mô hình càng khó tối ưu.

2. Local Minima – trong tối ưu hóa

Local minima là điểm mà loss nhỏ hơn điểm xung quanh, nhưng không phải nhỏ nhất toàn bộ (global minimum).

Ví dụ:

• Gradient Descent “rơi xuống đáy”
• Nhưng đáy đó không phải điểm tốt nhất

Local minima gây vấn đề gì?

• Mô hình dừng học quá sớm
• Accuracy kém
• Không đạt hiệu suất kỳ vọng

Tuy nhiên, trong các mạng lớn hiện nay (ResNet, Transformer…), local minima không còn là vấn đề lớn nhất – vấn đề thực sự khó là saddle point.

3. Saddle Point – khiến optimizer dễ bị lừa

Saddle point là điểm mà:

• Theo một hướng giống cực tiểu
• Theo hướng khác giống cực đại
• Gradient = 0

Điều nguy hiểm:

Gradient bằng 0 mô hình tưởng là tối ưu dừng lại.

Nhưng thực tế:

Đó chỉ là “điểm cân bằng không ổn định”, giống như yên ngựa.

Đây là loại “bẫy” nhiều nhất trong mô hình deep learning, khiến việc tối ưu chậm và dễ bị lạc hướng.

4. Vì sao Gradient Descent gặp khó khăn trong landscape phức tạp?

Các thuật toán tối ưu dựa trên gradient như:

• SGD
• SGD + Momentum
• Adam
• RMSProp

đều có chung đặc điểm: Đi xuống theo hướng dốc nhất.

Trong landscape phức tạp, điều này gây ra các vấn đề:

– Gradient gần bằng 0 ở saddle point mô hình đứng im

– Landscape gồ ghề mô hình dao động mạnh hội tụ chậm

– Dễ rơi vào local minima

– Learning rate khó điều chỉnh dễ overshoot hoặc stuck

– Tại sao Deep Learning vẫn hoạt động cực tốt?

Dù có rất nhiều bẫy, nhưng deep learning vẫn thành công nhờ:

Số chiều tham số rất lớn

– Local minima “xấu” hiếm gặp
– Nhiều local minima tốt gần bằng global minima

Stochastic Gradient Descent (SGD) thêm nhiễu ngẫu nhiên

– giúp thoát khỏi vùng xấu

Momentum, Adam giúp vượt qua vùng phẳng

– không bị kẹt ở saddle point

Kiến trúc hiện đại như ResNet, LayerNorm, BatchNorm

– làm landscape “mượt” hơn, dễ tối ưu hơn

Các kỹ thuật giúp vượt qua Local Minima & Saddle Points

Kết luận

Loss landscape trong deep learning rất phức tạp, chứa nhiều local minima và đặc biệt là saddle point, khiến các thuật toán tối ưu dựa trên gradient gặp nhiều khó khăn.

Tuy nhiên, nhờ kích thước tham số lớn, kỹ thuật chuẩn hóa, kiến trúc thông minh và các optimizer hiện đại, deep learning vẫn có thể huấn luyện thành công và đạt hiệu suất cao.

Hiểu được loss landscape giúp bạn:

• chọn optimizer tốt hơn
• điều chỉnh learning rate hợp lý
• thiết kế mô hình dễ tối ưu hơn
• tránh bị “mắc kẹt” khi training

Bài viết Loss Landscape, Local Minima, Saddle Point và Tại sao các thuật toán Gradient Descent gặp khó khăn đã xuất hiện đầu tiên vào ngày Ứng dụng trí tuệ nhân tạo trong doanh nghiệp - AI.

Event-driven

Tăng cường quy trình làm việc không đồng bộ của bạn với tích hợp hàng đợi tin nhắn, các loại tác vụ chuyên biệt và trình xử lý sự kiện.

Visual Builder

Đẩy nhanh quá trình từ ý tưởng đến sản xuất bằng cách tạo và chỉnh sửa quy trình làm việc trực quan với trình chỉnh sửa tích hợp để tích hợp mã liền mạch.

Decouple business logic

Tách logic kinh doanh khỏi lớp dịch vụ một cách hiệu quả để tránh trộn lẫn logic cốt lõi với việc triển khai dịch vụ trong cùng một mã.

Bài viết Các tính năng của Ayai cung cấp đã xuất hiện đầu tiên vào ngày Ứng dụng trí tuệ nhân tạo trong doanh nghiệp - AI.

1. Ít nhất 30% các sáng kiến ​​GenAI có thể bị bỏ dở vào cuối năm 2025 do dữ liệu kém, kiểm soát rủi ro không đầy đủ và các trường hợp kinh doanh mơ hồ.
2. Theo Gartner hơn 40% các dự án “AI tác nhân” có thể bị hủy bỏ vào năm 2027 do chi phí và giá trị kinh doanh không rõ ràng. 

Giám sát yếu kém và giá trị không rõ ràng là một trong những giả thuyết hàng đầu dẫn đến sự trì trệ của các dự án AI. Một cách thiết thực để giải quyết cả hai vấn đề này là phương pháp tiếp cận con người trong vòng lặp (HITL) — một khuôn khổ đảm bảo sự tham gia của con người vào những yếu tố then chốt trong hệ thống AI, bao gồm cả phán đoán, đạo đức và bối cảnh. Trong bài viết hôm nay, chúng ta sẽ tìm hiểu ý nghĩa của HITL trong thực tế và cách áp dụng nó mà không làm giảm giá trị của các giải pháp AI hiện đại.

Hệ thống AI con người trong vòng lặp (HITL) là gì?

Vậy rốt cuộc “con người trong vòng lặp” là gì?  Hệ thống HITL đặt con người vào các vị trí chiến lược trong chu trình ra quyết định của AI. Thay vì cho phép mô hình hoặc tác nhân tự động hành động ở mọi bước, hệ thống đề xuất một hành động hoặc phân loại. Sau đó, một con người được chỉ định sẽ xem xét, hiệu chỉnh hoặc phê duyệt. 

Phản hồi của con người trở thành dữ liệu đào tạo giúp cải thiện hiệu suất trong tương lai. Các doanh nghiệp áp dụng khung HITL để giảm thiểu sai sót tốn kém, xử lý các trường hợp bất thường và điều chỉnh các quyết định AI phù hợp với giá trị của tổ chức. Mục tiêu không phải là quản lý vi mô mà là cân bằng giữa tự động hóa và phán đoán.

Ví dụ, hãy xem xét bộ phận hỗ trợ khách hàng. Hệ thống HITL cho phép trợ lý soạn thảo email hoàn tiền. Đối với các trường hợp thông thường, tin nhắn sẽ được gửi tự động. Giám sát viên sẽ xem xét bản thảo, điều chỉnh giọng điệu hoặc điều khoản, và phê duyệt hoàn tiền một phần hoặc các trường hợp ngoại lệ về chính sách. Mã chỉnh sửa, mã lý do và đường dẫn phê duyệt sẽ được ghi lại. Các bản thảo trong tương lai sẽ phản ánh những quy luật này. Do đó, số lượng tin nhắn cần xem xét sẽ ít hơn, trong khi các trường hợp nhạy cảm vẫn cần sự đánh giá của con người.

Vòng phản hồi HITL hoạt động như thế nào trong quy trình làm việc của tác nhân AI

Chu trình HITL thường diễn ra theo bốn giai đoạn sau: 

1. Mô hình AI phân tích dữ liệu và đưa ra kết quả.
2. Người đánh giá sẽ đánh giá, phê duyệt hoặc chỉnh sửa bài viết.
3. Hệ thống sẽ ghi lại phản hồi này.
4. Các công cụ quản trị theo dõi chất lượng, tính nhất quán và sự thiên vị. 

Trong mỗi bối cảnh, sự điều chỉnh có mục tiêu của con người sẽ giúp mô hình xử lý các trường hợp ngoại lệ và phát triển cùng với dữ liệu thực tế .

Lộ trình triển khai Con người trong vòng lặp (HITL)

Áp dụng phương pháp tiếp cận “con người trong vòng lặp” hiệu quả nhất khi thực hiện từng bước nhỏ, có thể đo lường được. Các tổ chức thường thấy kết quả tốt hơn khi triển khai HITL dần dần, bắt đầu với một lĩnh vực duy nhất có tác động lớn, rút ​​kinh nghiệm từ kết quả và tiếp tục phát triển các khía cạnh khác từ đó: 

Bước #1. Xác định phạm vi các trường hợp có tác động lớn

Tùy thuộc vào ngành nghề của bạn, hãy bắt đầu bằng cách xác định một quy trình mà các quyết định mang lại rủi ro hữu hình. Ví dụ, hãy xem xét phân loại hình ảnh y tế, phê duyệt khoản vay hoặc quản lý hoàn tiền. Xác định các hành động được tự động hóa hoàn toàn và các hành động được chuyển đến nhân viên. Đặt ngưỡng ban đầu theo điểm tin cậy, số tiền hoặc thẻ rủi ro. Liên kết với tác động kinh doanh: giảm phí thu hồi nợ, giảm sai sót lâm sàng, giảm thất thoát tiền hoàn trả. 

Bước #2. Thí điểm và đo lường

Chạy một làn đánh giá (thử nghiệm có giới hạn) trong một miền. Ví dụ kinh doanh:

• Quản lý khoản vay: Chuyển các hồ sơ “ranh giới” đến các nhà phân tích tín dụng. Theo dõi độ chính xác của quyết định, thời gian xử lý và chất lượng hành động bất lợi.
• Chẩn đoán hình ảnh y tế: Gửi cảnh báo độ tin cậy thấp cho các bác sĩ X-quang. Theo dõi độ nhạy, tỷ lệ âm tính giả và thời gian đọc cho mỗi nghiên cứu.
• Xử lý hoàn tiền: Gửi bản thảo chính sách ngoại lệ cho trưởng nhóm. Theo dõi việc giải quyết ngay khi liên hệ lần đầu, thời gian xử lý trung bình và tỷ lệ khấu trừ.

Việc theo dõi tần suất can thiệp của con người, thời gian đánh giá và cách cải thiện kết quả sẽ giúp bạn định hình ngưỡng và quy tắc quản trị cho các bước và lần lặp lại tiếp theo.

Bước #3. Lặp lại và mở rộng quy mô

Tinh chỉnh lời nhắc, quy tắc và ngưỡng dựa trên kết quả đánh giá. Khi mô hình ổn định và các chỉ số được cải thiện, hãy giảm dần tần suất đánh giá thủ công, ví dụ: chỉ lấy mẫu 25% trường hợp cận lâm sàng sau hai tuần ổn định thay vì 100%. Mục tiêu là mở rộng tự động hóa một cách thận trọng, khi hiệu suất vẫn ổn định và rủi ro ổn định, đồng thời mở rộng quy mô đến những khu vực có lợi ích quan sát được.

Bước #4. Thể chế hóa quản trị

Ghi lại việc lưu giữ dữ liệu, vai trò của người đánh giá, lộ trình leo thang và phản hồi sự cố khi quy trình HITL hoàn thiện. Triển khai thử nghiệm thiên vị, theo dõi kiểm toán và kiểm tra tính công bằng trên các thuộc tính nhạy cảm, chẳng hạn như các lớp được bảo vệ và nhật ký sẵn sàng cho cơ quan quản lý. Các biện pháp này giúp các quyết định có thể truy xuất nguồn gốc và chịu trách nhiệm, dù là đối với cơ quan quản lý tài chính, kiểm toán viên y tế hay hội đồng đạo đức nội bộ.

Bước #5. Tối ưu hóa chi phí

Cuối cùng, hãy theo dõi chi phí đánh giá thủ công so với chi phí cho lỗi và rủi ro mà chúng giúp giảm thiểu. Bước này sẽ cung cấp cho bạn đủ thông tin chi tiết để quyết định khi nào nên giảm quy mô đánh giá thủ công hoặc đầu tư vào đào tạo có mục tiêu. Khối lượng công việc của con người sẽ giảm dần theo thời gian, khi độ tin cậy của mô hình tăng lên, cho đến khi đạt được sự cân bằng giữa hiệu quả của hệ thống và nhu cầu giám sát của con người. 

Bằng cách tiếp cận HITL như một quá trình học tập lặp đi lặp lại và mở rộng dần dần, các tổ chức có thể phát triển các biện pháp bảo vệ khi hệ thống của họ trưởng thành, triển khai tự động hóa theo cách phù hợp với kỳ vọng thực tế, các yêu cầu tuân thủ và nhu cầu kinh doanh.

Khi nào các tổ chức nên cân nhắc tự động hóa AI có sự tham gia của con người

Trên thực tế, việc áp dụng phương pháp HITL là hợp lý nhất khi chi phí rủi ro, sự không chắc chắn hoặc hậu quả nghiêm trọng trong trường hợp xảy ra lỗi lớn hơn lợi ích của việc tự động hóa hoàn toàn. Hãy tự kiểm tra một chút để hiểu liệu có cần sự giám sát của con người trong trường hợp của bạn hay không:

Quyết định có thể được đảo ngược không?

Một sai lầm sẽ khiến bạn phải trả giá như thế nào?

Quá trình này có yêu cầu bằng chứng kiểm toán không?

Nếu bất kỳ câu trả lời nào nêu ra mối lo ngại, bạn nên duy trì sự giám sát của con người trong quy trình làm việc của mình — ít nhất là cho đến khi chất lượng được cải thiện đủ để hỗ trợ tự động hóa tốt hơn. Tuy nhiên, một số lĩnh vực nhất định gần như luôn được hưởng lợi từ việc cập nhật thông tin cho mọi người:

• Bối cảnh được quy định hoặc đạo đức . Các quyết định về tài chính, chăm sóc sức khỏe, tuyển dụng và pháp lý phải tuân thủ các hướng dẫn nghiêm ngặt và yêu cầu về công bằng.
• Tương tác nhạy cảm với thương hiệu . Tương tác với khách hàng và truyền thông công cộng có thể gây tổn hại đến lòng tin nếu xử lý sai cách.
• Sai lầm tốn kém . Lỗi định giá, phê duyệt gian lận hoặc vi phạm dữ liệu có thể gây ra thiệt hại về tài chính và uy tín.
• Dữ liệu lộn xộn hoặc mơ hồ. Tài liệu được quét, nhật ký cảm biến và nội dung do người dùng tạo ra thường cần sự diễn giải của con người.
• Kiểm tra sự thiên vị và tính công bằng . Quan điểm đa dạng của con người giúp phát hiện và giảm thiểu sự thiên vị của thuật toán, đồng thời chỉ ra những điểm mù mà các mô hình AI có thể bỏ sót.

Nguyên tắc chung: Nếu hành động khó đảo ngược, tốn kém để khắc phục, hoặc phải giải thích với cơ quan quản lý, hãy để con người theo dõi và/hoặc sử dụng phần mềm giám sát con người . Khối lượng đánh giá sẽ giảm dần khi dữ liệu, lời nhắc và chính sách được hoàn thiện, nhưng việc lấy mẫu, kiểm toán và các phương thức kháng cáo nên luôn được áp dụng để duy trì trách nhiệm giải trình. 

Ayai có thể hỗ trợ phát triển AI có trách nhiệm như thế nào ?

Việc tích hợp giám sát của con người vào tự động hóa quy trình làm việc không chỉ là một bước tiến kỹ thuật mà còn là một cách xây dựng niềm tin, trách nhiệm giải trình và giá trị lâu dài trong các giải pháp agentic. Tại Ayai, chúng tôi hợp tác với khách hàng để thiết kế các phương pháp HITL cân bằng giữa tự động hóa và đánh giá của con người theo cách phản ánh mục tiêu và hạn chế của từng tổ chức:

• Khung tư vấn và rủi ro . Hợp tác với các nhóm của chúng tôi để xác định các cổng đánh giá, mô hình quản trị và quy trình ứng phó sự cố phù hợp với các tiêu chuẩn ngành và hướng dẫn về AI có đạo đức.
• Kỹ thuật và tích hợp . Con người trong vòng lặp giải pháp học máy (ML) Cải thiện độ chính xác, độ tin cậy và khả năng thích ứng của mô hình. Trong quá trình này, chúng tôi hợp tác với khách hàng để nhúng các quy trình đánh giá, truy xuất và các lớp điều phối trực tiếp vào quy trình làm việc AI, giải quyết các vấn đề mà máy móc còn thiếu hiểu biết về ngữ cảnh.
• Hỗ trợ vận hành . Dữ liệu giám sát hữu ích nhất khi nó thúc đẩy cải tiến liên tục. Đội ngũ của chúng tôi hỗ trợ bạn thiết kế hàng đợi, bảng thông tin và vòng lặp phản hồi, biến thông tin đầu vào của người đánh giá thành thông tin chi tiết có cấu trúc, hỗ trợ tinh chỉnh có giám sát và học tăng cường từ phản hồi của con người (RLHF).
• Hướng dẫn quyết định thực tế . Chúng tôi tư vấn cho bạn những cách khác nhau để cải thiện quy trình làm việc hiện có trong công ty hoặc tổ chức của bạn, cho dù đó là quyết định giữa xây dựng hoặc mua một chatbot AI, lựa chọn một cách tối ưu mô hình kiến ​​trúc đám mây, xác định phạm vi MVP AI hoặc bất cứ thứ gì ở giữa.

MỘT đối tác phát triển AI có trách nhiệm giúp đảm bảo rằng giám sát trở thành yếu tố hỗ trợ chứ không phải là hạn chế: biến dữ liệu đánh giá thành tín hiệu học tập, lồng ghép tính minh bạch và giúp các nhóm mở rộng quy mô tự động hóa một cách tự tin và kiểm soát.

Cân bằng giữa đổi mới và trách nhiệm giải trình

AI hứa hẹn sẽ định hình lại cách thức hoạt động của doanh nghiệp, tuy nhiên nhiều dự án lại gặp khó khăn vì: 

• Chi phí cao;
• Chất lượng dữ liệu kém;
• Giá trị kinh doanh không rõ ràng.

Trong một thế giới mà các hệ thống AI ngày càng đưa ra quyết định thay mặt doanh nghiệp, thành công thuộc về các công ty kết hợp đổi mới công nghệ với quản trị có trách nhiệm. Phần mềm tự động hóa vòng lặp con người không phải là rào cản cho sự tiến bộ. Nó biến AI thành một đối tác đáng tin cậy bằng cách kết hợp tự động hóa với đánh giá có mục tiêu của con người.

Bằng cách áp dụng chiến lược một cách thận trọng và hợp tác với các nhà cung cấp, tổ chức và doanh nghiệp giàu kinh nghiệm, bạn có thể khai thác tối đa tiềm năng của AI đại diện trong khi vẫn giữ vững quyền kiểm soát trong tay con người. Nếu đó là con đường bạn đang khám phá, liên hệ với chúng tôi để thảo luận chi tiết hơn về các phi công tiềm năng.

Bài viết Con người trong vòng lặp AI Agents : Xây dựng niềm tin và kiểm soát trong quy trình làm việc tự động đã xuất hiện đầu tiên vào ngày Ứng dụng trí tuệ nhân tạo trong doanh nghiệp - AI.

Trong thập kỷ qua, trí tuệ nhân tạo (AI) đã phát triển từ các hệ thống hẹp, dựa trên quy tắc thành các kiến ​​trúc lý luận thích ứng có khả năng hiểu, lập kế hoạch và hành động. Các giao diện đàm thoại ban đầu, chẳng hạn như chatbot, từng đại diện cho tuyến đầu của tự động hóa, nhưng ngày nay chúng chỉ đánh dấu điểm khởi đầu của một quá trình chuyển đổi rộng lớn hơn. Các doanh nghiệp hiện đại đang tìm kiếm nhận thức tự chủ – các hệ thống diễn giải các mục tiêu, thực hiện các nhiệm vụ và liên tục học hỏi từ các kết quả. Mô hình mới này định nghĩa AI Agentic.
Làn sóng chatbot doanh nghiệp đầu tiên tập trung vào việc tự động hóa các tương tác của khách hàng thông qua nhận dạng ý định và các luồng được viết sẵn. Mặc dù các hệ thống này đã cải thiện tốc độ và khả năng truy cập, nhưng chúng vẫn bị giới hạn trong các phản hồi được xác định trước. Sự xuất hiện của các mô hình ngôn ngữ lớn (LLM) như GPT-3 và PaLM đã làm cho cuộc đối thoại trôi chảy hơn và nhận thức theo ngữ cảnh, nhưng thiết kế của chúng vẫn phản ứng – có thể trả lời, nhưng không lập kế hoạch hoặc hành động. Do đó, AI đàm thoại đã đạt đến một điểm dừng: tương tác mà không có tích hợp. 

ĐỊNH NGHĨA AI TÁC NHÂN

Trí tuệ nhân tạo (AI) vượt ra ngoài phạm vi giao tiếp để kết hợp lý luận, trí nhớ và hành động. Các hệ thống như vậy nhận thức mục tiêu, phân tích chúng thành các bước logic và tương tác với môi trường kỹ thuật số thông qua API hoặc công cụ quy trình làm việc. Các triển khai gần đây minh họa sự thay đổi này: 

➢ Azure AI Foundry Agents cho phép các mô hình kích hoạt các hành động hạ nguồn như truy vấn cơ sở dữ liệu và tạo tài liệu.
➢ Các API gọi hàm của OpenAI cho phép các mô hình thực hiện suy luận nhiều bước trong các giới hạn được kiểm soát.
➢ Claude 3 Opus của Anthropic minh họa sự phản ánh và tự đánh giá trong quá trình lập kế hoạch tác vụ.

Cùng nhau, những tiến bộ này đánh dấu sự xuất hiện của các hệ thống AI phát triển từ “Tôi nên trả lời gì?” thành “Tôi phải hoàn thành những gì?”

SỰ LIÊN QUAN ĐẾN DOANH NGHIỆP

Giá trị chiến lược của Agentic AI nằm ở khả năng phối hợp. Ví dụ: một nhân viên mua sắm có thể truy xuất dữ liệu nhà cung cấp từ SharePoint, xác minh giá cả thông qua API ERP, tạo đơn đặt hàng và khởi tạo phê duyệt tài chính mà không cần sự can thiệp của con người. Thông qua sự phối hợp này, AI chuyển từ vai trò là một giao diện sang trở thành một bên tham gia tích cực vào quy trình làm việc của doanh nghiệp, có khả năng cảm nhận, quyết định và hành động theo các ràng buộc chính sách đã được xác định.

GIẢI PHẪU CỦA MỘT ĐẠI DIỆN AI

Sự chuyển đổi từ trợ lý đàm thoại sang tác nhân tự động thể hiện một sự tái kiến ​​trúc cơ bản của trí tuệ số. Tác nhân AI không phải là một mô hình đơn lẻ mà là một hệ thống kết hợp nhận thức, lý luận, hành động và trí nhớ dưới sự kiểm soát chặt chẽ. Cùng nhau, các thành phần này tạo thành một vòng lặp liên tục cho phép tác nhân diễn giải môi trường, lập kế hoạch phản hồi và hành động có trách nhiệm trong các hệ thống doanh nghiệp. Về mặt khái niệm, một tác nhân hoạt động theo chu trình nhận thức – lý luận – hành động, phản ánh cấu trúc hành vi thông minh được mô tả trong lý thuyết tác nhân cổ điển (Russell & Norvig, 2022).

Trên thực tế, các khả năng này phù hợp với bốn lớp kiến ​​trúc. Lớp nhận thức thu thập dữ liệu có cấu trúc và không có cấu trúc, chuyển đổi thành các dữ liệu nhúng để hiểu theo ngữ cảnh. Lớp lý luận , được điều phối thông qua các khuôn khổ như LangChain hoặc Semantic Kernel, lên kế hoạch và đánh giá các hành động. Lớp hành động thực thi các kế hoạch này thông qua các công cụ tự động hóa quy trình làm việc như Azure Logic Apps, trong khi lớp bộ nhớ và quản trị duy trì tính liên tục, thực thi chính sách và ghi lại các quyết định để đảm bảo tính minh bạch và kiểm soát. Nhiều tác nhân doanh nghiệp kết hợp Thế hệ Tăng cường Truy xuất (RAG) để có kiến ​​thức thời gian thực với tinh chỉnh để đạt độ chính xác của miền, kết hợp khả năng thích ứng với chuyên môn.

Do đó, một tác nhân AI đại diện cho sự hội tụ của phân tích, tự động hóa và nhận thức – một kiến ​​trúc được thiết kế để hoạt động thông minh trong khi vẫn được quản lý, giải thích và chịu trách nhiệm.

KIẾN TRÚC HỆ THỐNG ĐA TÁC NHÂN

Thiết kế một tác nhân đơn lẻ là một nhiệm vụ kỹ thuật; thiết kế hệ thống tác nhân là một chuyên ngành kiến ​​trúc. Trong bối cảnh doanh nghiệp, hệ thống đa tác nhân (MAS) phối hợp các nhân viên chuyên môn – người kiểm tra chính sách, người thu thập dữ liệu, người lập kế hoạch, người giải thích – để các mục tiêu phức tạp được hoàn thành thông qua phân công lao động và hợp tác có cấu trúc.

Việc triển khai hoàn thiện không phụ thuộc vào sức mạnh của bất kỳ mô hình nào mà phụ thuộc vào việc quản trị cộng tác — các quy tắc xác định cách các tác nhân chia sẻ ngữ cảnh, giải quyết xung đột và chuyển giao quyền hạn. MAS có thể được cấu trúc theo nhiều cấu trúc khác nhau. Thiết kế phân cấp đặt tác nhân điều phối lên trên các chuyên gia lĩnh vực, mang lại khả năng kiểm soát nhưng có nguy cơ gây ra tắc nghẽn. Các mô hình hợp tác cho phép các đồng nghiệp cùng nhau lập kế hoạch và phê bình, tăng cường tính sáng tạo nhưng vẫn yêu cầu các quy tắc đồng thuận.

Các hệ thống dựa trên thị trường phân bổ nhiệm vụ một cách linh hoạt thông qua cơ chế chấm điểm hoặc đấu thầu. Hầu hết các doanh nghiệp áp dụng các hình thức kết hợp , sử dụng kiểm soát phân cấp để tuân thủ và các vòng lặp hợp tác để đổi mới.

Bất kể cấu trúc liên kết nào, sự phối hợp hiệu quả đều phụ thuộc vào một hợp đồng giao tiếp được chia sẻ — các lược đồ tin nhắn chuẩn, quyền truy cập công cụ bị giới hạn và sự phối hợp đáng tin cậy. Các công cụ quy trình làm việc trung tâm quản lý tính đồng thời, thử lại và trạng thái, đảm bảo rằng các cuộc hội thoại giữa các tác nhân vẫn nhất quán và có thể khôi phục. Bộ điều phối hoạt động như mặt phẳng điều khiển của hệ thống, thực thi các cổng chính sách và duy trì khả năng kiểm toán.

Một MAS được kiến ​​trúc tốt hoạt động trong các ranh giới rõ ràng: mỗi tác nhân có một vai trò được xác định, các hành động có thể kiểm toán và các kết quả có thể đo lường được. Bảo mật và quản trị được nhúng thông qua quyền truy cập đặc quyền tối thiểu, lọc nội dung và nhật ký quyết định có thể theo dõi. Thành công không chỉ được đo lường bằng tính tự chủ mà còn bằng cách các tác nhân hợp tác hiệu quả như thế nào để đạt được mục tiêu trong các ràng buộc chính sách — cân bằng giữa tính sáng tạo và sự tuân thủ.

AI CÓ TRÁCH NHIỆM & ĐÁNG TIN CẬY TRONG THIẾT KẾ ĐẠI LÝ

Khi các hệ thống AI phát triển từ các mô hình độc lập sang các mạng lưới tác nhân kết nối, nhu cầu về trách nhiệm, tính minh bạch và độ tin cậy ngày càng tăng cao. Các doanh nghiệp phải coi những hệ thống này không phải là thử nghiệm mà là các tác nhân tự chủ, có quyết định ảnh hưởng đến hoạt động kinh doanh, tuân thủ và danh tiếng. Trong bối cảnh này, AI có trách nhiệm không phải là một lớp chính sách mà là một nguyên tắc kỹ thuật cốt lõi hướng dẫn thiết kế, thực thi và giám sát. Trách nhiệm trong các hệ thống tác nhân không chỉ giới hạn ở dữ liệu mà còn ở hành vi – cách các tác nhân suy luận, lựa chọn công cụ, xử lý thông tin nhạy cảm và quản lý sự không chắc chắn. Các khuôn khổ như Tiêu chuẩn AI có trách nhiệm v2 của Microsoft và Khung Quản lý Rủi ro AI của NIST nhấn mạnh nhu cầu về khả năng truy xuất nguồn gốc, giám sát của con người và quản trị được nhúng vào thiết kế thay vì áp dụng hồi tố.

Thiết kế tác nhân có trách nhiệm được xây dựng dựa trên bốn biện pháp bảo vệ liên kết chặt chẽ. Lọc nội dung ngăn chặn việc sử dụng sai mục đích trước khi hành động được thực thi. Đánh giá chính sách thực thi các quy tắc tổ chức dưới dạng mã . Ghi nhật ký và khả năng quan sát ghi lại mọi quyết định để kiểm toán. Giám sát con người trong vòng lặp đảm bảo rằng các hành động quan trọng vẫn chịu sự xem xét của con người, duy trì trách nhiệm giải trình mà không ảnh hưởng đến hiệu quả. Độ tin cậy là cầu nối giữa đạo đức và hoạt động. Một hệ thống thường xuyên gặp sự cố cũng gây hại như một hệ thống hoạt động sai lệch theo dự đoán. Do đó, kỹ thuật độ tin cậy bao gồm khả năng phục hồi, khôi phục và thực thi có thể xác minh – đảm bảo rằng ngay cả khi một tác nhân gặp sự cố, nó vẫn an toàn. Trong các doanh nghiệp trưởng thành, độ tin cậy và trách nhiệm hội tụ: mọi hành động tự động phải có thể xác minh, đảo ngược và xem xét được, biến AI từ hộp đen thành hộp kính – minh bạch, có thể kiểm toán và phù hợp với các giá trị của tổ chức

CON ĐƯỜNG PHÍA TRƯỚC: DOANH NGHIỆP THÔNG MINH

Mô hình tác nhân đang định nghĩa lại ý nghĩa của trí tuệ trong các doanh nghiệp hiện đại. Nếu trước đây, chuyển đổi số tập trung vào tự động hóa quy trình và bảng điều khiển, thì bước tiến tiếp theo tập trung vào sự hợp tác tự động giữa con người và các tác nhân AI, những người có khả năng suy luận, quyết định và hành động như một phần của hệ sinh thái tích hợp.

Không giống như tự động hóa truyền thống, vốn tuân theo quy trình làm việc tuyến tính, các hệ thống tác nhân phát triển thành hệ sinh thái các thực thể lý luận học hỏi, chia sẻ và thích nghi. Mỗi tác nhân đóng góp phán đoán theo ngữ cảnh thay vì đầu ra riêng lẻ, biến tự động hóa thủ tục thành cộng tác nhận thức. Điểm đặc trưng của doanh nghiệp thông minh không phải là quy mô của kho dữ liệu mà là khả năng tương tác của các tác nhân lý luận , được hỗ trợ bởi sự phối hợp an toàn và bối cảnh chung. Sự trỗi dậy của các doanh nghiệp thông minh không làm giảm tác nhân của con người mà còn khuếch đại nó. Khi nhận thức thông thường được tự động hóa, con người chuyển sang giám sát chiến lược, phân xử đạo đức và tổng hợp sáng tạo. Các nghiên cứu như McKinsey (2024) cho thấy các tổ chức tích hợp AI hỗ trợ trên khắp các chức năng kinh doanh đã đạt được mức tăng năng suất lên tới 45% khi kết hợp với các ranh giới đánh giá rõ ràng của con người. Trí tuệ thực sự không chỉ xuất hiện từ tính tự chủ mà còn từ sự kết hợp giữa phán đoán của con người và lý luận của máy móc.

Để đạt được sự tổng hợp này đòi hỏi cơ sở hạ tầng thích ứng được xây dựng trên đồ thị tri thức, truy xuất vectơ thời gian thực và quản trị được nhúng trong chính sách. Đến năm 2030, mức độ trưởng thành của AI trong doanh nghiệp sẽ không được xác định bởi số lượng mô hình được triển khai mà bởi mức độ thông minh của chúng được phối hợp. Kiến trúc Agentic được củng cố bởi các nguyên tắc AI Có Trách Nhiệm sẽ giúp hệ thống thích ứng, dễ giải thích và tự cải thiện. Khi con người và Agent cùng nhau suy luận – giám sát, biện minh và học hỏi một cách cộng tác – các tổ chức sẽ không chỉ đơn thuần được AI hỗ trợ mà còn trở thành một hệ sinh thái được AI cấu trúc hóa : nơi học tập, tuân thủ và đổi mới cùng tồn tại trong thời gian thực.

“Đo lường sự tiến bộ của AI sẽ không còn là máy móc bắt chước con người tốt đến mức nào nữa, mà là con người và máy móc cùng nhau suy nghĩ tốt đến mức nào.”

TÀI LIỆU THAM KHẢO

Anthropic (2024). Claude 3 Opus Tổng quan Kỹ thuật.
Gartner (2024). Doanh nghiệp Thông minh 2030: Điều phối trên Tự động hóa.
McKinsey & Company (2024). Trí tuệ nhân tạo (AI) và Phương trình Năng suất Mới.
Tập đoàn Microsoft (2024). Tiêu chuẩn AI Có trách nhiệm v2 – Kỹ thuật cho An toàn và Minh bạch. OpenAI (2024). Khung MCP và Gọi hàm cho Hệ thống Agentic.
Russell, S., & Norvig, P. (2022). Trí tuệ Nhân tạo: Một Cách tiếp cận Hiện đại (ấn bản thứ 4). Pearson.
Wooldridge, M. (2020). Giới thiệu về Hệ thống Đa Agent (ấn bản thứ 2). Wiley.

Bài viết Vượt ra ngoài Chatbot: AI của Agentic đang định nghĩa lại quy trình làm việc của doanh nghiệp như thế nào đã xuất hiện đầu tiên vào ngày Ứng dụng trí tuệ nhân tạo trong doanh nghiệp - AI.

ReAct giúp LLM (như GPT, Claude, Llama…) không chỉ “suy nghĩ trong đầu” mà còn biết từng bước thực hiện một chuỗi hành động, mô phỏng cách con người giải quyết vấn đề.

ReAct là gì?

ReAct = Reason + Act
→ Một framework cho phép mô hình vừa lý luận (Reasoning) vừa thực thi hành động (Acting) trong cùng một quy trình.

Nó gồm 3 thành phần lặp lại liên tục:

1. Thought (Suy nghĩ)
   • Mô hình phân tích vấn đề
   • Suy luận từng bước (chain-of-thought)
2. Action (Hành động)
   • Gọi công cụ (API, Python, database, environment…)
   • Lấy dữ liệu thực tế
3. Observation (Quan sát)
   • Nhận kết quả từ hành động
   • Tiếp tục suy nghĩ & hành động cho đến khi hoàn thành

Chu trình này lặp lại cho đến khi agent đi đến kết luận cuối cùng.

Ví dụ minh hoạ ReAct đơn giản

Goal: “Tra cứu giá Bitcoin hiện tại và so sánh với 24h trước.”

ReAct hoạt động như sau:

Thought: Tôi cần dữ liệu giá BTC hiện tại → gọi API.
Action: call_api(“get_btc_price”)
Observation: 67,200 USD

Thought: Tôi cần dữ liệu của 24 giờ trước.
Action: call_api(“get_btc_price_24h_ago”)
Observation: 66,100 USD

Thought: Giá tăng 1,100 USD → trả lời.
Final Answer: Giá BTC tăng 1,100 USD trong 24 giờ qua.

Mô hình đã tự lập kế hoạch, tự hành động và tự đưa ra kết luận.

Tại sao ReAct lại quan trọng cho AI Agent?

1. Cho phép LLM sử dụng công cụ (tool-use)

LLM không thể tự truy cập internet, dữ liệu công ty, tính toán chính xác…
→ ReAct giúp chúng gọi APIs, database, Python, RPA, browser automation…

2. Giải quyết được các tác vụ phức tạp

Không còn là trả lời câu hỏi, mà có thể:

• Chẩn đoán hệ thống
• Sinh code & debug
• Tương tác ứng dụng
• Điều phối workflow
• Phân tích dữ liệu
• Lập kế hoạch dài hạn

3. Cơ chế vòng lặp giúp sửa lỗi

Nếu agent sai → observation chỉ ra vấn đề → thought tiếp tục điều chỉnh.

4. Nền tảng của nhiều framework AI hiện nay

Hầu hết AI Agent hiện đại đều dựa trên ReAct:

• OpenAI GPTs
• AutoGPT
• BabyAGI
• LangGraph / LangChain Agents
• Microsoft AutoGen
• MetaGPT
• Dify Agents
• CrewAI
• Devin AI (Coder agent)

Kiến trúc ReAct trong AI Agent hiện đại

Trong hệ thống đa agent (multi-agent system), mỗi agent có thể chạy ReAct riêng, tạo thành một xã hội agent phối hợp như con người trong tổ chức.

Bài viết Kỹ thuật kết hợp Lý luận & Hành động cho AI Agent đã xuất hiện đầu tiên vào ngày Ứng dụng trí tuệ nhân tạo trong doanh nghiệp - AI.

Các tác nhân này tương tác với người dùng thông qua nhiều giao diện khác nhau như văn bản hoặc giọng nói và có thể phân tích dữ liệu để điều chỉnh phản hồi hoặc hành động của họ. 

Ví dụ bao gồm các trợ lý ảo như Siri và Alexa, thực hiện các nhiệm vụ từ đặt lời nhắc đến trả lời câu hỏi.

AI Agent hoạt động như thế nào?

Các tác nhân AI hoạt động theo một trình tự các bước. 

Đầu tiên, chúng nhận dữ liệu đầu vào từ người dùng hoặc môi trường của họ, chẳng hạn như lệnh văn bản hoặc truy vấn bằng giọng nói. 

Dữ liệu này sau đó được xử lý bằng các thuật toán và mô hình máy học để phân tích dữ liệu đầu vào và xác định phản hồi hoặc hành động phù hợp. 

Cuối cùng, tác nhân thực hiện hành động hoặc đưa ra phản hồi dựa trên phân tích. 

Theo thời gian, các tác nhân AI sử dụng máy học để tinh chỉnh hiệu suất và thích ứng với các tình huống mới.

Các tác nhân AI học như thế nào?

Các tác nhân AI học thông qua nhiều phương pháp khác nhau:

1. Học có giám sát: Đào tạo trên dữ liệu được gắn nhãn với kết quả đã biết để cải thiện độ chính xác.
2. Học không giám sát: Xác định các mẫu trong dữ liệu không có nhãn mà không có kết quả được xác định trước.
3. Học tăng cường: Học thông qua thử nghiệm và sai sót, nhận phản hồi để nâng cao hiệu suất theo thời gian.

Bài viết AI Agent là gì? đã xuất hiện đầu tiên vào ngày Ứng dụng trí tuệ nhân tạo trong doanh nghiệp - AI.