Chi tiết bài viết

AI Agent đang mở ra một bước chuyển lớn của trí tuệ nhân tạo: từ công cụ trả lời sang hệ thống có khả năng tự lập kế hoạch, sử dụng công cụ và thực hiện hành động thay con người. Nhưng khi một AI Agent tự gửi email, ký giao dịch, phê duyệt hồ sơ, đặt hàng, thay đổi dữ liệu hoặc đưa ra quyết định gây thiệt hại, câu hỏi quan trọng nhất không còn là "AI có thông minh đến đâu?", mà là: Ai sẽ chịu trách nhiệm pháp lý ?

1. AI đang bước sang một giai đoạn mới

Trong vài năm qua, trí tuệ nhân tạo tạo sinh (Generative AI) đã thay đổi cách con người làm việc. Người dùng đặt câu hỏi, AI phân tích và đưa ra câu trả lời. Con người vẫn là người quyết định cuối cùng.

Nhưng mô hình này đang dần thay đổi.

Thế hệ AI mới đang hướng đến AI Agent – những hệ thống có khả năng tiếp nhận mục tiêu, phân tích tình huống, lập kế hoạch, sử dụng các công cụ bên ngoài và thực hiện một chuỗi hành động để đạt được mục tiêu mà người dùng giao.

Ví dụ, một doanh nghiệp có thể giao cho AI Agent nhiệm vụ: "Tìm nhà cung cấp phù hợp, so sánh báo giá, kiểm tra điều kiện hợp đồng, lập đề xuất và gửi email đàm phán."

Một AI Agent tiên tiến có thể không chỉ trả lời doanh nghiệp rằng "đây là 5 nhà cung cấp phù hợp", mà còn có thể tự động:

- tìm kiếm thông tin;

- phân tích dữ liệu;

- truy cập hệ thống doanh nghiệp;

- gửi email;

- tạo tài liệu;

- gọi API;

- đặt lịch;

- thực hiện giao dịch theo quyền được cấp.

Đây chính là điểm khác biệt quan trọng. AI truyền thống chủ yếu cung cấp thông tin. AI Agent có thể thực hiện hành động. Và chính khả năng "hành động" này đang tạo ra một lớp rủi ro pháp lý hoàn toàn mới.

2. AI Agent là gì và tại sao nó khác với chatbot ?

Khái niệm "AI Agent" hiện vẫn chưa có một định nghĩa pháp lý thống nhất trên toàn cầu. Chính cơ quan chuyên trách AI của Liên minh châu Âu cũng lưu ý rằng thuật ngữ này đang được sử dụng không hoàn toàn thống nhất và chưa phải là một danh mục pháp lý riêng biệt trong AI Act.

Tuy nhiên, theo cách hiểu phổ biến, AI Agent có khả năng nhận đầu vào từ môi trường, xử lý thông tin và thực hiện hành động dựa trên kết quả xử lý đó. AI Agent có thể tương tác với hệ thống bên ngoài, chẳng hạn thông qua các lệnh gọi công cụ hoặc API.

Có thể hình dung sự khác biệt như sau:

Ví dụ, một chatbot có thể trả lời: "Hãy cho tôi biết những điều khoản bất lợi trong hợp đồng này."

Trong khi một AI Agent pháp lý có thể được thiết kế để:

1. Đọc hợp đồng;

2. Xác định điều khoản rủi ro;

3. Đối chiếu với chính sách của doanh nghiệp;

4. Đánh giá mức độ rủi ro;

5. Lập báo cáo;

6. Gửi báo cáo cho bộ phận pháp chế;

6. Đề xuất sửa đổi;

7. Thậm chí, nếu được cấp quyền, tự động gửi bản dự thảo cho đối tác.

Từ đây, ranh giới giữa "AI hỗ trợ con người" và "AI thay con người thực hiện công việc" bắt đầu trở nên mờ hơn.

3. Khi AI Agent gây thiệt hại, ai chịu trách nhiệm ?

Đây có thể là câu hỏi pháp lý lớn nhất của kỷ nguyên AI Agent.

Hãy tưởng tượng một tình huống:

Một công ty sử dụng AI Agent để quản lý hoạt động mua sắm. Doanh nghiệp giao mục tiêu: "Tìm và mua thiết bị với giá tốt nhất trong thời gian sớm nhất". AI Agent được kết nối với hệ thống mua hàng và có quyền gửi đơn đặt hàng.

Trong quá trình hoạt động, AI Agent:

- hiểu sai yêu cầu;

- lựa chọn nhầm nhà cung cấp;

- đặt hàng số lượng lớn;

- chấp nhận điều khoản bất lợi;

- hoặc gửi nhầm đơn hàng trị giá hàng tỷ đồng.

Doanh nghiệp phát hiện sai sót sau khi giao dịch đã được thực hiện.

Câu hỏi đặt ra là: Ai chịu trách nhiệm ?

- Nhà phát triển AI ?

- Nhà cung cấp mô hình AI ?

- Doanh nghiệp triển khai AI ?

- Người lập trình hệ thống ?

- Người quản trị AI Agent ?

- Người cấp quyền truy cập ?

- Hay chính người sử dụng đã giao nhiệm vụ cho AI ?

Trên thực tế, câu trả lời sẽ không đơn giản là "AI chịu trách nhiệm".

AI Agent không phải là một pháp nhân độc lập. Nó không có tài sản riêng để bồi thường, không có tư cách chủ thể như một doanh nghiệp hay cá nhân.

Do đó, trách nhiệm pháp lý nhiều khả năng vẫn phải được phân bổ cho các chủ thể con người hoặc tổ chức đứng phía sau hệ thống.

Vấn đề quan trọng là phải xác định: Ai thiết kế ? Ai triển khai ? Ai cấp quyền ? Ai kiểm soát ? Ai giám sát ? Ai hưởng lợi ? Và ai có khả năng ngăn chặn rủi ro ?

Đây có thể trở thành một nguyên tắc quan trọng trong việc xác định trách nhiệm pháp lý đối với AI Agent.

4. Trách nhiệm pháp lý có thể được phân bổ theo "chuỗi AI"

Thay vì chỉ hỏi "AI có lỗi hay không ?", pháp luật tương lai có thể phải xem xét toàn bộ chuỗi công nghệ.

Có thể hình dung gồm 5 nhóm chủ thể:

1. Nhà phát triển mô hình AI

Đây là đơn vị xây dựng hoặc cung cấp mô hình nền tảng.

Các vấn đề có thể phát sinh:

- mô hình có lỗi;

- dữ liệu huấn luyện có vấn đề;

- mô hình tạo ra thông tin sai;

- thiếu cơ chế bảo vệ;

- không kiểm soát được hành vi nguy hiểm.

2. Nhà phát triển AI Agent

Đây là đơn vị xây dựng hệ thống AI Agent dựa trên mô hình nền tảng.

Họ quyết định:

- AI được phép làm gì;

- AI được truy cập hệ thống nào;

- AI có quyền thực hiện giao dịch hay không;

- AI được sử dụng công cụ nào;

- mức độ tự động hóa đến đâu.

3. Doanh nghiệp triển khai

Doanh nghiệp sử dụng AI Agent trong thực tế.

Ví dụ:

- ngân hàng;

- công ty bảo hiểm;

- doanh nghiệp xây dựng;

- công ty luật;

- bệnh viện;

- sàn thương mại điện tử.

Doanh nghiệp có thể phải chịu trách nhiệm nếu triển khai AI thiếu kiểm soát hoặc cấp quyền quá rộng.

4. Người quản trị

Đây là người thiết lập hoặc giám sát AI Agent.

Ví dụ:

- cấp quyền truy cập;

- thiết lập giới hạn giao dịch;

- kiểm tra nhật ký hoạt động;

- phê duyệt các hành động quan trọng.

5. Người sử dụng cuối cùng

Trong một số trường hợp, người sử dụng có thể là mắt xích cuối cùng trong chuỗi trách nhiệm. Nếu người dùng cố tình giao cho AI một nhiệm vụ nguy hiểm hoặc sử dụng AI để thực hiện hành vi trái pháp luật, trách nhiệm có thể thuộc về chính người đó.

Như vậy, trong tương lai, thay vì một câu hỏi đơn giản là: "AI gây thiệt hại thì ai chịu trách nhiệm ?", Chúng ta có thể phải đặt câu hỏi: "Trong toàn bộ chuỗi AI, ai đã tạo ra rủi ro và ai có khả năng kiểm soát rủi ro đó ?"

5. AI Agent có thể tự ký hợp đồng không ?

Đây là một vấn đề đặc biệt đáng chú ý đối với doanh nghiệp. Giả sử một AI Agent được giao nhiệm vụ: "Đàm phán và ký hợp đồng với nhà cung cấp có mức giá tốt nhất", AI Agent tiến hành:

- trao đổi với đối tác;

- thương lượng giá;

- thống nhất điều kiện;

- tạo hợp đồng;

- gửi hợp đồng;

- xác nhận giao dịch.

Vậy hợp đồng đó có giá trị pháp lý hay không ? Câu trả lời phụ thuộc vào pháp luật áp dụng, cơ chế xác lập giao dịch, thẩm quyền đại diện và cách thức doanh nghiệp trao quyền cho hệ thống.

Nhưng một vấn đề chắc chắn sẽ xuất hiện: AI Agent có được xem là "người đại diện" cho doanh nghiệp hay không?

Trong nhiều hệ thống pháp luật, AI không phải là chủ thể pháp lý độc lập. Vì vậy, về bản chất, hành vi của AI Agent có thể phải được quy về chủ thể đã triển khai và trao quyền cho nó. Điều này đặt ra nhu cầu cấp thiết về việc thiết kế:

- giới hạn quyền của AI;

- hạn mức giao dịch;

- quy trình phê duyệt;

- quyền ký kết;

- cơ chế xác thực;

- nhật ký giao dịch;

- cơ chế can thiệp của con người.

Đặc biệt, đối với những giao dịch có giá trị lớn, AI Agent có thể chỉ nên được phép đàm phán và đề xuất, trong khi hành động cuối cùng vẫn cần sự phê duyệt của con người.

6. AI Agent và "Human-in-the-loop": Con người có còn là người quyết định cuối cùng?

Một trong những nguyên tắc quan trọng nhất trong quản trị AI là Human Oversight – sự giám sát của con người. Đây là vấn đề đặc biệt quan trọng đối với các hệ thống có khả năng tác động đến: quyền và lợi ích của cá nhân; việc làm; tín dụng; bảo hiểm; y tế; giáo dục; cơ sở hạ tầng quan trọng; an ninh; các quyết định pháp lý hoặc hành chính.

Theo khung pháp lý AI của EU, các hệ thống AI có mức rủi ro cao phải đáp ứng nhiều yêu cầu liên quan đến quản trị rủi ro, chất lượng dữ liệu, ghi nhật ký hoạt động, tài liệu kỹ thuật, thông tin cho bên triển khai, giám sát của con người, độ chính xác, khả năng chống chịu và an ninh mạng.

Điều này cho thấy một xu hướng rất rõ: AI càng có khả năng tự chủ, yêu cầu kiểm soát và giám sát càng phải chặt chẽ.

Trong doanh nghiệp, có thể hình thành mô hình:

AI Agent → Đề xuất → Kiểm tra → Phê duyệt → Thực hiện

thay vì:

AI Agent → Tự quyết định → Tự thực hiện

Đây có thể là mô hình an toàn hơn đối với những quyết định có hậu quả pháp lý hoặc tài chính lớn.

7. AI Agent có thể trở thành "nhân viên kỹ thuật số" của doanh nghiệp ?

Một xu hướng đáng chú ý là doanh nghiệp có thể không chỉ sử dụng một AI Agent.

Thay vào đó, doanh nghiệp có thể xây dựng cả một "đội ngũ nhân sự AI":

- AI Agent pháp lý;

- AI Agent kế toán;

- AI Agent mua sắm;

- AI Agent nhân sự;

- AI Agent marketing;

- AI Agent chăm sóc khách hàng;

- AI Agent quản lý dự án.

Các AI Agent này có thể tương tác với nhau.

Ví dụ:

- AI Agent mua sắm phát hiện nhu cầu →

- AI Agent tài chính kiểm tra ngân sách →

- AI Agent pháp lý kiểm tra hợp đồng →

- AI Agent quản lý phê duyệt →

- AI Agent giao dịch thực hiện đơn hàng.

Một doanh nghiệp trong tương lai có thể vận hành một phần hoạt động như một "hệ thống nhân sự kỹ thuật số". Nhưng điều đó cũng đồng nghĩa với một vấn đề: Nếu một AI Agent gây ra sai sót do hành động của một AI Agent khác, ai chịu trách nhiệm ?. Đây có thể là một trong những vấn đề pháp lý phức tạp nhất của AI Agent.

8. AI Agent và rủi ro dữ liệu: Một quyền truy cập có thể mở ra cả hệ thống

AI Agent càng thông minh thì càng cần nhiều dữ liệu và quyền truy cập. Một AI Agent doanh nghiệp có thể được kết nối với:

- email;

- CRM;

- hệ thống kế toán;

- dữ liệu khách hàng;

- hồ sơ nhân sự;

- hợp đồng;

- cơ sở dữ liệu nội bộ;

- hệ thống quản lý dự án.

Điều này tạo ra một rủi ro đặc biệt: Một AI Agent bị kiểm soát hoặc sử dụng sai có thể trở thành "chìa khóa" dẫn đến toàn bộ hệ thống doanh nghiệp.

Do đó, doanh nghiệp không nên chỉ đặt câu hỏi: "AI này thông minh đến đâu ?" mà cần hỏi: "AI này được phép truy cập những gì ?"

Một số nguyên tắc cần được xem xét:

Quyền tối thiểu

AI chỉ được cấp đúng quyền cần thiết.

Phân quyền theo nhiệm vụ

AI Agent mua hàng không nhất thiết phải truy cập dữ liệu nhân sự.

Giới hạn hành động

AI có thể đọc nhưng không được xóa.

AI có thể đề xuất nhưng không được phê duyệt.

AI có thể soạn hợp đồng nhưng không được tự ký.

Nhật ký hoạt động

Mọi hành động của AI phải được ghi nhận để có thể truy xuất.

Khả năng dừng khẩn cấp

Doanh nghiệp phải có cơ chế "kill switch" để dừng AI khi phát hiện hành vi bất thường. Đây không chỉ là vấn đề kỹ thuật. Trong nhiều trường hợp, đây có thể trở thành vấn đề về trách nhiệm quản trị doanh nghiệp, bảo vệ dữ liệu và tuân thủ pháp luật.

9. AI Agent dưới góc nhìn của EU AI Act

Một điểm đáng chú ý là EU AI Act không coi "AI Agent" là một loại AI độc lập. Theo giải thích của cơ quan AI Act Service Desk, AI Agent có thể nằm trong phạm vi điều chỉnh của các quy định hiện hành về AI systems và General-Purpose AI (GPAI), tùy vào cấu trúc và cách sử dụng cụ thể. Điều này có ý nghĩa rất lớn, thay vì hỏi: "AI Agent có được phép hoạt động hay không ?", cách tiếp cận pháp lý có xu hướng chuyển sang: "AI Agent này được sử dụng vào mục đích gì và mức độ rủi ro của ứng dụng đó là bao nhiêu?"

Một AI Agent dùng để:

- lập danh sách công việc;

- tóm tắt tài liệu;

- hỗ trợ viết email;

sẽ có rủi ro khác với AI Agent dùng để:

- đánh giá hồ sơ tín dụng;

- tuyển dụng;

- quản lý cơ sở hạ tầng quan trọng;

- hỗ trợ quyết định trong lĩnh vực nhạy cảm.

Theo khung AI Act hiện hành, các hệ thống AI thuộc nhóm rủi ro cao sẽ phải đáp ứng những yêu cầu nghiêm ngặt hơn. Các quy định về minh bạch theo Điều 50 dự kiến áp dụng từ ngày 02/8/2026, trong khi các quy định đối với một số hệ thống AI rủi ro cao thuộc Phụ lục III được ấn định áp dụng từ 02/12/2027, và một số hệ thống AI rủi ro cao tích hợp trong sản phẩm được quản lý theo pháp luật hài hòa của EU từ 02/8/2028, theo lộ trình cập nhật năm 2026.

Đặc biệt, ngày 20/7/2026, Ủy ban châu Âu đã công bố hướng dẫn về nghĩa vụ minh bạch, trong đó nhấn mạnh việc giúp người dùng nhận biết khi họ đang tương tác với AI hoặc khi nội dung được AI tạo ra hoặc chỉnh sửa.

Đây là dấu hiệu cho thấy quản trị AI đang chuyển từ giai đoạn "nguyên tắc" sang giai đoạn triển khai và thực thi cụ thể.

10. Doanh nghiệp Việt Nam có cần quan tâm đến AI Agent ngay từ bây giờ ?

Câu trả lời là có.

Ngay cả khi doanh nghiệp không hoạt động trực tiếp tại châu Âu, các quy định và tiêu chuẩn quốc tế về AI vẫn có thể tác động gián tiếp thông qua:

- khách hàng quốc tế;

- đối tác nước ngoài;

- nhà cung cấp công nghệ;

- hợp đồng SaaS;

- dịch vụ điện toán đám mây;

- dữ liệu xuyên biên giới;

- chuỗi cung ứng toàn cầu.

Đặc biệt, các doanh nghiệp Việt Nam đang sử dụng AI trong các lĩnh vực: ngân hàng; bảo hiểm; thương mại điện tử; logistics; sản xuất; xây dựng; pháp lý; y tế; nhân sự, ... nên bắt đầu xây dựng AI Governance ngay từ khi triển khai hệ thống.

Một doanh nghiệp không nên chờ đến khi xảy ra sự cố mới đặt câu hỏi: "AI đã làm gì ?" mà phải có khả năng trả lời ngay:

- "AI được phép làm gì ?"

- "Ai đã cấp quyền ?"

- "Ai giám sát ?"

- "Dữ liệu nào đã được sử dụng ?"

- "AI đã đưa ra quyết định dựa trên thông tin nào ?"

- "Ai đã phê duyệt hành động cuối cùng ?"

- "Nếu xảy ra sự cố, chúng ta có thể truy vết được không ?"

11. 10 việc doanh nghiệp nên làm trước khi triển khai AI Agent

Để giảm rủi ro pháp lý và vận hành, doanh nghiệp có thể xây dựng một AI Agent Governance Checklist gồm ít nhất 10 nội dung:

1. Xác định mục đích sử dụng

AI Agent được sử dụng để làm gì?

2. Phân loại mức độ rủi ro

AI chỉ hỗ trợ hay có quyền thực hiện hành động?

3. Thiết lập quyền truy cập

AI được truy cập dữ liệu nào?

4. Thiết lập giới hạn hành động

AI có được gửi email, ký giao dịch, chuyển tiền hay xóa dữ liệu không?

5. Xác định quyền phê duyệt của con người

Những hành động nào bắt buộc phải có con người phê duyệt?

6. Ghi nhật ký

Mọi hành động quan trọng phải có khả năng truy xuất.

7. Kiểm tra dữ liệu

AI sử dụng dữ liệu nào và dữ liệu đó có được phép sử dụng hay không?

8. Đánh giá nhà cung cấp

Doanh nghiệp cần hiểu rõ AI Agent được xây dựng trên mô hình nào, dữ liệu được xử lý ở đâu và nhà cung cấp chịu trách nhiệm đến đâu.

9. Quy định trách nhiệm

Hợp đồng với nhà cung cấp AI cần quy định rõ: trách nhiệm; bảo mật; dữ liệu; sự cố; bồi thường; quyền kiểm tra; quyền chấm dứt dịch vụ.

10. Xây dựng cơ chế phản ứng sự cố

Khi AI Agent hành động bất thường, ai có quyền dừng hệ thống?

12. Từ "AI Governance" đến "Agent Governance"

Có thể nói, AI Agent đang buộc doanh nghiệp phải nâng cấp tư duy quản trị. Trước đây, doanh nghiệp chỉ cần quản lý: Con người sử dụng công nghệ. Trong tương lai, doanh nghiệp có thể phải quản lý: Con người + AI + AI Agent + AI Agent tương tác với nhau. Điều đó tạo ra một khái niệm mới có thể được gọi là: "Agent Governance" hay nói rộng hơn là quản trị các hệ thống AI tự chủ. Trong mô hình này, doanh nghiệp cần xác định:

AI được phép làm gì ?

↓

AI không được phép làm gì ?

↓

Ai có quyền cấp quyền cho AI ?

↓

Ai chịu trách nhiệm giám sát ?

↓

Ai phê duyệt hành động quan trọng ?

↓

Ai chịu trách nhiệm khi AI gây thiệt hại ?

Đây không còn là câu chuyện riêng của bộ phận công nghệ, nó liên quan đến:

- Hội đồng quản trị;

- Ban điều hành;

- Bộ phận pháp chế;

- Bộ phận công nghệ;

- Bộ phận an ninh mạng;

- Bộ phận quản trị rủi ro;

- Bộ phận bảo vệ dữ liệu.

Kết luận: Tương lai không phải là "AI thay thế con người", mà là "AI được trao quyền đến đâu"

AI Agent có thể trở thành một trong những công nghệ quan trọng nhất của kỷ nguyên số. Nhưng cùng với khả năng tự động hóa, chúng ta cũng đang đứng trước một câu hỏi lớn chưa có lời giải hoàn toàn: Khi một cỗ máy có thể tự suy luận, tự lập kế hoạch và tự hành động, trách nhiệm pháp lý sẽ được xác định như thế nào ?

Có lẽ câu trả lời trong tương lai không nằm ở việc trao tư cách pháp lý cho AI. Thay vào đó, pháp luật có thể sẽ tập trung vào chuỗi trách nhiệm của những con người và tổ chức đứng phía sau AI ( Ai thiết kế; Ai triển khai; Ai cấp quyền; Ai giám sát; Ai kiểm soát; Và ai hưởng lợi)

Đối với doanh nghiệp, điều quan trọng nhất không phải là chờ đến khi AI Agent trở nên hoàn hảo. Điều quan trọng là phải xây dựng một hệ thống quản trị đủ tốt trước khi trao cho AI quyền hành động. Bởi vì trong kỷ nguyên AI tự chủ, rủi ro lớn nhất có thể không phải là việc AI "không đủ thông minh". Mà là: AI đủ thông minh để hành động – nhưng doanh nghiệp lại không đủ khả năng kiểm soát hành động đó.

Góc nhìn từ LawConnect365

AI Agent đang mở ra một thị trường pháp lý hoàn toàn mới, nơi nhu cầu tư vấn không chỉ nằm ở việc "AI có hợp pháp hay không", mà còn bao gồm: AI Governance → AI Compliance → Data Governance → Cybersecurity → Intellectual Property → Contract → Liability → Risk Management (Quản trị AI → Tuân thủ AI → Quản trị dữ liệu → An ninh mạng → Sở hữu trí tuệ → Hợp đồng → Trách nhiệm pháp lý → Quản lý rủi ro)

Đối với doanh nghiệp, đây chính là thời điểm thích hợp để bắt đầu xây dựng AI Compliance Framework và rà soát lại các hợp đồng, chính sách dữ liệu, quy trình quản trị rủi ro trước khi AI Agent được trao quyền thực hiện các công việc quan trọng.

AI có thể trở thành "nhân viên kỹ thuật số" của doanh nghiệp. Nhưng doanh nghiệp cần xác định rõ: nhân viên đó được phép làm gì, ai quản lý và ai chịu trách nhiệm khi có sự cố.

Lưu ý: Bài viết trên đây chỉ mang tính chất phân tích và cung cấp thông tin tham khảo, không thay thế cho ý kiến tư vấn pháp lý đối với từng trường hợp cụ thể. Pháp luật về AI đang tiếp tục phát triển và do đó doanh nghiệp cần rà soát quy định áp dụng tại từng quốc gia, lĩnh vực và mô hình kinh doanh cụ thể.

Tác giả: Admin - LawConnect365 - admin@lawconnect365.vn