Chi tiết bài viết

Sự phát triển bùng nổ của trí tuệ nhân tạo (AI) đang mở ra một kỷ nguyên mới của công nghệ, nhưng đồng thời cũng tạo ra một mặt trái ngày càng đáng lo ngại: deepfake, giả mạo giọng nói, giả mạo hình ảnh, lừa đảo bằng AI và các hình thức tội phạm công nghệ cao ngày càng tinh vi. Nếu trước đây một cuộc gọi giả mạo có thể dễ dàng bị phát hiện vì giọng nói hoặc cách giao tiếp không tự nhiên, thì ngày nay, AI có thể giúp kẻ gian tạo ra hình ảnh, video và giọng nói có độ chân thực rất cao, khiến nạn nhân khó phân biệt đâu là thật, đâu là giả.

Điều đáng chú ý là tốc độ phát triển của công nghệ đang nhanh hơn đáng kể so với tốc độ xây dựng và hoàn thiện các quy định pháp luật. Một công cụ AI mới có thể xuất hiện chỉ trong vài tháng, trong khi để xây dựng, ban hành và áp dụng một khung pháp lý mới có thể cần nhiều năm. Khoảng cách này đang đặt ra một câu hỏi ngày càng cấp thiết: Pháp luật có đang chạy sau công nghệ và liệu hệ thống pháp luật hiện nay đã đủ khả năng xử lý những dạng tội phạm mới do AI tạo ra hay chưa?

Deepfake – khi công nghệ có thể tạo ra một "sự thật giả"

Deepfake là thuật ngữ dùng để chỉ những nội dung kỹ thuật số được tạo ra hoặc chỉnh sửa bằng AI nhằm mô phỏng một người thật. Công nghệ này có thể được sử dụng để thay đổi khuôn mặt, tạo ra hình ảnh giả, mô phỏng giọng nói hoặc tạo ra video trong đó một người dường như đang nói hoặc làm những điều mà họ chưa từng thực hiện.

Về bản chất, deepfake không phải lúc nào cũng là công nghệ xấu. Nó có thể được sử dụng trong điện ảnh, giải trí, giáo dục, quảng cáo, nghiên cứu và nhiều lĩnh vực sáng tạo khác. Tuy nhiên, khi công nghệ này rơi vào tay những người có mục đích xấu, nó có thể trở thành một công cụ nguy hiểm để giả mạo danh tính, lừa đảo, tống tiền, bôi nhọ danh dự hoặc thao túng thông tin.

Một người có thể bị giả mạo hình ảnh để tạo ra một video nhạy cảm. Một doanh nhân có thể bị giả giọng để yêu cầu nhân viên chuyển tiền. Một người thân có thể bị giả mạo giọng nói trong một cuộc gọi khẩn cấp. Một lãnh đạo doanh nghiệp có thể bị giả mạo hình ảnh trong một cuộc họp trực tuyến.

Vấn đề đáng lo ngại là nạn nhân không còn đối diện với những dấu hiệu lừa đảo rõ ràng như trước. Khi hình ảnh và giọng nói của một người có thể bị sao chép bằng AI, những bằng chứng mà con người vốn sử dụng để xác định danh tính có thể không còn đáng tin cậy tuyệt đối.

Lừa đảo bằng AI đang thay đổi cách thức hoạt động của tội phạm

Deepfake chỉ là một phần trong hệ sinh thái tội phạm sử dụng AI. Các đối tượng xấu có thể sử dụng AI để tạo email lừa đảo có ngôn ngữ tự nhiên hơn, xây dựng các cuộc trò chuyện tự động, giả mạo giọng nói, tạo hình ảnh giấy tờ hoặc xây dựng các tài khoản mạng xã hội giả.

Nếu trước đây một email lừa đảo thường có nhiều lỗi chính tả hoặc câu văn bất thường, thì AI có thể giúp tạo ra những email có nội dung chuyên nghiệp, phù hợp với ngữ cảnh và thậm chí được cá nhân hóa theo từng nạn nhân.

Một kịch bản phổ biến có thể là kẻ gian thu thập thông tin công khai của một doanh nghiệp, tìm hiểu cơ cấu tổ chức và xác định người có quyền phê duyệt thanh toán. Sau đó, chúng sử dụng AI để giả mạo email hoặc giọng nói của lãnh đạo, yêu cầu nhân viên chuyển tiền hoặc cung cấp thông tin nhạy cảm.

Trong những trường hợp tinh vi hơn, kẻ gian có thể tạo ra một cuộc họp trực tuyến giả với hình ảnh và giọng nói của một người quản lý. Nhân viên tham gia cuộc họp có thể tin rằng họ đang giao tiếp với cấp trên thực sự, trong khi toàn bộ cuộc tương tác được điều khiển bởi AI.

Đây là một sự thay đổi rất lớn trong phương thức tấn công. Tội phạm không còn chỉ tấn công vào hệ thống máy tính. Chúng đang tấn công vào niềm tin của con người.

Khi giọng nói và khuôn mặt không còn là bằng chứng tuyệt đối

Trong nhiều thập kỷ, con người thường sử dụng khuôn mặt và giọng nói như những yếu tố quan trọng để xác minh danh tính. Tuy nhiên, AI đang làm thay đổi giả định này.

Một đoạn video có hình ảnh của một người không còn đồng nghĩa với việc người đó thực sự xuất hiện trong video. Một đoạn ghi âm có giọng nói quen thuộc cũng không chắc chắn chứng minh rằng người đó đã thực sự nói những lời đó.

Điều này tạo ra một vấn đề rất lớn đối với xã hội và hệ thống pháp luật. Nếu một video deepfake được sử dụng làm bằng chứng, cơ quan điều tra và tòa án cần xác định tính xác thực như thế nào? Nếu một bản ghi âm giọng nói được sử dụng để chứng minh một giao dịch, liệu bản ghi âm đó có còn đủ giá trị hay cần thêm các phương thức xác thực khác?

Trong tương lai, việc xác minh nguồn gốc và tính toàn vẹn của dữ liệu kỹ thuật số có thể trở thành một lĩnh vực quan trọng trong điều tra tội phạm và giải quyết tranh chấp.

Pháp luật có đang chạy sau công nghệ ?

Câu trả lời không đơn giản là "có" hoặc "không".

Pháp luật thường được xây dựng dựa trên những nguyên tắc có tính khái quát. Một hành vi lừa đảo vẫn có thể là hành vi lừa đảo dù được thực hiện bằng điện thoại truyền thống hay công nghệ AI. Một hành vi chiếm đoạt tài sản vẫn có thể bị xử lý dù đối tượng sử dụng thủ đoạn trực tiếp hay deepfake.

Tuy nhiên, vấn đề phát sinh khi công nghệ tạo ra những phương thức phạm tội hoàn toàn mới. Một người có thể tạo ra hàng nghìn danh tính giả bằng AI. Một giọng nói có thể được sao chép chỉ từ một đoạn ghi âm ngắn. Một video giả có thể được tạo ra với chi phí thấp và phát tán đến hàng triệu người trong thời gian rất ngắn.

Khi đó, pháp luật không chỉ cần trả lời câu hỏi "hành vi này có vi phạm hay không?" mà còn phải giải quyết những vấn đề phức tạp hơn: xác định chủ thể thực hiện hành vi, thu thập chứng cứ, xác định nguồn gốc nội dung, xác định trách nhiệm của nền tảng công nghệ và xử lý các vụ việc có yếu tố xuyên biên giới.

Đây chính là khoảng trống mà nhiều quốc gia đang phải đối mặt.

Tội phạm deepfake có thể vượt qua biên giới pháp lý

Một trong những thách thức lớn nhất của tội phạm công nghệ cao sử dụng AI là tính xuyên biên giới.

Kẻ tấn công có thể ở một quốc gia, sử dụng công cụ AI được phát triển ở quốc gia thứ hai, lưu trữ dữ liệu trên máy chủ tại quốc gia thứ ba và nhắm mục tiêu vào nạn nhân ở quốc gia thứ tư.

Khi xảy ra vụ việc, cơ quan chức năng phải đối mặt với hàng loạt câu hỏi: Cơ quan nào có thẩm quyền điều tra? Dữ liệu được lưu trữ ở đâu? Có thể yêu cầu nền tảng cung cấp thông tin hay không? Làm thế nào để xác định danh tính thật của kẻ tấn công? Làm thế nào để thu thập chứng cứ điện tử từ một quốc gia khác?

Điều này cho thấy cuộc chiến chống tội phạm công nghệ cao, lừa đảo bằng AI và deepfake không thể chỉ dựa vào pháp luật của một quốc gia. Hợp tác quốc tế, chia sẻ dữ liệu và phối hợp điều tra xuyên biên giới sẽ ngày càng trở nên quan trọng.

Ai chịu trách nhiệm khi AI được sử dụng để lừa đảo ?

Đây là một trong những câu hỏi pháp lý phức tạp nhất.

Nếu một cá nhân sử dụng AI để giả mạo giọng nói và lừa đảo, trách nhiệm trước hết thuộc về người thực hiện hành vi. Nhưng nếu công cụ AI được cung cấp bởi một doanh nghiệp công nghệ, trách nhiệm của nhà cung cấp được xác định như thế nào?

Câu trả lời phụ thuộc vào nhiều yếu tố như mục đích sử dụng, khả năng kiểm soát công cụ, mức độ dự đoán được rủi ro, cơ chế bảo vệ người dùng và nghĩa vụ của từng bên.

Không thể mặc định rằng nhà cung cấp AI phải chịu trách nhiệm cho mọi hành vi phạm pháp của người sử dụng. Nếu một công cụ công nghệ bị lạm dụng, người thực hiện hành vi phạm pháp vẫn là chủ thể chính của hành vi đó.

Tuy nhiên, khi một nền tảng biết rõ công cụ của mình đang bị sử dụng phổ biến cho các hành vi lừa đảo mà không có biện pháp kiểm soát phù hợp, câu hỏi về trách nhiệm của nền tảng có thể được đặt ra.

Đây là một trong những vấn đề mà pháp luật AI trên thế giới đang tiếp tục phát triển.

Doanh nghiệp là mục tiêu đặc biệt của lừa đảo bằng AI

Doanh nghiệp hiện nay đang đứng trước một dạng rủi ro mới: AI-enabled fraud, tức gian lận được hỗ trợ bởi AI.

Một cuộc tấn công có thể bắt đầu từ một thông tin rất đơn giản trên website doanh nghiệp. Kẻ gian có thể tìm hiểu tên giám đốc, chức vụ của kế toán trưởng, quy trình thanh toán và các đối tác của công ty. Sau đó, AI được sử dụng để xây dựng một kịch bản giả mạo có tính thuyết phục cao.

Một nhân viên có thể nhận được email yêu cầu chuyển tiền. Sau đó, họ nhận được cuộc gọi bằng giọng nói giả của lãnh đạo xác nhận giao dịch. Nếu doanh nghiệp không có quy trình xác minh độc lập, giao dịch có thể được thực hiện trước khi bất kỳ ai nhận ra sự bất thường.

Vì vậy, doanh nghiệp cần thay đổi cách thức xác thực. Không nên coi email, giọng nói hoặc video là bằng chứng duy nhất để thực hiện các giao dịch quan trọng.

Đối với những giao dịch có giá trị lớn, doanh nghiệp nên áp dụng nguyên tắc xác minh đa kênh. Một yêu cầu chuyển tiền qua email cần được xác nhận bằng một kênh độc lập. Một cuộc họp trực tuyến yêu cầu thực hiện giao dịch tài chính cần được kiểm tra lại thông qua quy trình nội bộ.

Trong kỷ nguyên AI, Zero Trust không chỉ nên áp dụng cho hệ thống công nghệ mà còn cần được áp dụng cho các thông tin và yêu cầu giao dịch.

Deepfake có thể tạo ra khủng hoảng danh tiếng

Không phải mọi deepfake đều nhằm mục đích chiếm đoạt tài sản. Một trong những nguy cơ khác là sử dụng AI để tạo ra thông tin giả nhằm làm tổn hại danh dự cá nhân hoặc uy tín doanh nghiệp.

Một video giả có thể khiến một lãnh đạo bị hiểu nhầm là đưa ra một phát ngôn gây tranh cãi. Một hình ảnh giả có thể khiến thương hiệu bị ảnh hưởng. Một đoạn âm thanh giả có thể được lan truyền trên mạng xã hội và tạo ra khủng hoảng truyền thông.

Trong những trường hợp này, thiệt hại có thể xảy ra chỉ trong vài giờ, trong khi quá trình xác minh và xử lý pháp lý có thể kéo dài nhiều tuần hoặc nhiều tháng.

Điều này đặt ra yêu cầu doanh nghiệp cần có AI Incident Response, tức quy trình ứng phó với sự cố liên quan đến AI và nội dung giả mạo. Khi phát hiện deepfake, doanh nghiệp cần nhanh chóng xác minh, thu thập chứng cứ, thông báo cho các bên liên quan và triển khai chiến lược truyền thông phù hợp.

Bằng chứng kỹ thuật số trong thời đại deepfake

Một trong những thay đổi quan trọng mà deepfake mang lại là cách chúng ta nhìn nhận bằng chứng điện tử.

Trước đây, một video hoặc bản ghi âm có thể được xem là bằng chứng tương đối thuyết phục. Nhưng trong thời đại AI, việc xác định tính xác thực của một nội dung kỹ thuật số có thể trở nên phức tạp hơn nhiều.

Các cơ quan điều tra và doanh nghiệp có thể cần sử dụng những công nghệ mới để kiểm tra metadata, nguồn gốc tệp, dấu vết chỉnh sửa và tính nhất quán kỹ thuật của nội dung.

Một hướng phát triển đáng chú ý là Content Provenance, tức xác minh nguồn gốc và lịch sử của nội dung. Các công nghệ như chữ ký số, watermark và cơ chế xác thực nguồn gốc có thể đóng vai trò quan trọng trong việc chứng minh một nội dung được tạo ra bởi ai và có bị chỉnh sửa hay không.

Tuy nhiên, công nghệ xác thực cũng phải liên tục phát triển vì các phương thức giả mạo cũng ngày càng tinh vi.

Pháp luật cần chuyển từ "xử lý hậu quả" sang "quản trị rủi ro AI"

Một trong những bài học quan trọng từ sự phát triển của AI là pháp luật không thể chỉ phản ứng sau khi sự cố xảy ra.

Nếu chỉ chờ đến khi một vụ lừa đảo xảy ra rồi mới xử lý, thiệt hại có thể đã quá lớn. Vì vậy, một xu hướng quan trọng trên thế giới là chuyển từ tư duy "AI được phép làm gì?" sang "AI cần được quản trị rủi ro như thế nào?"

Điều này bao gồm việc phân loại mức độ rủi ro của các hệ thống AI, yêu cầu minh bạch, kiểm soát dữ liệu, bảo vệ quyền riêng tư, trách nhiệm của nhà cung cấp và cơ chế giám sát.

Đối với các công nghệ có nguy cơ bị lạm dụng để tạo deepfake hoặc lừa đảo, pháp luật có thể cần đặt ra các yêu cầu đặc biệt về nhận diện nội dung AI, đánh dấu nội dung tổng hợp và trách nhiệm của nền tảng phân phối.

Việt Nam cần chuẩn bị gì trước làn sóng tội phạm AI ?

Đối với Việt Nam, sự phát triển nhanh của AI đặt ra yêu cầu phải tiếp tục hoàn thiện khung pháp lý liên quan đến trí tuệ nhân tạo, an ninh mạng, bảo vệ dữ liệu cá nhân, tội phạm công nghệ cao và giao dịch điện tử.

Một mặt, pháp luật cần bảo vệ người dân và doanh nghiệp trước những hành vi lừa đảo mới. Mặt khác, pháp luật cũng cần tạo không gian để AI được phát triển và ứng dụng vào kinh tế, khoa học và đời sống.

Một khung pháp lý hiệu quả cần cân bằng giữa hai mục tiêu: khuyến khích đổi mới sáng tạo và kiểm soát rủi ro.

Bên cạnh việc hoàn thiện pháp luật, cơ quan chức năng cũng cần nâng cao năng lực điều tra tội phạm công nghệ cao, đầu tư vào công nghệ giám định nội dung số và tăng cường hợp tác quốc tế.

Đối với người dân và doanh nghiệp, nâng cao nhận thức cũng quan trọng không kém. Khi AI có thể giả mạo khuôn mặt và giọng nói, nguyên tắc "thấy mới tin" không còn đủ an toàn. Người dùng cần hình thành thói quen xác minh thông tin qua nhiều nguồn trước khi thực hiện các giao dịch quan trọng.

Doanh nghiệp cần làm gì ngay từ bây giờ ?

Doanh nghiệp cần bắt đầu bằng việc xây dựng một chính sách sử dụng AI rõ ràng. Nhân viên cần được đào tạo để nhận biết các dấu hiệu của lừa đảo bằng AI, deepfake và giả mạo danh tính.

Các quy trình tài chính và phê duyệt quan trọng cần có cơ chế xác minh độc lập. Doanh nghiệp cũng cần kiểm soát việc sử dụng AI trong nội bộ, đặc biệt khi nhân viên đưa dữ liệu khách hàng hoặc thông tin mật vào các công cụ AI.

Bên cạnh đó, doanh nghiệp nên xây dựng quy trình xử lý khi phát hiện nội dung giả mạo. Quy trình này cần xác định rõ ai chịu trách nhiệm xác minh, ai liên hệ với cơ quan chức năng, ai xử lý truyền thông và ai chịu trách nhiệm về pháp lý.

Đặc biệt, doanh nghiệp cần lưu ý rằng rủi ro từ AI không chỉ nằm ở bên ngoài. Nhân viên nội bộ cũng có thể vô tình hoặc cố ý sử dụng AI để tạo ra nội dung giả, làm lộ dữ liệu hoặc thực hiện hành vi gian lận.

Vì vậy, AI Governance, Data Governance và Cybersecurity cần được xây dựng như những bộ phận liên kết trong cùng một chiến lược quản trị rủi ro.

Tương lai: Khi chúng ta không còn chắc chắn điều mình nhìn thấy là thật

Deepfake và lừa đảo bằng AI đang đặt xã hội trước một thách thức rất đặc biệt. Đó là sự suy giảm của "niềm tin kỹ thuật số".

Trong quá khứ, một bức ảnh, một đoạn ghi âm hoặc một video có thể được xem là bằng chứng trực quan. Nhưng khi AI có khả năng tạo ra những nội dung gần như không thể phân biệt bằng mắt thường, con người cần những phương thức xác minh mới.

Điều này có thể dẫn đến một sự thay đổi lớn trong cách xã hội xác định sự thật. Trong tương lai, chúng ta có thể không chỉ cần hỏi "Nội dung này nói gì?" mà còn phải hỏi "Nội dung này đến từ đâu?", "Ai tạo ra nó?", "Có thể xác minh nguồn gốc hay không?" và "Có bằng chứng độc lập nào xác nhận hay không?"

Đây không chỉ là vấn đề công nghệ. Đó là vấn đề của pháp luật, kinh tế, an ninh quốc gia và niềm tin xã hội.

Kết luận: Pháp luật có thể không chạy kịp công nghệ, nhưng phải đi trước rủi ro

Công nghệ luôn phát triển nhanh hơn pháp luật. Đây không phải là một hiện tượng mới. Nhưng với AI, khoảng cách này có thể trở nên lớn hơn bao giờ hết.

Deepfake, lừa đảo bằng AI và tội phạm công nghệ cao đang cho thấy những giới hạn của các phương thức xác thực truyền thống. Khi khuôn mặt, giọng nói và video đều có thể bị giả mạo, xã hội cần những cơ chế xác thực mới và pháp luật cũng cần những cách tiếp cận mới.

Tuy nhiên, mục tiêu của pháp luật không nhất thiết phải là chạy theo từng công nghệ mới. Điều quan trọng hơn là xây dựng những nguyên tắc đủ linh hoạt để xử lý các rủi ro phát sinh từ công nghệ, đồng thời tạo ra cơ chế trách nhiệm rõ ràng cho người sử dụng, doanh nghiệp và các nền tảng công nghệ.

Trong cuộc đua giữa công nghệ và pháp luật, có lẽ câu hỏi quan trọng nhất không phải là "Pháp luật có chạy kịp công nghệ hay không?", mà là:

"Pháp luật có đủ nhanh để bảo vệ con người trước những rủi ro mà công nghệ mới tạo ra hay không?"

Và đối với doanh nghiệp, câu trả lời cũng không nên chỉ chờ đợi từ cơ quan lập pháp. Doanh nghiệp cần chủ động xây dựng năng lực quản trị AI, bảo vệ dữ liệu, an ninh mạng và phòng chống gian lận ngay từ hôm nay.

Bởi trong kỷ nguyên deepfake, điều nguy hiểm nhất có thể không phải là một nội dung giả mà là việc chúng ta tin rằng nó thật.

Góc nhìn LawConnect365

Sự phát triển của deepfake và AI đang tạo ra một lĩnh vực giao thoa ngày càng rõ nét giữa công nghệ, pháp luật và an ninh mạng. Doanh nghiệp không chỉ cần luật sư để xử lý hậu quả sau khi xảy ra lừa đảo, mà còn cần tư vấn pháp lý ngay từ giai đoạn xây dựng chính sách sử dụng AI, quản trị dữ liệu, kiểm soát rủi ro công nghệ và xây dựng quy trình ứng phó sự cố.

Trong tương lai, những vấn đề như trách nhiệm pháp lý của AI, xác thực nội dung số, deepfake, lừa đảo bằng AI, bảo vệ dữ liệu cá nhân và tội phạm công nghệ cao sẽ ngày càng trở thành những chủ đề quan trọng đối với doanh nghiệp và xã hội.

Tác giả bài viết: Admin@lawconnect365.vn