Trung Quốc sẽ áp dụng luật quản lý công nghệ deepfake nhằm thắt chặt nỗ lực kiểm soát các nội dung giả mà công nghệ này có thể bị lợi dụng để tạo ra. Ảnh: Global Tech Outlook

Về mặt định nghĩa, deepfake là các hình ảnh hoặc video được tạo ra hoặc được thay đổi bằng cách sử dụng trí tuệ nhân tạo. Công nghệ này thường được sử dụng để thay đổi các yếu tố của file gốc như thay đổi khuôn mặt hoặc tạo ra một bài phát biểu giả.

Kết quả của quá trình này là một nội dung trông giống như thật nhưng lại là hoàn toàn bịa đặt. Với công nghệ này, tất cả mọi người từ người lao động bình thường tới người nổi tiếng và chính trị gia đều có thể được sử dụng để tạo ra nội dung giả, gây ra các ảnh hưởng tiêu cực.

Nhằm đưa ra các luật lệ quản lý công nghệ này, chính phủ Trung Quốc hồi đầu năm nay đã công bố bộ quy tắc quản lý và hoàn thiện chúng vào tháng 12 trước khi chúng chính thức có hiệu lực từ ngày 10/1/2023.

Theo CNBC, các quy định chính của bộ luật liên quan tới “công nghệ tổng hợp sâu” của Bắc Kinh sẽ gồm 5 điểm đáng chú ý nhất. Chúng bao gồm việc người dùng phải đồng ý nếu hình ảnh của họ được sử dụng trong bất kỳ công nghệ tổng hợp sâu nào. Ngoài ra, các dịch vụ tổng hợp sâu không thể sử dụng công nghệ này để phát tán tin giả, đồng thời phải xác thực danh tính của người dùng.

Mặt khác, nội dung tổng hợp phải có thông báo dưới một số hình thức tới người dùng về việc hình ảnh hoặc video đã bị thay đổi bằng công nghệ. Chính phủ Trung Quốc cũng nghiêm cấm nội dung đi ngược lại luật hiện hành cũng như nội dung gây nguy hiểm cho an ninh và lợi ích quốc gia, làm tổn hại hình ảnh quốc gia hoặc làm gián đoạn nền kinh tế.

Trung Quốc nằm trong số ít quốc gia đi đầu và đưa ra luật quản lý các công nghệ mới. Ảnh: Alamy

Sự ra mắt của các quy định mới này cũng nằm trong xu hướng siết chặt quy định trong ngành công nghệ nói chung tại Trung Quốc. Kể từ cuối năm 2020, Bắc Kinh đã đưa ra nhiều luật lệ từ chống độc quyền tới bảo vệ dữ liệu và đã phạt nhiều tập đoàn công nghệ lớn có dấu hiệu vi phạm.

Tới đầu năm nay, Trung Quốc đã đưa ra một quy tắc quản lý cách các công ty công nghệ có thể sử dụng các thuật toán đề xuất. Theo các nhà phân tích, các điều luật này khiến Trung Quốc có những luật lệ liên quan tới công nghệ chặt chẽ và nghiêm ngặt hơn bất kỳ quốc gia nào. Đồng thời, nó cũng giúp chính phủ nước này đạt được 2 mục tiêu là kiểm duyệt trực tuyến và đưa ra các điều luật định hình các công nghệ mới một cách nhanh chóng.

CNBC trích dẫn ông Paul Triolo, lãnh đạo chính sách công nghệ tại công ty tư vấn Albright Stonebridge, cho biết ngoài các yếu tố liên quan tới chính trị, Trung Quốc đang cố gắng giải quyết bài toán khó về nội dung trực tuyến liên quan tới công nghệ deepfake. Trong bối cảnh AI cùng các công nghệ mới liên tục xuất hiện và trở nên ngày càng phổ biến, không có nhiều quốc gia có thể đi trước và đón đầu trong việc thiết lập khung pháp lý như Trung Quốc.

Nhận định về ý nghĩa của quy định mang tính bước ngoặt này của Trung Quốc, bà Kendra Schaefer, đối tác tại công ty tư vấn Trivium China có trụ sở tại Bắc Kinh, cho biết Trung Quốc đang nhắm vào một trong những mối đe dọa nghiêm trọng đối với xã hội trong thời hiện đại. Sự đe dọa liên quan tới những thông tin cơ bản nhất có thể nhìn thấy và nghe được, cũng như sự xói mòn niềm tin và sự khó khăn trong phân biệt giữa sự thật và dối trá.

Theo bà Schaefer, các cơ quan quản lý khác nhau của Trung Quốc đã tích lũy kinh nghiệm trong việc thực thi các quy tắc công nghệ. Vì vậy tuy có một số yếu tố vẫn chưa được rõ ràng, hệ thống quản lý hiện tại của quốc gia này sẽ giúp thực thi các quy tắc liên quan tới công nghệ deepfake.

Trên thực tế, công nghệ tổng hợp sâu không hoàn toàn xấu. Ngoài các ảnh hưởng tiêu cực nói trên, nó còn có thể được sử dụng để giúp ích trong các lĩnh vực như giáo dục và chăm sóc sức khỏe. Tuy nhiên, chính phủ Trung Quốc đang cố gắng giải quyết ảnh hưởng tiêu cực của nó trong việc tạo ra nội dung giả mạo và bịa đặt trước.