Theo CNBC, ngày 9/5, cảnh sát tỉnh Gansu (Trung Quốc) bắt giữ một người đàn ông họ Hong đã sử dụng ChatGPT viết bài báo giả mạo về một vụ tai nạn tàu hoả nghiêm trọng trong một bài đăng trên mạng xã hội Baijiahao ngày 25/4.

Nghi phạm cho biết, mục đích của bài đăng này là để "câu view". Ngay sau đó, tin giả này đã thu hút được hơn 15.000 lượt xem và đã có 20 tài khoản lan truyền.

Ông Hong đã lợi dụng ChatGPT để tạo ra các phiên bản khác nhau của bài báo giả mạo nhằm vượt qua bộ phận kiểm duyệt trên nền tảng Baijiahao. Người đàn ông này sẽ phải đối diện với hình phạt 10 năm tù giam và những hình phạt bổ sung khác.

Vụ bắt giữ người đàn ông họ Hong xảy ra trong bối cảnh Chính phủ Trung Quốc gần đây liên tục cảnh báo người dân cẩn trọng trước những công cụ AI như ChatGPT vì nó có thể đưa ra thông tin sai lệch hoặc phỉ báng.

Hồi tháng 1/2023, Trung Quốc vừa thông qua bộ luật đầu tiên liên quan đến các công nghệ tổng hợp chuyên sâu. Trong đó có đề cập đến những công cụ trí tuệ nhân tạo (AI) được sử dụng để tạo văn bản, hình ảnh, video hay các phương tiện truyền thông khác. Bộ luật nêu rõ cấm sử dụng các dịch vụ tổng hợp chuyên sâu để sản xuất và phổ biến tin tức giả mạo.

Thời gian qua, ChatGPT dù không xuất hiện chính thức nhưng cũng đã trở thành cơn sốt thu hút được rất nhiều người dùng tại Trung Quốc. Để truy cập dịch vụ qua nền tảng web, người dùng buộc phải sử dụng VPN (mạng riêng ảo).

ChatGPT đang trở nên ngày càng phổ biến và nhiều quốc gia đang lo ngại về sức mạnh phát triển của trí tuệ nhân tạo. Giới chuyên gia cho rằng, ngành công nghiệp này có ảnh hưởng lớn đến nền kinh tế thế giới và các cơ quan quản lý đang nỗ lực đuổi kịp và kiểm soát nó.

Tuy nhiên, việc thiếu quy định chặt chẽ và giám sát đã gây ra sự lo ngại toàn cầu về tác động của trí tuệ nhân tạo có thể dẫn đến phát tán dữ liệu trái phép, gây ảnh hưởng xấu đến xã hội.