Theo OpenAI, công cụ này đang trong quá trình thử nghiệm và chỉ hoạt động đối với các mô hình AI tạo sinh do OpenAI phát triển như DALL-E 3 - nền tảng tạo hình ảnh dựa trên gợi ý cho sẵn bằng văn bản.
Trong quá trình thử nghiệm nội bộ, công cụ này đã phát hiện chính xác khoảng 98% các hình ảnh do DALL-E 3 tạo ra. Đặc biệt, tỷ lệ kết quả sai là chưa đến 0,5%. Tuy nhiên, công cụ này mới chỉ xác định đúng 5-10% số hình ảnh do các mô hình trí tuệ nhân tạo khác tạo ra.
OpenAI cho biết, công ty sẽ chèn các watermark (ký tự nhận diện được làm mờ) vào hệ thống siêu dữ liệu hình ảnh trí tuệ nhân tạo trong bối cảnh ngày càng có nhiều công ty đăng ký tham gia các tiêu chuẩn của Liên minh chứng minh và xác thực nội dung (C2PA). Đây là một sáng kiến của ngành công nghệ, trong đó đặt ra tiêu chuẩn kỹ thuật để xác định nguồn gốc và tính xác thực của nội dung số.
Giới chuyên gia nhận định, trí tuệ nhân tạo đã trở thành một từ thông dụng trong năm 2023, đặc biệt là thông qua các ứng dụng như ChatGPT. Sức nóng của nó và sự yêu thích của công chúng khiến các công ty lần lượt tung ra các sản phẩm tương tự.
Hiện nay, có rất nhiều công cụ trí tuệ nhân tạo cho phép tạo ảnh chỉ bằng một đoạn mô tả văn bản ngắn như Dall-E, Midjourney và Stable Diffusion. Điều này đã làm dấy lên lo ngại từ việc dễ dàng tạo ảnh giả bằng AI có thể gây ra tác hại xã hội nghiêm trọng, góp phần phát tán thông tin sai lệch.
Theo dữ liệu từ công ty máy học Clarity, năm 2023 số lượng deepfake do trí tuệ nhân tạo tạo ra đã tăng 900% so với năm trước đó. Một minh chứng rõ nét, hồi tháng 3/2023, xuất hiện những hình ảnh cựu Tổng thống Mỹ Donald Trump bị bắt, hay Giáo hoàng Francis mặc áo khoác trắng thời trang được lan truyền nhanh chóng trên mạng xã hội khi nhiều người xem tin là thật. Tuy nhiên, ngay sau đó chúng bị phát hiện là sản phẩm do công cụ Midjourney của OpenAI tạo ra.
"Khi trình tạo ảnh AI trở nên phổ biến và tinh vi, chúng có thể tạo ảnh như thật nhưng sai sự thật. Không khó để hình dung một ngày chúng có thể thao túng, đưa thông tin không chính xác về một sự kiện," chuyên trang TechCrunch bình luận.
