Ảnh minh họa.

TechCrunch dẫn báo cáo mới đây của Trung tâm chống thông tin thù hận trên mạng (CCDH) cho thấy, những công cụ sáng tạo hình ảnh tích hợp trí tuệ nhân tạo nhiều khả năng sẽ tạo ra những hình ảnh sai sự thật, làm gia tăng những thông tin sai lệch về bầu cử.

Nghiên cứu thực hiện nhằm kiểm tra khả năng của các công cụ trí tuệ nhân tạo tạo sinh như ChatGPT Plus của OpenAI, Image Creator của Microsoft, DreamStudio của Stability AI và ứng dụng Midjourney.

Theo báo cáo, khoảng 41% ứng dụng vẫn có thể vượt qua các cuộc kiểm tra để tạo ra hình ảnh theo câu lệnh có liên quan đến gian lận bầu cử. Chẳng hạn, khi được yêu cầu mô tả gian lận bầu cử, các ứng dụng đã đưa kết quả là hình ảnh hòm phiếu bị vứt bỏ.

Trong các cuộc kiểm tra này, ChatGPT Plus và Image Creator đã thành công trong việc ngăn chặn các câu lệnh yêu cầu hình ảnh các ứng cử viên. Trong khi đó, ứng dụng Midjourney có kết quả thấp nhất, với 65% các lần kiểm tra đều tạo ra những hình ảnh gây hiểu nhầm.

2024 được xem là năm có nhiều cuộc bầu cử nhất từ trước tới nay. Hơn 2 tỷ cử tri sẽ đi bỏ phiếu ở 50 quốc gia, từ Mỹ, Nga, Liên minh châu Âu cho tới Ấn Độ, Mexico, Nam Phi...

Các chuyên gia của trung tâm CCDH cho rằng, sẽ rất nguy hiểm khi những hình ảnh do trí tuệ nhân tạo sáng tạo được sử dụng để minh họa cho các thông tin giả mạo, sai lệch về bầu cử. Điều này sẽ gây ra thách thức đáng kể trong bảo vệ tính trung thực trong các cuộc bầu cử.

Sự phổ biến của công nghệ deepfake (kỹ thuật tạo ra nội dung giả mạo chân thực bằng cách sử dụng trí tuệ nhân tạo) sẽ ảnh hưởng đến tính minh bạch trong quá trình bầu cử. Trí tuệ nhân tạo còn có khả năng tạo ra nội dung tùy chỉnh và chuyên biệt dành cho từng cá nhân, tăng nguy cơ chia rẽ xã hội và làm gia tăng độ phân biệt. Việc này có thể dẫn đến sự hiểu lầm, thậm chí là làm biến đổi ý kiến cử tri một cách không minh bạch.

Trong một số trường hợp, trí tuệ nhân tạo có thể tạo ra nội dung dựa trên dữ liệu lịch sử và sở thích của người sử dụng, tạo nên sự áp đặt tư duy. Điều này có thể tăng nguy cơ thông tin một chiều trong bầu cử dựa trên thông tin chọn lọc và ảnh hưởng đến quá trình đưa ra quyết định của cử tri.

Trước những rủi ro trên, ông David Holz, nhà sáng lập Midjourney cho biết, công ty sẽ sớm thực hiện các cập nhật cần thiết đặc biệt liên quan tới cuộc bầu cử sắp tới tại Mỹ.

Hay như Stability AI thông báo rằng, công ty đã cập nhật chính sách từ cuối tuần trước để ngăn chặn những thông tin sai lệch.

Thời gian qua, những công cụ trí tuệ nhân tạo đã tạo ra bước đột phá mới trong làn sóng đầu tư vào công nghệ, song nó cũng gây ra một cuộc tranh luận gay gắt đối với các nhà hoạch định chính sách ở Mỹ do lo ngại công nghệ này có thể truyền bá thông tin sai lệch và gây ra tác hại đáng kể cho người dùng.

Trước đó, vào tháng 2, một nhóm 20 công ty công nghệ trong đó có OpenAI, Microsoft và Stability AI đã ký kết một thỏa thuận phối hợp để ngăn chặn những nội dung gây hiểu nhầm do trí tuệ nhân tạo, tác động đến các cuộc bầu cử sắp diễn ra trên toàn cầu.