Các quốc gia tham gia ký thỏa thuận mới bao gồm Mỹ, Anh, Đức, Italy, Cộng hòa Séc, Ba Lan, Australia, Chile, Singapore, Israel, Nigeria, Estonia... Những nước này đồng ý rằng các công ty thiết kế và sử dụng AI cần phát triển và triển khai công nghệ tiên tiến này theo cách giúp khách hàng và công chúng được an toàn, không bị lạm dụng.

Đây là thỏa thuận không mang tính ràng buộc và chủ yếu đưa ra các khuyến nghị chung như giám sát các hệ thống AI, bảo vệ dữ liệu trước việc bị giả mạo và kiểm tra nhà cung cấp phần mềm.

Theo bà Jen Easterly, Giám đốc cơ quan an ninh mạng và an ninh hạ tầng Mỹ, điều quan trọng là rất nhiều quốc gia đã nhất trí với ý tưởng rằng các hệ thống AI cần đặt sự an toàn lên hàng đầu.

"Đây là lần đầu tiên chúng ta cùng khẳng định rằng trí tuệ nhân tạo không chỉ liên quan đến các tính năng thú vị và tốc độ ra mắt thị trường hay cách cạnh tranh để giảm chi phí, mà hơn thế, với thỏa thuận vừa đạt được, các quốc gia đã nhất trí rằng điều quan trọng nhất cần phải thực hiện ở giai đoạn thiết kế chính là an ninh", bà Jen Easterly nhấn mạnh.

Giới chuyên gia nhận định, đây là sáng kiến mới nhất trong một loạt sáng kiến của các chính phủ trên khắp thế giới nhằm định hình sự phát triển của AI, vốn đang có sức ảnh hưởng ngày càng lớn trong ngành công nghiệp và xã hội nói chung.

Thỏa thuận vừa đạt được giải quyết các câu hỏi về cách đảm bảo cho công nghệ AI không bị tin tặc tấn công và nêu ra các khuyến nghị như chỉ phát hành các mô hình sau khi kiểm tra bảo mật một cách thích hợp.

Đồng thời nhấn mạnh đến thách thức trong việc sử dụng và thu thập dữ liệu AI. Việc này yêu cầu một cách tiếp cận cẩn trọng và có trách nhiệm, đảm bảo rằng dữ liệu được thu thập và sử dụng một cách minh bạch và công bằng.

Có những lo ngại rằng AI có thể bị lợi dụng để phá vỡ quá trình dân chủ, tăng cường gian lận, và thậm chí dẫn đến thất nghiệp hàng loạt. Thỏa thuận nhằm giải quyết những lo ngại này bằng cách thiết lập các nguyên tắc và khuyến nghị.

Sự tham gia của nhiều quốc gia trong thỏa thuận này cho thấy sự quan tâm toàn cầu đối với việc định hình tương lai của công nghệ trí tuệ nhân tạo. Điều này không chỉ đánh dấu một bước ngoặt trong công nghệ mà còn là sự hợp tác quốc tế sâu rộng.

Thời gian qua, những công cụ AI đã tạo ra bước đột phá mới trong làn sóng đầu tư vào công nghệ. Ông Mandeep Singh, chuyên gia tại Bloomberg Intelligence cho biết: "Trí tuệ nhân tạo tổng quát sẽ trở thành một phần thiết yếu trong hoạt động chi tiêu công nghệ thông tin, quảng cáo và an ninh mạng khi công nghệ này phát triển bùng nổ".

Khi các công cụ AI ngày càng trở nên phổ biến và dễ tiếp cận, công nghệ này được kỳ vọng sẽ mở rộng sang các ngành và đáp ứng đa dạng nhu cầu hơn. Tuy nhiên, các chuyên gia công nghệ cũng lưu ý, AI đang tiềm ẩn rất nhiều rủi ro và thách thức với những lo ngại về mức độ tin cậy liên quan đến dữ liệu, thuật toán và ứng dụng. Vì vậy, để tối ưu hóa những lợi ích của AI, điều quan trọng là phải khiến công chúng tin tưởng rằng công nghệ này đang được phát triển và sử dụng một cách có trách nhiệm.

Mới đây, Thủ tướng Anh Rishi Sunak cho biết nước này sẽ thành lập Viện an toàn trí tuệ nhân tạo đầu tiên trên thế giới.

"Mặc dù trí tuệ nhân tạo thúc đẩy tăng trưởng kinh tế cũng như giúp nâng cao năng lực của con người nhưng công nghệ này cũng tiềm ẩn nhiều rủi ro, nguy cơ an ninh. Chính vì vậy, Viện an toàn trí tuệ nhân tạo sẽ kiểm tra, đánh giá và thử nghiệm các loại hình mới của trí tuệ nhân tạo để nắm bắt khả năng của từng mô hình mới, xác định tất cả các rủi ro từ những tác hại đối với xã hội như quan điểm thiên vị và thông tin sai lệch cho đến những nguy cơ cao nhất", Thủ tướng Rishi Sunak nhấn mạnh.