Bức thư ngỏ do Center for AI Safety công bố ngày 30/5 cho biết: “Việc giảm thiểu nguy cơ tuyệt chủng do AI phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân”. Tuyên bố ngắn gọn này được ký bởi 300 người, trong đó bao gồm nhiều cái tên hàng đầu như Sam Altman, giám đốc điều hành của OpenAI - nhà sản xuất ChatGPT cũng như các giám đốc điều hành từ Microsoft hay nhánh AI và DeepMind của Google cùng nhiều nhà khoa học AI khác.
Theo CNBC trích dẫn tổ chức trên, hiện nay trên thế giới ngày càng có nhiều cuộc thảo luận về “một loạt các rủi ro quan trọng và cấp bách từ AI”. Tuy nhiên, việc “nói lên những lo ngại về một số rủi ro nghiêm trọng nhất của AI tiên tiến” có thể là một việc khó khăn. Tuyên bố này vì vậy nhằm giúp vượt qua trở ngại này cũng như mở ra các cuộc thảo luận.
Trong một bài phỏng vấn với hãng tin CBS ngày 30/5, giám đốc Center for AI Safety Dan Hendrycks cho biết có "nhiều con đường dẫn đến rủi ro quy mô xã hội từ AI”. Ví dụ, AI có thể “được sử dụng bởi những kẻ độc hại để thiết kế vũ khí sinh học mới gây chết người hơn cả đại dịch tự nhiên”. Đặc biệt, ông cho biết những người có mục đích xấu còn có thể tạo ra rogue AI gây hại cho loài người. Nếu AI này đủ thông minh và có đủ khả năng, nó có thể gây tai họa cho xã hội.
Ngoài ra, ông cũng cho biết AI còn có các rủi ro dài hạn có khả năng ảnh hưởng tới nhân loại, ví dụ như AI tự động hóa các bộ phận của nền kinh tế và con người từ bỏ quyền kiểm soát công nghệ để duy trì tính cạnh tranh.
Nếu kịch bản này xảy ra, ông cho biết con người sẽ “ngày càng dựa vào AI để điều hướng thế giới phức tạp và có nhịp độ ngày càng nhanh. Sự phụ thuộc ngày càng tăng này có thể khiến một ý tưởng đơn giản như tắt chúng đi có khả năng gây gián đoạn và thậm chí là bất khả thi, dẫn đến nguy cơ nhân loại mất quyền kiểm soát đối với tương lai của chính mình”.
Ngoài những giám đốc nổi tiếng đã ký tên vào bức thư này, các nhà lãnh đạo công nghệ khác như Elon Musk của Tesla và cựu Giám đốc điều hành Google Eric Schmidt đều đã từng cảnh báo về những rủi ro mà AI gây ra cho xã hội.
Trong một bức thư ngỏ vào tháng 3, ông Musk cùng người đồng sáng lập Apple Steve Wozniak và một số nhà lãnh đạo công nghệ khác đã kêu gọi các phòng thí nghiệm AI ngừng đào tạo các hệ thống mạnh hơn GPT-4 - mô hình ngôn ngữ lớn mới nhất của OpenAI. Các nhà lãnh đạo này cũng kêu gọi tạm dừng phát triển AI tiên tiến trong khoảng thời gian 6 tháng.
CNBC trích dẫn bức thư này cho biết: “Các hệ thống AI đương đại hiện đang trở nên cạnh tranh với con người trong các nhiệm vụ chung”. Nó cũng đặt ra câu hỏi liệu chúng ta có nên tự động hóa tất cả các công việc hay “phát triển những bộ óc phi nhân loại mà cuối cùng có thể đông hơn, thông minh hơn và thay thế chúng ta” hay “mạo hiểm khiến nền văn minh của mình bị mất kiểm soát” hay không.
