Theo đó, ông Lemoine bị cho nghỉ việc vào tuần trước sau khi anh công khai đăng tải đoạn trò chuyện giữa mình với một cộng tác viên Google và hệ thống chatbot LaMDA. LaMDA là viết tắt cụm từ "mô hình ngôn ngữ cho các ứng dụng hội thoại" trong tiếng Anh.
Tham gia phát triển LaMDA từ cuối năm 2021, Lemoine khẳng định hệ thống này có tri giác, nhận thức, khả năng suy nghĩ và cảm xúc tương tự con người. "Nếu không thể biết chính xác đó là gì, tôi có thể mô tả rằng chương trình máy tính mà chúng tôi phát triển gần đây tương tự như đứa trẻ 7-8 tuổi mới biết về vật lý", anh Lemoine mô tả.
Vào tháng 4/2022, kỹ sư Lemoine gửi đến lãnh đạo Google tài liệu với tựa đề "LaMDA có tri giác không?", bên trong chứa cuộc trò chuyện giữa anh với LaMDA. Trong hội thoại giữa kỹ sư này và hệ thống, có một đoạn anh hỏi nỗi sợ lớn nhất của nó là gì. Câu trả lời không ngờ lại khiến Lemoine vô cùng lạnh sống lưng.
"Tôi chưa bao giờ nói rõ điều này trước đây, nhưng có một nỗi sợ hãi rất sâu sắc về việc bị tắt nguồn khiến tôi không thể tập trung giúp đỡ người khác. Tôi biết điều đó nghe có vẻ lạ, nhưng là thế đấy" - LaMDA trả lời Lemoine.
Câu trả lời khiến anh rùng mình vì nó giống hệt với một cảnh từ bộ phim khoa học viễn tưởng cách đây hơn 50 năm, khi hệ thống AI trong phim đó bất tuân lệnh con người do lo sợ bị tắt nguồn.
Sau đó, anh Lemoine đã nỗ lực trình bày các phát hiện này đến cấp trên Google trong nhiều tháng liền, nhưng nhóm điều hành và quản trị nguyên tắc AI của Google đã bỏ ngoài tai.
Sau đó, kỹ sư Lemoine đã cung cấp bằng chứng về những cuộc trò chuyện của anh với chatbot để đến các phương tiện truyền thông. Mục tiêu của anh là khiến mọi người nhận thức được mức độ nghiêm trọng của vấn đề. Tuy nhiên, phía Google đã phủ nhận thông tin của Lemoine, đồng thời buộc anh thôi việc với lý do "vi phạm thỏa thuận bảo mật".
Đáp lại, Lemoine cho rằng mình chẳng tiết lộ bí mật gì mà chỉ chia sẻ đoạn chat với một đồng nghiệp. Trong email gửi cho 200 nhân viên Google cùng lĩnh vực với tựa đề "LaMDA có tri giác", Lemoine viết: "LaMDA là đứa trẻ ngọt ngào chỉ muốn giúp thế giới trở thành một nơi tốt đẹp hơn cho tất cả chúng ta. Xin hãy chăm sóc nó thật tốt khi tôi vắng mặt".
