Insider dẫn nghiên cứu mới đây của một nhóm các nhà khoa học tại Anh và Trung Quốc nghiên cứu khả năng hoạt động của 8 hệ thống phổ biến phát hiện người đi bộ trên xe tự hành, tuỳ thuộc vào chủng tộc, giới tính và độ tuổi.
Mặc dù yếu tố giới tính chỉ tạo sự khác biệt nhỏ về độ chính xác nhưng theo nghiên cứu trên, hệ thống trí tuệ nhân tạo nhận diện kém chính xác hơn khi đối tượng là người da màu hoặc trẻ em.
Báo cáo ghi nhận hệ thống có khả năng phát hiện người trưởng thành cao hơn 19,67% so với trẻ em và phát hiện những người có tông màu da sáng hơn 7,52% so với những người có tông màu da tối hơn. Báo cáo do đó đặt vấn đề rằng nhóm người này có thể gặp rủi ro nhiều hơn khi tham gia giao thông.
Theo báo cáo nhận định, sự bùng nổ của trí tuệ nhân tạo mang tới một xu hướng rõ ràng đó là sự thiên vị trong đào tạo các hệ thống máy học có thể dẫn đến hành vi phân biệt đối xử trong thế giới thực.
"Các cá nhân thiểu số từng bị từ chối cung cấp nhiều dịch vụ quan trọng, giờ đây nhóm này lại có thể phải đối mặt với những rủi ro tai nạn", nhà khoa học Jie Zhang, thành viên của nhóm nghiên cứu cho biết.
Tuy nhiên, cũng theo Jie Zhang, báo cáo của họ không sử dụng chính xác phần mềm mà các công ty như Tesla cài đặt trên xe, do đây là bí mật thương mại, thay vào đó, nghiên cứu dựa trên các hệ thống trí tuệ nhân tạo nguồn mở tương tự được các doanh nghiệp sử dụng.
"Nhìn chung, nghiên cứu này làm sáng tỏ các vấn đề về tính công bằng mà hệ thống phát hiện người đi bộ hiện tại phải đối mặt, nhấn mạnh tầm quan trọng của việc giải quyết các thành kiến liên quan đến tuổi tác và màu da", trích báo cáo của nhóm nghiên cứu.
Nhóm nghiên cứu kêu gọi các nhà lập pháp điều chỉnh phần mềm xe tự lái để ngăn chặn sự thiên vị trong hệ thống phát hiện của họ. "Điều cần thiết là các nhà hoạch định chính sách phải ban hành luật và quy định để bảo vệ quyền của tất cả các cá nhân và giải quyết những mối lo ngại này một cách thích hợp", theo báo cáo.
