Ông Phil Wright, Giám đốc cấp cao, Khối nghiệp vụ ngân hàng, HSBC Việt Nam. Ảnh: HSBC Việt Nam.

Theo ông Phil Wright, trong lĩnh vực tài chính, niềm tin của khách hàng là tài sản quan trọng của ngân hàng và AI đang định hình lại cách niềm tin được xây dựng, kiểm chứng và duy trì.

Trước đây, niềm tin chủ yếu được xây dựng dựa trên sức mạnh thương hiệu, năng lực tài chính và các mối quan hệ lâu dài. Tuy nhiên, trong bối cảnh số hoá, niềm tin được đánh giá thông qua hành vi của hệ thống như sự ổn định của dịch vụ, tính công bằng và hợp lý trong các quyết định đến khả năng bảo vệ dữ liệu và hỗ trợ khách hàng kịp thời khi cần.

Trong kỷ nguyên AI, các ngân hàng cần chứng minh được năng lực quản trị, khả năng kiểm toán cũng như tính minh bạch trong kết quả đầu ra. Khi AI tham gia vào các hoạt động như phát hiện gian lận, ưu tiên dịch vụ hay hỗ trợ quản trị rủi ro, các tổ chức tài chính phải có khả năng giải trình rõ ràng về dữ liệu được sử dụng, mục đích sử dụng, cách mô hình được thử nghiệm, giám sát và xử lý khi xảy ra sai sót.

AI có thể trở thành công cụ hữu hiệu để nâng cao trải nghiệm khách hàng và tăng cường tính toàn vẹn của hệ thống tài chính, với điều kiện được áp dụng một cách có trách nhiệm, an toàn và có sự giám sát chặt chẽ của con người. Vì vậy, vấn đề hiện nay không còn là việc các ngân hàng có nên sử dụng AI hay không, mà là sử dụng AI như thế nào để bồi đắp lòng tin của khách hàng mỗi ngày.

AI trong ngân hàng phải luôn có con người giám sát

Theo ông Phil Wright, để tích hợp AI vào quá trình ra quyết định cốt lõi, các ngân hàng cần bắt đầu từ hành trình trải nghiệm của khách hàng và những khâu cần tự động hóa, thay vì chỉ tập trung vào mô hình. Tổ chức tài chính, ngân hàng cần xác định rõ những hoạt động cần dự đoán, ưu tiên hoặc tự động hóa để cải thiện hiệu quả, đồng thời đánh giá kết quả không chỉ dựa trên năng suất mà còn phải tính tới rủi ro và tính công bằng.

Bên cạnh đó, các ngân hàng cần thiết kế mô hình ra quyết định có kiểm soát, bao gồm xác định rõ thẩm quyền ra quyết định, giới hạn của AI và những trường hợp cần có con người xem xét lại. AI có thể hỗ trợ đề xuất hoặc phân loại tình huống, nhưng các quyết định có tác động lớn vẫn cần con người phê duyệt.

Những trường hợp ngoại lệ cần được chuyển sang quy trình rà soát riêng, đồng thời khách hàng cũng phải có cơ chế khiếu nại đối với các kết quả do hệ thống đưa ra. Theo đại diện HSBC, đây là cách để AI có thể vận hành hiệu quả trong môi trường tài chính được quản lý chặt chẽ.

Để tích hợp AI vào quá trình ra quyết định cốt lõi, các ngân hàng cần bắt đầu từ hành trình trải nghiệm của khách hàng. Ảnh minh hoạ: TPBank.

Để mở rộng quy mô triển khai AI, ông Phil Wright cho rằng các ngân hàng cần xây dựng nền tảng quản lý đồng bộ, từ quản trị vòng đời mô hình, giám sát hệ thống đến quản lý thay đổi. AI không nên được xem là một dự án công nghệ đơn lẻ mà cần có sự phối hợp chặt chẽ giữa các bộ phận kinh doanh, công nghệ, quản lý rủi ro và tuân thủ ngay từ đầu để có thể triển khai an toàn và nhân rộng hiệu quả.

Theo đại diện HSBC, điều quan trọng nhất là trách nhiệm vẫn phải thuộc về con người. Theo ông Phil Wright, AI có thể hỗ trợ đưa ra quyết định nhưng không thể chịu trách nhiệm thay con người. Với các quyết định quan trọng hoặc những trường hợp có ảnh hưởng lớn tới khách hàng, con người luôn cần tham gia vào quá trình kiểm soát. Theo ông, đây không phải hạn chế của AI mà là đặc điểm của một ngân hàng có trách nhiệm.

Vì vậy, định hướng phía trước rất rõ ràng: ứng dụng AI có trách nhiệm ngay từ khâu thiết kế, nền tảng an toàn, quản trị chặt chẽ với sự tham gia của con người để từ đó đổi mới, sáng tạo diễn ra nhanh chóng trong khi trách nhiệm vẫn nằm chắc trong tay con người.

Định hướng trong thời gian tới là ứng dụng AI có trách nhiệm ngay từ khâu thiết kế, với nền tảng an toàn, cơ chế quản trị chặt chẽ và sự tham gia xuyên suốt của con người. Điều này giúp các ngân hàng vừa thúc đẩy đổi mới nhanh hơn, vừa đảm bảo trách nhiệm cuối cùng vẫn thuộc về con người.

“Xét cho cùng, khách hàng và cơ quan quản lý không yêu cầu các ngân hàng giảm ứng dụng AI. Họ đòi hỏi ngân hàng sử dụng AI một cách đúng đắn,” ông Wright viết.

Ba thách thức khi triển khai AI trong ngân hàng

Trong bài phân tích, ông Phil Wright chỉ ra 3 thách thức cốt lõi trong quá trình triển khai AI an toàn trong ngân hàng.

Thứ nhất là rủi ro dữ liệu, bởi AI phụ thuộc vào chất lượng dữ liệu, nguồn gốc dữ liệu và khả năng kiểm soát truy cập. Theo đại diện HSBC, nếu không thể xác định dữ liệu đến từ đâu, ai đã can thiệp và dữ liệu có phù hợp với mục đích sử dụng hay không, nền tảng AI sẽ thiếu độ tin cậy. Vì vậy, các biện pháp kiểm soát quyền riêng tư và quản trị dữ liệu chặt chẽ được xem là yêu cầu nền tảng, thay vì chỉ là yếu tố bổ sung.

Thách thức thứ hai là con người và quy trình vận hành. Ông Phil Wright cho rằng ứng dụng AI an toàn trong ngân hàng không chỉ là bài toán công nghệ mà còn là vấn đề về kỷ luật vận hành. Đội ngũ nhân sự cần có đủ kỹ năng để xây dựng, thẩm định mô hình và quản lý thay đổi an toàn, đồng thời duy trì văn hóa sẵn sàng chất vấn kết quả và báo cáo khi phát sinh lo ngại. Trong các tình huống bất thường, khả năng phán đoán của con người vẫn mang tính quyết định, vì vậy quy trình giám sát và ứng phó sự cố do con người kiểm soát vẫn giữ vai trò thiết yếu.

Thứ ba là rủi ro mô hình. Hiệu suất dự đoán của các mô hình AI có thể thay đổi khi hành vi khách hàng và điều kiện kinh tế thay đổi. Mô hình có thể hoạt động không ổn định trong những tình huống cực đoan.

Với AI tạo sinh, các rủi ro mới cũng xuất hiện như nguy cơ bị thao túng bằng câu lệnh, rò rỉ dữ liệu nhạy cảm hoặc phụ thuộc vào những kết quả đầu ra có vẻ hợp lý nhưng thực tế không chính xác. Điều này đòi hỏi các tổ chức phải kiểm tra mô hình kỹ lưỡng, giám sát liên tục, có cơ chế giải thích rõ ràng khi cần và kiểm soát chặt các công cụ trung gian từ bên thứ ba.

Một mô hình quản trị AI hiệu quả, theo Wright, cần được xây dựng theo cơ chế ba tuyến phòng thủ. Trong đó, bộ phận kinh doanh chịu trách nhiệm đối với các tình huống và kết quả vận hành; bộ phận rủi ro và tuân thủ đảm nhiệm vai trò phản biện, phê duyệt; còn bộ phận kiểm toán đóng vai trò kiểm soát cuối cùng.

Việc quản trị AI cũng cần được áp dụng xuyên suốt toàn bộ vòng đời của hệ thống, từ khâu đánh giá tình huống, triển khai, vận hành đến khi ngừng hoạt động, đi kèm cơ chế giám sát liên tục đối với các sai lệch và tác động ngoài mong muốn. Toàn bộ quá trình phải được minh bạch và lưu trữ đầy đủ, bao gồm nguồn gốc dữ liệu, kết quả thử nghiệm, cơ sở cho từng quyết định và các thông tin liên quan đến quá trình ra quyết định. Những dữ liệu này không chỉ phục vụ công tác kiểm toán, thanh tra mà còn hỗ trợ xử lý khiếu nại của khách hàng khi cần thiết.

Chuyên gia RMIT: Bảo vệ dữ liệu để duy trì niềm tin vào kinh tế số Ngày 6/5, Đại học RMIT Việt Nam công bố bài phân tích của TS. James Kang, Giảng viên cấp cao ngành Khoa học máy tính, với nhận định rằng bảo vệ dữ liệu cá nhân cần được ưu tiên hàng đầu để duy trì niềm tin vào nền kinh tế số.

'Việt Nam là điểm đến hấp dẫn cho đầu tư trung tâm dữ liệu AI' Theo các chuyên gia, Việt Nam có lợi thế nổi bật về niềm tin xã hội, mức độ chấp nhận công nghệ và nền tảng chính sách, quản trị cho AI.

Luật Bảo vệ dữ liệu cá nhân: Bước ngoặt pháp lý, tiệm cận chuẩn mực toàn cầu Theo Luật sư Lưu Xuân Vĩnh, Luật Bảo vệ dữ liệu cá nhân đánh dấu bước ngoặt hoàn thiện khung pháp lý, đồng thời đưa Việt Nam tiệm cận chuẩn mực quốc tế, hình thành “ngôn ngữ chung” về dữ liệu, nhưng cũng đặt ra áp lực tuân thủ ngày càng lớn.