AI phân biệt đối xử sẽ gây tổn thất lớn cho ngành tài chính ngân hàng

Vấn đề ngày càng trở nên nghiêm trọng khi hệ thống AI được áp dụng trong nhiều dịch vụ tài chính ngân hàng. Deloitte lưu ý rằng, các hệ thống AI chỉ phát huy hết khả năng khi dữ liệu học máy được cung cấp một cách đầy đủ. Các bộ dữ liệu không đầy đủ hoặc không mang tính đại diện có thể hạn chế tính khách quan của AI, đặc biệt quan điểm cá nhân từ nhóm đào tạo hệ thống có thể duy trì chu kỳ thiên vị của AI, theo CNBC.

AI CÓ THỂ “RẤT NGỐC NGHẾCH”?

Ông Nabil Manji, người đứng đầu bộ phận Tiền điện tử và Web3 tại Worldpay by FIS, cho biết điều quan trọng cần hiểu về các sản phẩm AI là sức mạnh của công nghệ phụ thuộc rất nhiều vào nguồn nguyên liệu được sử dụng để đào tạo hệ thống.

Ông Manji đã nói với CNBC rằng: "Việc xác định một sản phẩm AI tốt như thế nào có hai biến số. Một là dựa vào dữ liệu mà nó có quyền truy cập, hai là mô hình ngôn ngữ lớn. Đó là lý do tại sao về mặt dữ liệu, một số công ty như Reddit đã không cho phép công ty khác thu thập dữ liệu của họ và sẽ phải trả tiền nếu muốn làm điều đó".

Đối với các dịch vụ tài chính, ông Manji cho biết rất nhiều hệ thống dữ liệu đầu vào bị phân mảnh bằng các ngôn ngữ và định dạng khác nhau, "Không có gì được kết nối hay đồng nhất với nhau. Điều đó sẽ khiến các sản phẩm do AI điều khiển kém hiệu quả hơn rất nhiều trong các dịch vụ tài chính so với một số ngành hoặc công ty khác, nơi AI có tính đồng nhất và hệ thống hiện đại hơn".

Ông Manji cho rằng blockchain hoặc công nghệ sổ cái phân tán (distributed ledger technology) sẽ giúp chúng ta có cái nhìn rõ ràng hơn về những dữ liệu đầu vào hoàn toàn khác nhau trong hệ thống AI lộn xộn mà nhiều ngân hàng truyền thống đang áp dụng.

Tuy nhiên, ngân hàng là tổ chức được quản lý chặt chẽ, không có khả năng thay đổi nhanh chóng như các đối tác công nghệ trong việc áp dụng AI thế hệ mới. "Chúng ta thấy Microsoft và Google, trong một đến hai thập kỷ qua đã không ngừng thúc đẩy sự đổi mới. Nhưng các ngân hàng dường như không bao giờ có thể theo kịp tốc độ đó", vị chuyên gia nhận định.

VẤN ĐỀ AI TẠI CÁC NGÂN HÀNG

Ông Rumman Chowdhury, một cựu Giám đốc tại Twitter cho rằng khoản vay là một ví dụ điển hình về cách hệ thống AI phân biệt đối xử với cộng đồng người thiểu số.

Ông Chowdhury trình bày trong Hội thảo Money20/20 được tổ chức tại Amsterdam: "Sự phân biệt đối xử bằng thuật toán thực sự hiện hữu trong việc cho vay. Tại Chicago có trường hợp từng từ chối khoản vay đối với người dân là người da đen".

Vào những năm 1930, Chicago được biết đến với thực trạng phân biệt đối xử đáng báo động, trong đó mức độ tín nhiệm của các tài sản được xác định dựa trên chủng tộc, thành phần dân tộc ở một số khu phố nhất định.

Ông Chowdhury cho hay: "Ngày xưa, có một bản đồ khổng lồ trên tường tại tất cả các quận ở Chicago, họ sẽ vẽ các đường màu đỏ trên bản đồ để ám chỉ địa điểm người Mỹ gốc Phi sinh sống và không cho người dân tại đó thực hiện khoản vay. Vài thập kỷ sau, các thuật toán đang được phát triển để xác định mức độ rủi ro tại các quận và cá nhân khác nhau. Và mặc dù hệ thống có thể không bao gồm điểm dữ liệu về chủng tộc, nhưng AI vẫn ngầm thu thập dữ liệu đó”.

Thật vậy, bà Angle Bush, nhà sáng lập Black Women in Artificial Intelligence, một tổ chức trao quyền cho phụ nữ da đen trong lĩnh vực AI chia sẻ với CNBC rằng, khi các hệ thống AI được sử dụng đặc biệt cho các quyết định phê duyệt khoản vay, bà đã phát hiện ra chúng có nguy cơ sao chép những thành kiến trong dữ liệu lịch sử để đào tạo thuật toán hiện tại.

"Điều này có thể dẫn đến việc từ chối cho vay tự động đối với cá nhân từ các nhóm thiệt thòi, củng cố sự chênh lệch về chủng tộc và giới tính", bà nói thêm. 

Ông Chowdhury cũng nhấn mạnh: "Điều quan trọng là các ngân hàng phải thừa nhận rằng việc triển khai AI như một giải pháp có thể vô tình duy trì sự phân biệt đối xử".

Ông Frost Li, nhà sáng lập và điều hành Loup, công ty giúp các cơ sở bán lẻ trực tuyến tích hợp AI vào nền tảng bán hàng, cho rằng khía cạnh "cá nhân hóa" của AI cũng có vấn đề. "Điều buồn cười trong AI là cách chúng ta chọn 'các tính năng cốt lõi' để đào tạo. Đôi khi, chúng ta chọn các tính năng không liên quan đến kết quả mà chúng ta muốn dự đoán".

Khi AI được áp dụng vào ngân hàng, nhà điều hành này nhận định, thật khó để xác định "thủ phạm" trong những thành kiến khi mọi thứ đều phức tạp trong tính toán. 

"Đó không phải là mục đích mà công cụ được tạo ra", ông Niklas Guske, Giám đốc Điều hành tại Taktile, công ty khởi nghiệp giúp fintech tự động hóa việc ra quyết định, cho biết.  

Trước đây Apple và Ngân hàng Goldman bị cáo buộc đặt ra định mức Apple Card thấp hơn đối với phụ nữ. Nhưng những tuyên bố này đã bị Bộ Dịch vụ Tài chính Tiểu bang New York bác bỏ sau khi cơ quan quản lý không tìm thấy bằng chứng phân biệt đối xử.

Theo ông Kim Smouter, Giám đốc nhóm Mạng lưới châu Âu chống phân biệt chủng tộc, việc chứng minh hành vi phân biệt đối xử trên AI là một thách thức. Ông nói: "Một trong những khó khăn ở việc triển khai AI hàng loạt là không rõ ràng cách thức đưa ra các quyết định và cơ chế khắc phục khi một cá nhân bị phân biệt chủng tộc xảy ra".

"Các cá nhân có rất ít kiến thức về cách hoạt động của hệ thống AI và trên thực tế, vấn đề của họ có thể chỉ là phần nổi của toàn bộ tảng băng chìm. Hơn nữa, cũng rất khó để phát hiện các trường hợp cụ thể khi đã xảy ra sự cố", ông cho hay.

CHÍNH SÁCH DÀNH CHO AI

Chuyên gia Chowdhury cho rằng cần có một cơ quan quản lý toàn cầu như Liên Hợp Quốc giải quyết một số rủi ro xung quanh AI.

Mặc dù AI đã được chứng minh là một công cụ sáng tạo, tuy nhiên cũng có một số nghi ngờ về tính lành mạnh và đạo đức công nghệ. Những lo lắng mà người trong ngành bày tỏ là thông tin sai lệch; thành kiến chủng tộc, giới tính có trong các thuật toán AI; và "ảo giác" được tạo ra bởi các công cụ giống như ChatGPT.

"Tôi đã lo lắng khá nhiều, nhờ trí tuệ nhân tạo, chúng ta đang sống trong thế giới nơi những thông tin trực tuyến không đáng tin cậy. Văn bản, video, âm thanh, hình ảnh,... làm thế nào để chúng ta đảm bảo rằng thông tin đó có tính toàn vẹn cao"? ông Chowdhury đặt ra câu hỏi.

Bây giờ là lúc cần có các quy định chặt chẽ về AI. Như Đạo luật AI của Liên minh châu Âu, nhiều người lo ngại rằng bộ luật sẽ không cập nhật đủ nhanh so với tốc độ phát triển công nghệ hiện tại.

"Chúng tôi kêu gọi sự minh bạch, trách nhiệm giải trình về các thuật toán hay cách hệ thống hoạt động, cho phép các cá nhân không phải là chuyên gia AI tự đánh giá, kiểm tra và công bố kết quả cũng như quy trình khiếu nại độc lập", ông Smouter nói.

Đạo luật AI, khung pháp lý đầu tiên dành cho công nghệ phổ biến này, đã kết hợp cách tiếp cận quyền cơ bản và các khái niệm như khắc phục, kiểm soát, dự kiến sẽ được thực thi trong khoảng hai năm tới. "Sẽ thật tuyệt nếu giai đoạn này có thể được rút ngắn để đảm bảo tính minh bạch và trách nhiệm giải trình là cốt lõi của sự đổi mới", ông khẳng định.