Trí tuệ nhân tạo có thể gia tăng bất bình đẳng giới trong ngắn hạn

13/02/2019
Chúng ta đang sống trong thời đại phụ nữ ít có mặt trong nhiều lĩnh vực của đời sống kinh tế. Ở Mỹ và Châu Âu, phụ nữ chỉ nắm giữ 19% các vị trí lãnh đạo hội đồng quản trị. Khoảng cách giới trong lãnh đạo doanh nghiệp vẫn tồn tại, dù trên thực tế ở các nước thuộc Tổ chức Hợp tác và Phát triển Kinh tế (OECD) từ hơn 2 thập kỷ qua, trung bình học vấn của phụ nữ đã cao hơn nam giới. Nguyên nhân chính vẫn là định kiến xã hội.

Một thực tế đáng lo ngại là, tình trạng này đang có nguy cơ gia tăng do trí tuệ nhân tạo (AI), bởi các dữ liệu hiện đang được dùng để đào tạo máy móc thường có tính định kiến. Điều đó dẫn đến, khi việc ứng dụng AI ngày càng rộng, các dữ liệu mang tính định kiến sẽ tác động đến dự đoán mà máy móc đưa ra và bất cứ khi nào ta nạp dữ liệu về các quyết định của con người thì các quyết định đó đương nhiên đã bị định kiến. Các dữ liệu này có thể là các quyết định tuyển dụng, chấm bài cho sinh viên, chẩn đoán y tế, phê duyệt vốn vay. Trên thực tế, bất cứ điều gì được mô tả bằng văn bản, bằng hình ảnh hoặc bằng giọng nói đều đòi hỏi qua xử lý thông tin –một quá trình luôn chịu ảnh hưởng từ định kiến về văn hóa, giới hoặc chủng tộc.

Trí tuệ nhân tạo (AI) trên thực tế

Cách thức máy móc học, một trong những lĩnh vực của AI, liên quan đến việc cung cấp các dữ liệu có thể ở dạng văn bản, hình ảnh hoặc giọng nói - và bổ sung bộ phân loại vào các dữ liệu này. Người ta có thể cho máy tính xem hình ảnh của một người phụ nữ đang làm việc trong văn phòng và sau đó dán nhãn hình ảnh này là nữ nhân viên văn phòng. Sau một thời gian với nhiều hình ảnh, máy tính sẽ học cách nhận ra những hình ảnh tương tự và có thể liên kết những hình ảnh này với phụ nữ làm việc trong văn phòng. Cùng với thời gian và thêm một số thuật toán, máy tính có thể đưa ra dự đoán cho những việc như sàng lọc ứng viên công việc (thay thế con người để sàng lọc CV), phát hành bảo hiểm hoặc phê duyệt khoản vay. 

Ngành công nghiệp tài chính đã khá tiên phong trong sử dụng các hệ thống AI. Ví dụ, AI được dùng để đánh giá rủi ro tín dụng trước khi phát hành thẻ tín dụng hoặc duyệt các khoản vay nhỏ. Nhiệm vụ của AI là sàng lọc khách hàng để tránh các khoản vay có thể không hoàn trả. Sử dụng dữ liệu của các khách hàng bị từ chối cho vay và liên kết chúng với một số quy tắc có thể dễ dàng dẫn đến sai lệch. Một trong những quy tắc có thể là “nếu khách hàng là phụ nữ độc thân, thì không chấp nhận đơn vay vốn”.

Một ví dụ khác, trên nền tảng nghề nghiệp LinkedIn, các công việc được trả lương cao không hiển thị cho những tìm kiếm của phụ nữ nhiều như hiển thị cho các tìm kiếm của nam giới do cách viết các thuật toán. Những người đầu tiên sử dụng chức năng tìm kiếm việc làm trả lương cao trên trang này chủ yếu là nam giới, vì vậy trang LinkedIn đã đề xuất những công việc này cho nam giới –thực tiễn này đã củng cố thêm định kiến giới không có lợi cho phụ nữ. Tình trạng tương tự cũng được phát hiện ở Google.

Một nghiên cứu khác cho thấy, các hình ảnh được dùng để đào tạo phần mềm nhận dạng hình ảnh đã làm trầm trọng thêm định kiến giới. Nghiên cứu hai bộ sưu tập hình ảnh lớn trong đó có một bộ được Microsoft và Facebook hỗ trợ đã chứng tỏ những định kiến giới có thể dự đoán được trong các bức ảnh về hoạt động hàng ngày như thể thao và nấu ăn. Hình ảnh mua sắm và giặt giũ thường được gắn với phụ nữ, trong khi huấn luyện thể thao và môn bắn súng gắn với nam giới.

Kiểm tra để phát hiện định kiến

Việc sử dụng dữ liệu để đào tạo máy tính sẽ không gây ra vấn đề gì nghiêm trọng nếu việc này không mang lại các hành động mang tính phân biệt đối xử có thể đoán trước được. Tuy nhiên, khi các dữ liệu được sử dụng rộng rãi để thay thế các quyết định của con người thì sẽ có vấn đề. Do đó, cần phải hiểu được những định kiến ẩn sau những gì các hộp đen đưa ra.

Một bài kiểm tra đã được nhà khoa học máy tính Anupam Datta thiết kế ra để xem AI có thể hiện định kiến giới khi đưa ra quyết định tuyển dụng nhân viên mới hay không.

Học máy có thể được sử dụng để sơ tuyển các ứng viên dựa trên các tiêu chí khác nhau như kỹ năng và trình độ học vấn. Quá trình này sẽ chấm điểm để cho thấy mức độ phù hợp của ứng viên đối với từng công việc. Trong chương trình sàng lọc ứng viên cho các công ty chuyển nhà, khi chương trình của Datta một cách ngẫu nhiên trong CV các ứng cử viên phần giới tính và khối lượng mà ứng viên có thể nâng lên được trong khi không thay đổi số lượng phụ nữ được sàng lọc để phỏng vấn, thì kết quả cho thấy, giới tính không phải là yếu tố quyết định trong quá trình tuyển dụng.

Như vậy có thể thấy, chúng ta có thể loại bỏ được các định kiến khi ứng dụng AI, nhưng cần rất nhiều sự nỗ lực và tiền bạc, vì vậy không có gì bảo đảm tính khả thi trên thực tế. Do vậy, nhiều khả năng trong ngắn hạn, chúng ta sẽ thấy định kiến giới tăng lên do tác động của AI.

Và về lâu dài, nếu trí thông minh nhân tạo dẫn đến việc máy móc thay thế con người trong một số hoạt động thì trí thông minh, cảm xúc cao hơn của phụ nữ sẽ trở nên có giá trị hơn. Nhu cầu các công việc đòi hỏi phải hiểu hành vi của con người theo cách mà máy móc không làm được sẽ gia tăng. Những công việc đòi hỏi hiểu biết bối cảnh xã hội, sự đồng cảm và lòng trắc ẩn là những việc mà con người với trí thông minh, cảm xúc cao hơn sẽ vượt trội so với máy móc. Vì vậy, mặc dù bất bình đẳng giới có thể gia tăng trong ngắn hạn, nhưng về lâu dài, cơ hội cho bình đẳng giới là hiện hữu.

Minh Hương dịch

TÂM ĐIỂM

CÁC ĐỀ ÁN

Video