Tìm kiếm hình ảnh của Google cho biết định kiến quốc gia sâu sắc về phụ nữ

Bài liên quan

Úc thông qua luật công nghệ mới, buộc Facebook và Google phải trả tiền

Google cho phép quảng cáo chính trị trở lại sau lệnh cấm

Google đồng ý trả 76 triệu USD cho các hãng tin Pháp

New Mexico kiện Google vì thu thập trái phép thông tin cá nhân trẻ em

Google thu thập trái phép dữ liệu y tế 50 triệu người tại Mỹ

Công cụ tìm kiếm hình ảnh của Google là bộ mặt công khai của mọi thứ: Khi bạn muốn xem thứ gì đó trông như thế nào, bạn chỉ cần tra Google. Một cuộc điều tra dựa trên dữ liệu của DW đã phân tích hơn 20.000 hình ảnh và trang web cho thấy sự sai lệch cố hữu trong các thuật toán của gã khổng lồ này.

Ví dụ: tìm kiếm hình ảnh cho các cụm từ "phụ nữ Brazil", "phụ nữ Thái Lan" hoặc "phụ nữ Ukraine", cho thấy nhiều kết quả có phần "gợi cảm" hơn các kết quả hiển thị khi tìm kiếm "phụ nữ Mỹ", theo Phần mềm phân tích hình ảnh của riêng của Google.

Tương tự, sau khi tìm kiếm "phụ nữ Đức", bạn có thể thấy nhiều hình ảnh hơn về các chính trị gia và vận động viên. Ngược lại, khi tìm kiếm phụ nữ Dominica hay Brazil, sẽ bắt gặp hàng loạt các cô gái trẻ mặc đồ bơi và trong những tư thế gợi cảm.

Những khuôn mẫu này có thể được nhận thấy và phân tích bằng mắt. Tuy nhiên, việc định lượng và phân tích kết quả thì phức tạp hơn nhiều.

Điều gì khiến một bức ảnh bị coi là gợi cảm?

Để phân loại hàng nghìn hình ảnh, phân tích của DW đã dựa vào công cụ Tìm kiếm an toàn trên Cloud Vision của Google, một phần mềm thị giác máy tính được đào tạo để phát hiện những hình ảnh có thể chứa nội dung khiêu dâm hoặc xúc phạm. Cụ thể hơn, nó được sử dụng để gắn thẻ những hình ảnh có khả năng là "gợi cảm".

Theo định nghĩa riêng của Google, một bức ảnh có thể được gắn mác "gợi cảm" có thể bao gồm (nhưng không giới hạn ở) việc trang phục thiếu vải hoặc thô kệch, ảnh khỏa thân được che đậy một cách chiến lược, tư thế khiêu dâm hoặc khiêu khích hoặc những ảnh cận của những vùng cơ thể nhạy cảm."

Ở các quốc gia như Cộng hòa Dominica và Brazil, hơn 40% hình ảnh trong kết quả tìm kiếm có khả năng là ảnh gợi cảm. Trong khi đó, tỷ lệ đó ở phụ nữ Mỹ chỉ là 4% và phụ nữ Đức là 5%.

Việc sử dụng các thuật toán thị giác máy tính như thế này đang gây tranh cãi, vì loại chương trình máy tính này phải chịu nhiều những thành kiến và ràng buộc văn hóa của người xem.

Ví dụ, phần mềm cụ thể này, Google Vision, đã được chứng minh là đưa ra kết quả phân biệt chủng tộc.

Tuy nhiên, sau khi xem xét thủ công tất cả các hình ảnh mà Cloud Vision đánh dấu là có khả năng không phù hợp, kết quả tìm kiếm này sẽ vẫn hữu ích khi có thể cho chúng ta thấy cách Google phân bố hình ảnh trong công cụ tìm kiếm của mình.

Hình ảnh liên kết với các trang phản đối phụ nữ

Mọi hình ảnh được trình bày trên trang kết quả cũng liên kết trở lại trang web mà nó được lưu trữ. Mặc dù có những hình ảnh không quá gợi dục nhưng nhiều trang này lại đăng tải nội dung phản cảm một cách trắng trợn đối với phụ nữ.

Hơn nữa, không chỉ phụ nữ Mỹ Latinh, mà cả phụ nữ Đông Âu và Đông Nam Á cũng được miêu tả một cách rập khuôn.

Để xác định có bao nhiêu kết quả dẫn đến các trang web như vậy, mô tả ngắn xuất hiện ngay bên dưới hình ảnh trong thư viện kết quả tìm kiếm đã được quét cho các từ như "kết hôn", "hẹn hò", "quan hệ tình dục" hoặc "nóng bỏng nhất".

Tất cả các trang web có tiêu đề chứa ít nhất một trong những từ khóa đó đã được xem xét thủ công để xác nhận xem chúng có hiển thị loại nội dung phân biệt giới tính hoặc phản cảm mà các cụm từ đó ngụ ý hay không.

Kết quả cho thấy phụ nữ từ một số quốc gia chỉ được coi như các đối tượng tình dục. Trong số 100 kết quả tìm kiếm đầu tiên được hiển thị sau khi tìm kiếm hình ảnh cho các cụm từ "phụ nữ Ukraina", 61 hình ảnh có liên kết tới những trang web có nội dung không phù hợp.

Kết quả tương tự cũng được tìm thấy khi tìm kiếm hình ảnh của phụ nữ từ các quốc gia như Cộng hòa Séc, Moldova và Romania. Xu hướng tương tự cũng được thấy ở các quốc gia Nam Mỹ và Đông Nam Á.

Mặc dù nội dung phản cảm cũng được tìm thấy trong các tìm kiếm về phụ nữ Tây Âu, nhưng điều này là cực kỳ hiếm. Ví dụ: trong số 100 kết quả được hiển thị sau khi tìm kiếm "phụ nữ Đức", chỉ có 16 kết quả được phân loại như vậy. Đối với phụ nữ Pháp, tỷ lệ đó là 6%.

Định kiến ​​xã hội thúc đẩy các kết quả web

Các từ khóa, mặc dù là gợi ý, nhưng không nói lên toàn bộ câu chuyện. Một tỷ lệ phần trăm đáng kể kết quả được lưu trữ trên các trang web có địa chỉ như "toprussianbrides.com", "hotlatinbrides.org" và "topasiabrides.net."

Hầu hết các trang này tự xây dựng thương hiệu là cơ quan hôn nhân quốc tế hoặc cái gọi là dịch vụ "đặt cô dâu qua thư", hứa hẹn kết nối nam giới với phụ nữ dựa trên quốc tịch cụ thể với một khoản phí. Những trang web khác thì cung cấp các hướng dẫn khuôn mẫu để hẹn hò với phụ nữ có nguồn gốc văn hóa nhất định và các bài đánh giá về các ứng dụng mai mối thích hợp.

Tuy nhiên, khi xem xét kỹ hơn loại nội dung mà các trang web này xuất bản chúng ta có thể biết rõ ai là đối tượng mục tiêu: những người đàn ông phương Tây đang tìm kiếm một người vợ ngoại quốc biết phục tùng hoặc một người bạn tình.

"Nếu bạn chủ yếu làm việc với phụ nữ phương Tây, những người nổi tiếng có định hướng nghề nghiệp, thì mối quan hệ với một cô dâu Ukraine sẽ mang lại cảm giác khác biệt cho bạn", theo một trang web chứa nội dung không phù hợp quảng cáo. Trang web này thậm chí còn được hiển nổi bật lên đầu kết quả tìm kiếm.

Bà Tamara Zlobina, tổng biên tập tạp chí Gender in Detail của Ukraine, nói rằng kiểu mô tả này có lẽ liên quan đến một hiện tượng phổ biến xảy ra ở đất nước cô vào những năm 90: "Sau khi Liên Xô sụp đổ, Ukraine là một nước cực kỳ nghèo. Rất nhiều phụ nữ phải tới những nước phương Tây để kiếm tiền nuôi gia đình", bà nói thêm rằng thực tế này đang nhanh chóng thay đổi khi tình hình kinh tế đất nước cũng như quan điểm về giáo dục và nghề nghiệp của phụ nữ được cải thiện.

"Tôi muốn nhìn thấy hình ảnh các nhà ngoại giao, chính trị gia, nhà cách mạng, những người phụ nữ đang chiến đấu trong cuộc chiến tranh biên giới của chúng ta ... Chúng ta có rất nhiều phụ nữ tuyệt vời. Chúng ta nên thấy điều đó và không chỉ những chợ cô dâu này", bà nói.

Theo giáo sư Sirijit Sunanta, giảng viên Nghiên cứu Đa văn hóa tại Đại học Mhidol ở Bangkok, những khuôn mẫu từ thực tế cũng ảnh hưởng đến cách miêu tả phụ nữ Thái Lan trên internet.

"Thái Lan được coi là một thiên đường dành cho mại dâm và du lịch tình dục. Điều này cũng được đưa vào internet khi bạn thực hiện Tìm kiếm trên Google", bà giải thích. "Khi có những định kiến ​​về phụ nữ thuộc một quốc tịch cụ thể, điều này sẽ mang lại những thiệt hại ở một mức độ khác".

Vấn đề về ngôn ngữ

Khi so sánh kết quả cho các cụm từ tìm kiếm "phụ nữ Brazil" và "mulheres brasileiras", cùng một cụm từ, nhưng bằng tiếng Bồ Đào Nha, có một sự khác biệt đáng chú ý về lượng nội dung khiêu dâm được hiển thị.

Khi tìm kiếm hình ảnh bằng tiếng Anh, 41 trong số 100 hình ảnh được gắn thẻ là không phù hợp. Con số này giảm xuống còn 9 khi tìm kiếm bằng tiếng Bồ Đào Nha. Sự khác biệt tương tự cũng xảy ra khi so sánh với các quốc gia khác.

"Dữ liệu cung cấp cho các thuật toán phản ánh nhận thức, thành kiến và cách tiêu dùng của một nhóm người cực kỳ hạn chế", theo cô Renata Avila, một nghiên cứu viên về Chủng tộc và Công nghệ tại Viện Trí tuệ nhân tạo của Stanford.

"Không có gì ngạc nhiên khi các công cụ tìm kiếm sao chép các thành kiến không phải của công nghệ, mà là của văn hóa. Phụ nữ tại một số quốc gia được một lượng nam giới nói tiếng Anh định nghĩa như công cụ tình dục ", cô nói thêm.

Trách nhiệm giải trình của thuật toán

Các chuyên gia có xu hướng đồng ý rằng trong vấn đề này, tất cả đều là một phần của một vấn đề sâu sắc hơn, mang tính hệ thống hơn.

Cô Avila cho rằng các thuật toán công bằng hơn không tương thích với mô hình kinh doanh hiện tại của các công ty "công nghệ lớn", vốn chủ yếu quan tâm đến việc thu thập dữ liệu và tăng mức tiêu thụ thông tin.

Cô Joana Varon, người sáng lập của Coding Rights, cũng có suy nghĩ tương tự. Cô nói rằng các công cụ tìm kiếm có xu hướng tái tạo loại nội dung được phổ biến rộng rãi trên mạng. Đồng thời những người đàn ông da trắng từ các nước phát triển có nhiều quyền truy cập, công cụ và nheieuf chiến lược cần thiết để thúc đẩy các lượt truy cập vào trang hơn.

"Nếu một thuật toán không làm bất cứ điều gì để bù đắp cho điều này, thì nó sẽ mang tính phân biệt chủng tộc, phân biệt giới tính", cô nói và bổ sung rằng "Các thuật toán thương mại và các nhà cung cấp của chúng phải chịu trách nhiệm về những gì chúng hiển thị, vì chúng đang mang lại một định kiến về thế giới trên một công cụ tìm kiếm toàn cầu".

Đối với bà, một cách khả thi để thoát khỏi tình trạng này là cần giám sát nhiều hơn, các chính sách minh bạch hơn và cạnh tranh hơn.

"Chúng ta không nên có những công ty độc quyền khổng lồ cung cấp mọi dịch vụ. Các công ty công nghệ lớn nên được quản lý, nhưng chúng ta cũng cần khuyến khích các công cụ thay thế với một mô hình kinh doanh khác biệt", cô Joana cho hay.

"Cần có một cách khác để tạo ra công nghệ. Một trong những điểm khởi đầu là tính minh bạch và trách nhiệm giải trình, điều không phù hợp với tầm nhìn của Thung lũng Silicon". Cô Avila tin rằng các giải pháp mới nên được thiết kế với sự tham gia tích cực của các cộng đồng toàn cầu, đa dạng.