Khuôn mặt da trắng được tạo bởi AI có sức thuyết phục cao hơn so với thực tế

In a new study, researchers have discovered that AI-generated pictures of white faces are more likely to be perceived as real compared to photographs of actual individuals. The findings raise concerns about potential implications in identity theft and the possibility of people being deceived by digital impostors. The algorithm used to generate AI faces was primarily trained on images of white people, which may explain why the results did not hold for images of people of color. The researchers warn that this could perpetuate social biases and impact areas such as online therapy and robots. The study emphasizes the need to address biases in AI to ensure fairness and inclusivity.

Nghe có vẻ như một cảnh đi ra từ một bộ phim của Ridley Scott: công nghệ không chỉ nghe “thực” hơn con người, mà còn trông cũng thuyết phục hơn. Tuy nhiên, dường như thời điểm đó đã đến.

Một nghiên cứu mới đã phát hiện ra rằng, mọi người có xu hướng nghĩ rằng hình ảnh của những khuôn mặt da trắng do AI tạo ra có tính con người hơn so với những bức ảnh của người thật.

“Có thể nói, những khuôn mặt da trắng do AI tạo ra có thể thuyết phục qua mức đáng tin cậy hơn khuôn mặt con người – và con người không nhận ra rằng họ đang bị lừa,” các nhà nghiên cứu báo cáo.

Đội ngũ nghiên cứu bao gồm các nhà nghiên cứu từ Úc, Anh và Hà Lan cho biết kết quả của họ có những tác động quan trọng trong thế giới thực, bao gồm cả vấn đề trộm danh tính, với khả năng con người có thể bị lừa bởi những kẻ giả mạo kỹ thuật số.

Tuy nhiên, nhóm nghiên cứu cũng cho biết kết quả này không áp dụng đối với hình ảnh của những người da màu, có thể do thuật toán sử dụng để tạo ra khuôn mặt AI chủ yếu được đào tạo trên hình ảnh của những người da trắng.

Tiến sĩ Zak Witkower, một trong số các tác giả nghiên cứu từ Đại học Amsterdam, cho biết điều này có thể gây ảnh hưởng đến các lĩnh vực từ trị liệu trực tuyến dành cho robot.

“Điều đó sẽ tạo ra tình huống thực tế hơn cho những khuôn mặt da trắng so với những khuôn mặt khác,” ông nói.

Nhóm nghiên cứu cảnh báo rằng tình huống như vậy cũng có thể dẫn đến việc quan niệm về chủng tộc bị nhầm lẫn với quan niệm về “con người”, và cũng có thể duy trì các định kiến xã hội, bao gồm việc tìm trẻ em mất tích, vì việc này có thể phụ thuộc vào những khuôn mặt do AI tạo ra.

Viết trong tạp chí Psychological Science, nhóm nghiên cứu mô tả cách họ tiến hành hai cuộc thử nghiệm. Trong một cuộc thử nghiệm, người lớn da trắng được cho xem một nửa trong số 100 khuôn mặt da trắng do AI tạo ra và 100 khuôn mặt da trắng của người thật. Nhóm đã chọn phương pháp này để tránh các định kiến tiềm ẩn trong việc nhận ra khuôn mặt của cùng tộc so với khuôn mặt của tộc khác.

Người tham gia được yêu cầu chọn xem mỗi khuôn mặt có phải là do AI tạo ra hay người thật, và độ tin tưởng của họ được đánh giá trên một thang điểm 100 điểm.

Kết quả từ 124 người tham gia cho thấy, 66% hình ảnh do AI được đánh giá là con người so với 51% hình ảnh thật.

Nhóm nghiên cứu cho biết việc phân tích lại dữ liệu từ một nghiên cứu trước đã phát hiện ra rằng, người ta có xu hướng đánh giá khuôn mặt da trắng do AI tạo ra là con người hơn so với khuôn mặt da trắng thật. Tuy nhiên, điều này không xảy ra với những người da màu, trong đó khoảng 51% cả khuôn mặt trí tuệ nhân tạo và khuôn mặt thật được đánh giá là con người. Nhóm nghiên cứu cũng cho biết họ không thấy kết quả bị ảnh hưởng bởi chủng tộc của người tham gia.

Trong một cuộc thử nghiệm thứ hai, người tham gia được yêu cầu đánh giá khuôn mặt tạo bởi AI và khuôn mặt thật trên 14 đặc điểm, chẳng hạn như tuổi và đối xứng, mà không được cho biết một số hình ảnh là do trí tuệ nhân tạo tạo ra.

Phân tích kết quả từ 610 người tham gia của nhóm nghiên cứu cho thấy những yếu tố chính dẫn đến sự nhầm lẫn bao gồm tỷ lệ cân đối của khuôn mặt, sự quen thuộc và khả năng ghi nhớ ít hơn.

Một cách mỉa mai, trong khi con người dường như không thể phân biệt được khuôn mặt thật và khuôn mặt do AI tạo ra, nhóm nghiên cứu đã phát triển một hệ thống máy học có thể làm như vậy với độ chính xác 94%.

Tiến sĩ Clare Sutherland, một trong số các tác giả nghiên cứu từ Đại học Aberdeen, cho biết nghiên cứu này đã làm nổi bật tầm quan trọng của việc giải quyết các định kiến trong AI.

“Khi thế giới thay đổi cực kỳ nhanh với việc sử dụng AI, điều quan trọng là chúng ta đảm bảo không ai bị bỏ lại phía sau hoặc bị thiệt thòi trong bất kỳ tình huống nào – dù là do dân tộc, giới tính, tuổi tác, hoặc bất kỳ đặc điểm bảo vệ khác nào,” bà nói.