"트위터 알고리즘, 노인·흑인·무슬림·장애인 차별"

트위터의 대표 사진 고르기 알고리즘은 흑인과 이슬람교도, 장애인, 노인을 차별하고 젊고 날씬한 사람의 얼굴을 선호하는 것으로 나타났다.

이 발견은 ‘알고리즘 편향 공모전’을 통해 밝혀졌다.
10일, 트위터는 지난 5일부터 8일까지 미국 라스베이거스에 열린 세계 최대 해커대회인 데프콘에서 트위터의 알고리즘 편향성을 시연한 스위스 로잔공과대학교 대학원생에게 우승 상금 3,500달러를 (400만 원)을 주기로 했다고 밝혔다.

트위터 알고리즘은 ‘날씬하고 젊은, 밝은 피부색과 부드러운 피부에 여성스러운 얼굴’을 선호하는 것으로 나타났다.

반면에 머리색이 하얀 노인이나 휠체어를 탄 사람, 히잡을 쓴 사람은 대표 이미지에서 탈락시켰다. 대표 사진에 들어가는 언어로는 아랍어보다 영어를 선택하는 것으로 나타났다.

트위터는 지난해 9월, 사진을 올릴 때 가장 중요한 부분을 미리 보기로 보여주는 알고리즘을 도입했는데 흑인인 버락 오바마 전 대통령과 백인인 미치 매코널 공화당 상원 원내대표가 함께 있는 사진을 함께 올리면 트위터가 미리 보기 부분에 항상 미치 매코널을 표시한다는 사실이 드러나 사과했다.

트위터 알고리즘은 오바마 대통령을 백인으로, 미치 매코널을 흑인으로 피부색을 바꾸자 이번에는 오바마 대통령을 선택했다. 트위터는 문제가 불거지자 이 기능을 비활성화했다.

트위터의 AI 윤리팀장은 영국 가디언지와의 인터뷰에서 “알고리즘의 편향성에 대해 학문적으로 접근하거나 실험으로 그치는 것이 아니라 그런 편향성이 우리 사회에서 어떻게 작용하는지를 생각해야 한다”고 말했다.


YTN 최가영 (weeping07@ytnplus.co.kr)