Based on “Algorithmic Bias? An Empirical Study of Apparent Gender-Based Discrimination in the Display of STEM Career Ads.” by Anja Lambrecht & Catherine Tucker (2019) in Management Science, 65(7): pp.2966-2981.

무엇을, 왜 연구했나?

의사결정을 자동화하기 위한 인공지능 알고리즘의 활용이 늘어나고 있는 다른 한편으로 알고리즘의 편향 및 공정성 문제가 대두하고 있다. 특히 선행 연구에 따르면 알고리즘 기반 디지털 광고의 경우 역사적으로 차별을 받아온 여성, 흑인 및 소외계층은 원하지 않는 광고에 노출될 확률이 높은 반면 정작 필요로 하는 광고에는 노출될 확률이 낮은 것으로 나타났다. 그로 인해 검색 엔진에서 흑인 이름을 검색하면 신원 조회 관련 광고를 볼 확률이 높고, 여성은 임원 대상 비즈니스 코칭 관련 광고를 보게 될 확률이 낮은 현상이 발생한다. 하지만 이 같은 현상이 프로그래머의 편향된 가치관 또는 무의식적 편향 때문인지, 아니면 알고리즘이 편향된 데이터를 학습한 결과 때문인지 등 알고리즘이 어떻게 편향된 결과를 야기하는지에 대한 연구는 없었다.

런던비즈니스스쿨과 매사추세츠공과대 연구진으로 구성된 본 연구팀은 과학, 기술, 공학, 수학(STEM) 관련 인력 교육 및 구인 광고를 활용한 실험을 통해 알고리즘이 어떻게 편향된 결과를 이끌어 내는지를 연구했다. STEM 인력 양성은 특히 정책 입안자에게 중요한 이슈이다. 많은 정책 입안자가 STEM 분야에 여성 인력이 부족한 문제를 해결하기 위해 보다 많은 여성에게 STEM 관련 교육 및 구인 정보를 전달하고, 해당 분야로의 진출을 장려하고 있다. 본 연구는 STEM 인력 교육 및 구인 광고에 초점을 맞춰 전 세계를 대상으로 알고리즘 편향 현상을 분석했다.

인기기사