Ciekawostka stała się przyczynkiem do dyskusji o tym, z jakich danych korzysta sztuczna inteligencja podczas przeglądania CV i wybierania najbardziej pasujących do danego stanowiska zgłoszeń.

W przypadku Amazona AI nauczyła się wyróżniać mężczyzn, analizując dane historyczne dotyczące zatrudnienia. W uproszczeniu, system "dochodził do wniosku", że skoro przez 10 analizowanych lat zatrudniani byli głównie mężczyźni, to właśnie oni będą najlepszymi kandydatami. We wstępnej selekcji odpadały więc CV zawierające słowo "kobieta". 

Jak mówią anonimowo informatorzy związani z Amazonem (firma nie przedstawiła oficjalnego komunikatu w tej sprawie), uprzedzenia AI związane z płcią nie były jedynym problemem systemu. Sprawiało to, że działał w sposób "niemal przypadkowy".

Zobacz, co piszą na ten temat:

Telegraph, Reuters (źródło główne), The Verge, Quartz Media