Zjawisko tendencyjności danych

Według badania Harvard Business Review:

• Brak różnorodności w zespołach: Zespoły AI często składają się z jednorodnych kulturowo mężczyzn z doktoratami, co ogranicza perspektywę.

• Kwalifikacje nie rozszerzają perspektywy: Pomimo wysokich kwalifikacji, pracownicy ci często nie są w stanie rozszerzyć swojej perspektywy na społeczności, których nie reprezentują.

Efektem takiej sytuacji jest powstawanie algorytmów, które nie mogą asystować firmom w podejmowaniu sprawiedliwych, inkluzywnych decyzji, ponieważ dysponują informacjami reprezentującymi jedynie wąską część populacji

Przykłady i konsekwencje tendencyjności danych

Tendencyjność danych może wpływać na różne obszary funkcjonowania przedsiębiorstwa. Ciekawy przykład przytoczył Jakub Andrzejewski, Business Development Manager na Polskę:

Stosunkowo niedawno jeden ze znanych sprzedawców detalicznych odkrył wadę w swoim zautomatyzowanym systemie rekrutacji. Okazało się, że algorytm docelowo obsadzał wolne stanowiska technologiczne mężczyznami, ignorując równie dobrze wykwalifikowane kandydatki.

Konsekwencje tendencyjności danych mogą być poważne:

• Straty wizerunkowe dla firm
• Straty finansowe
• Niemożność pełnego wykorzystania potencjału AI

Świadomość firm i działania przeciwdziałające

Badanie przeprowadzone przez firmę Progress i zaprezentowane w raporcie Data Bias: The Hidden Risk of AI wykazało rosnącą świadomość firm dotyczącą problemu tendencyjności danych:

• 78% firm uważa, że problem będzie się nasilać
• 45% rozpoczęło prace nad wdrożeniem polityki zmniejszającej ryzyko
• 36% zaczęło zgłębiać istotę problemu
• Tylko 13% opracowało stały proces oceny skali zjawiska

Główne bariery w walce z tendencyjnością danych to:

• Brak powszechnej świadomości problemu
• Niewystarczające zrozumienie procesu identyfikacji uprzedzeń
• Ograniczony dostęp do zasobów eksperckich

Aby przeciwdziałać tendencyjności danych, firmy powinny:

1. Zadbać o zróżnicowanie personelu pracującego nad AI - skład zespołów powinien być bardziej różnorodny pod względem kulturowym i zawodowym.

2. Przeprowadzać szkolenia z zarządzania zbiorami danych - treningi dotyczące zarządzania zbiorami danych i przeciwdziałania stronniczości są niezbędne

3. Regularnie sprawdzać dane pod kątem stronniczości, aktywnie monitorując dane na każdym etapie ich wykorzystania.

Całkowite wyeliminowanie problemu data bias będzie wymagało czasu i inwestycji. Brak reakcji może prowadzić do strat wizerunkowych oraz finansowych. Ponadto, niepełne wykorzystanie potencjału AI może hamować rozwój przedsiębiorstw. Dlatego walka z tendencyjnością danych jest decyzją zarówno etyczną, jak i biznesową.

Foto: Freepik