Apple Facebook Google Microsoft badania bezpieczeństwo patronat DI prawa autorskie serwisy społecznościowe smartfony

Tendencyjność danych w sztucznej inteligencji wyzwaniem dla współczesnych firm

27-06-2024, 16:24

Tendencyjność danych to poważny problem w obszarze sztucznej inteligencji, polegający na systematycznych błędach w zbiorach informacji, które faworyzują określone grupy kosztem innych. Zjawisko to wynika często z braku różnorodności w zespołach pracujących nad modelami AI.

Tendencyjność danych w sztucznej inteligencji: Wyzwanie dla współczesnych firm

Zjawisko tendencyjności danych

Według badania Harvard Business Review:

  • Brak różnorodności w zespołach: Zespoły AI często składają się z jednorodnych kulturowo mężczyzn z doktoratami, co ogranicza perspektywę.

  • Kwalifikacje nie rozszerzają perspektywy: Pomimo wysokich kwalifikacji, pracownicy ci często nie są w stanie rozszerzyć swojej perspektywy na społeczności, których nie reprezentują.

Efektem takiej sytuacji jest powstawanie algorytmów, które nie mogą asystować firmom w podejmowaniu sprawiedliwych, inkluzywnych decyzji, ponieważ dysponują informacjami reprezentującymi jedynie wąską część populacji

Przykłady i konsekwencje tendencyjności danych

Tendencyjność danych może wpływać na różne obszary funkcjonowania przedsiębiorstwa. Ciekawy przykład przytoczył Jakub Andrzejewski, Business Development Manager na Polskę:

Stosunkowo niedawno jeden ze znanych sprzedawców detalicznych odkrył wadę w swoim zautomatyzowanym systemie rekrutacji. Okazało się, że algorytm docelowo obsadzał wolne stanowiska technologiczne mężczyznami, ignorując równie dobrze wykwalifikowane kandydatki.

Konsekwencje tendencyjności danych mogą być poważne:

  • Straty wizerunkowe dla firm
  • Straty finansowe
  • Niemożność pełnego wykorzystania potencjału AI

Świadomość firm i działania przeciwdziałające

Badanie przeprowadzone przez firmę Progress i zaprezentowane w raporcie Data Bias: The Hidden Risk of AI wykazało rosnącą świadomość firm dotyczącą problemu tendencyjności danych:

  • 78% firm uważa, że problem będzie się nasilać
  • 45% rozpoczęło prace nad wdrożeniem polityki zmniejszającej ryzyko
  • 36% zaczęło zgłębiać istotę problemu
  • Tylko 13% opracowało stały proces oceny skali zjawiska

Główne bariery w walce z tendencyjnością danych to:

  • Brak powszechnej świadomości problemu
  • Niewystarczające zrozumienie procesu identyfikacji uprzedzeń
  • Ograniczony dostęp do zasobów eksperckich

Aby przeciwdziałać tendencyjności danych, firmy powinny:

  1. Zadbać o zróżnicowanie personelu pracującego nad AI - skład zespołów powinien być bardziej różnorodny pod względem kulturowym i zawodowym.

  2. Przeprowadzać szkolenia z zarządzania zbiorami danych - treningi dotyczące zarządzania zbiorami danych i przeciwdziałania stronniczości są niezbędne

  3. Regularnie sprawdzać dane pod kątem stronniczości, aktywnie monitorując dane na każdym etapie ich wykorzystania.

Całkowite wyeliminowanie problemu data bias będzie wymagało czasu i inwestycji. Brak reakcji może prowadzić do strat wizerunkowych oraz finansowych. Ponadto, niepełne wykorzystanie potencjału AI może hamować rozwój przedsiębiorstw. Dlatego walka z tendencyjnością danych jest decyzją zarówno etyczną, jak i biznesową.

Foto: Freepik


Aktualności | Porady | Gościnnie | Katalog
Bukmacherzy | Sprawdź auto | Praca
biurowirtualnewarszawa.pl wirtualne biura w Śródmieściu Warszawy


Artykuł może w treści zawierać linki partnerów biznesowych
i afiliacyjne, dzięki którym serwis dostarcza darmowe treści.

              *              



Ostatnie artykuły:

fot. Petronas



fot. Sophos



fot. Freepik







fot. Freepik