Big Data stwarza jeden ciekawy problem dla prywatności. Jeśli jakaś firma czegoś o Tobie nie wie, może się tego domyślić. Kiedy już się domyśli, może zacząć Cię traktować tak, jakby wiedziała to o Tobie na pewno. 

Ten problem można ładnie wyjaśnić na przykładzie profilowania rasowego stosowanego przez Facebooka. Ups! Nie powinienem pisać "profilowanie rasowe". To brzydko brzmi. Powiedzmy zatem, że Facebook może ustalać "przynależność etniczną". To brzmi o wiele ładniej, choć za tym gładkim terminem i tak kryje się profilowanie rasowe. 

"Powinowactwo kulturowe"

Facebook może ustalić rasę użytkownika na podstawie różnych danych - przynależności do określonych organizacji, zainteresowań, języka, znajomych. Następnie  ustalona rasa jest wykorzystywania w celu targetowania reklam. Facebook udostępniał już informacje dla przedsiębiorców na ten temat, zachwalając możliwość dotarcia do "wielokulturowej widowni". W Stanach Zjednoczonych da się wyróżnić duże i wyraźni odmienne grupy ludzi - są biali, Afroamerykanie, amerykańscy Azjaci oraz Latynosi. Te grupy odróżniają się nie tylko kolorem skóry, ale również poglądami, wierzeniami, tradycjami, ulubionymi rozrywkami itd.

W swoich materiałach dla reklamodawców Facebook stara się unikać mówienia o rasie. Mówi raczej o kulturze. Facebook tłumaczy, że nie ustala rasy ale "powinowactwo kulturowe". Jeśli zatem osoba rasy białej słucha gangsta rapu i uczęszcza na spotkania organizacji zrzeszających Afroamerykanów, jest osobą "spowinowaconą kulturowo" z osobami innej rasy. Zakwalifikowanie tej osoby do grupy Afroamerykanów w zasadzie byłyby zrozumiałe. Pytanie brzmi, jak wiele zmieni to w praktyce?

Trailer dla widowni "wielokulturowej"

Jak wyjaśnia Ars Technica, osoby oglądające trailery różnych filmów mogą zobaczyć różne ich wersje w zależności od "powinowactwa kulturowego". Przykładem takiego filmu jest  Straight Outta Compton - film biograficzny o zespole hip-hopowym N.W.A.

W wersji dla białych trailer przedstawia film tak, że wydaje się on opowieścią sensacyjno-gangsterską.

Co innego wersja dla Afroamrykanów! Ona przedstawia zwłaszcza refleksyjno-autobiograficzną stronę filmu. Klimaty gangsterskie nie pojawiają się w tym trailerze od razu.

Prawda, że duża różnica? 

Problemy z profilowaniem

Problem z profilowaniem rasowym będzie nam się wydawał egzotyczną ciekawostką dopóki dotyczy rzeczywistości amerykańskiej. Pomyślmy jednak, że kiedyś to może być przeniesione na grunt polski. Czy waszym zdaniem Facebook powinien oznaczać ludzi jako Romów, Ukraińców czy Ślązaków? Nie zrozumcie mnie przy tym źle. Romowie, Ukraińcy i Ślązacy są dumni ze swojego pochodzenia i dobrze. Pytanie tylko czy Facebook powinien w ten sposób szufladkować ludzi i podejmować pewne decyzje w oparciu o wywnioskowane dane? 

Ars Technica zadaje ciekawe pytanie. Czy dane o rasie będą interesować tylko marketerów? Odpowiedź jest dość oczywista. Prędzej czy później władze mogą się zacząć interesować ustaloną przez Facebooka "rasą" i mogą zacząć wyciągać z tego wnioski. Jeśli ktoś jest dyskryminowany ze względu na swoją rasę to pewnego dnia jakiś e-usługodawca (niekoniecznie Facebook) może się stać narzędziem do przenoszenia tej dyskryminacji dalej. 

Nie chodzi mi o sugerowanie, że Facebook jest rasistowski. Nie chodzi nawet o krytykowanie tej konkretnej oferty dla reklamodawców. Chodzi o wskazanie pewnego problemu, a Facebook jest dobrym przykładem. W przyszłości różne automaty będą podejmować decyzje dotyczące naszego życia i będą to robić w oparciu o dane wywnioskowane z innych danych. W piątek wspominaliśmy o planach dotyczących informatyzacji fiskusa. Mamy już problem z krzywdzącym profilowaniem bezrobotnych. Co będzie dalej?