To kolejny tekst z cyklu Rzeczywistość jak antyutopia. 
* * * 

W połowie maja pisaliśmy o nieco przerażającej aplikacji, która może odebrać anonimowość ludziom na ulicy dzięki rozpoznawaniu twarzy. Teraz możemy wam donieść o pomyśle, który jest o 100 razy bardziej przerażający, bo łączy rozpoznawanie twarzy z profilowaniem i pseudonauką. 

Faception - oni wiedzą czy jesteś terrorystą!

Izraelski startup o nazwie Faception stworzył rozwiązanie do "profilowania osobowościowego na podstawie obrazu twarzy". Oprogramowanie analizuje twarze ze zdjęć, nagrań wideo lub kamer i na tej podstawie odczytuje z twarzy cechy charakteru.

- Opracowaliśmy zastrzeżone klasyfikatory, z których każdy opisuje typ osobowości lub cechę taką jak bycie ekstrawertykiem, osobą z wysokim IQ, profesjonalnym pokerzystą lub terrorystą - czytamy na stronie startupu. 

Czy już jesteście przerażeni? Nie? No to czytajcie dalej. 

Faception widzi wiele zastosowań dla swojego produktu. Randki, sprzedaż, ubezpieczenia, rekrutacje. Pewnego dnia oprogramowanie tej firmy może zdecydować o tym, że dostaniesz wyższą składkę ubezpieczenia bo Twoja twarz wyraża skłonność do ryzyka. Może się też okazać, że nie dostaniesz wymarzonej pracy bo firma uwierzy w analizę twarzy. Cudownie. 

Najgorsze jest jednak to, że Faception zachwala swoją technologię do celów bezpieczeństwa publicznego(!). Władze mogą zyskać narzędzie wskazujące przestępców, zanim jeszcze Ci przestępcy popełnią przestępstwo. Co gorsza są władze, które naprawdę uwierzą w ten cudowny środek. Washington Post donosi, że Facepetion już podpisała kontrakt z jakąś agencją bezpieczeństwa wewnętrznego. Wiadomo, że umowa dotyczy pomocy w rozpoznawaniu terrorystów. 

Faception szuka też racjonalnych dowodów na udowodnienie skuteczności swoich narzędzi. Firma użyła swojego oprogramowania by zbadać uczestników turnieju pokerowego. Stworzono ranking graczy na podstawie zdjęć i potem okazało się, że oprogramowanie poprawnie wskazało 4 z 7 graczy, którzy dotarli do finału. Możecie o tym poczytać na blogu Facepetion.

 fragment strony Faception

Czy to znaczy, że dotarliśmy do rewolucji w profilowaniu ludzi? Moim zdaniem jest to raczej rewolucja w marketingu. Oto jedna firma zaczyna przekonywać ludzi (oraz władze państwowe), że dawna pseudonauka może znaleźć zastosowanie w wieku XXI.

Ale to już było, czyli fizjonomika

Fizjonomika to właśnie pseudonauka zakładająca, że wygląd twarzy jest powiązany z charakterem człowieka. Ta pseudonauka była uprawiana od starożytności, ale szczególny rozkwit przeżyła w wieku XVII i XIX. Człowiek nazwiskiem Cesare Lombroso bardzo rozpowszechnił pogląd, że kształt czaszki zdradza skłonności do popełniania określonych przestępstw. Teorie Lombroso zostały czasem obalone, choć wywarły one silny wpływ na naszą kulturę i do dziś wielu ludzi w pewnym stopniu wierzy, że istnieje "twarz złodzieja" albo "twarz mordercy". 

Całe DNA widać na twarzy?

Można się obawiać, że Faception chce po raz kolejny sprzedać nam fizjonomikę, ale opakowaną w papierek racjonalności. Na stronie startupu dowiadujemy się, że specjalne algorytmy dokonują fachowych pomiarów. No dobrze, ale czy fizjonomika staje się bardziej racjonalna gdy pomiaru dokonuje algorytm, a nie nawiedzony XIX-wieczny psychiatra z dziwnym przyrządem okalającym czaszkę? 

Faception zachwala też swoje "zastrzeżone algorytmy", ale czy ich zastrzeżenie wpływa jakoś na obiektywną dokładność? Gdzie obiektywne badania? Czy jedna izraelska firma powinna ustalać na jakiej zasadzie służby mają klasyfikować ludzi do grupy terrorystów? Czy wskazanie 4 dobrych pokerzystów nie było tylko szcześciem? Dlaczego oprogramowanie nie wskazało bezbłędnie wszystkich siedmiu uczestników finału? 

Firma Faception przekonuje też (niby racjonalnie), że przestępczość musimy mieć zapisaną w DNA, a nasza twarz również ma wygląd determinowany przez DNA. No dobrze, ale czy geny determinujące wygląd twarzy na pewno mają wpływ na tak złożone kwestie jak skłonność do terroryzmu? Strona Faception odsyła co prawda do artykułu na temat związku między wyglądem twarzy i osobowością, ale ten artykuł mówi tylko o występowaniu pewnych cech twarzy przy ogólnych cechach charakteru takich jak ekstrawersja. Czym innym jest wykrycie ekstrawersji, a czym innym jest wydanie orzeczenia o tym, czy ktoś będzie zdolny do przeprowadzenia ataku terrorystycznego. Inna rzecz, że samo posiadanie takich cech osobowości nie oznacza, że ktoś będzie terrorystą. 

Można by jeszcze rozpisać się o tym, że badania nad wpływem genów zawsze są obarczone możliwością znalezienia fałszywych (pozornych) korelacji. Większość Azjatów je pałeczkami, ale to nie musi oznaczać, że jedzenie pałeczkami jest zapisane w genach odpowiedzialnych za rasę.

Co więcej, badania nad rozpoznawaniem obrazów też są obarczone możliwością stosowania pozornej korelacji. Przykładem może być program odróżniający wilki od psów, który tak naprawdę nauczy się je odróżniać na podstawie tła (las, śnieg).

Nowa forma rasizmu

Jest coś zniesmaczającego w tym, że akurat izraelski startup zdaje się promować wizję świata, którą niegdyś podpierali się faszyści. Oni również wierzyli, że pewne widoczne cechy "rasowe" wpływają na wartość człowieka. 

W Dzienniku Internautów poruszaliśmy już dwa problemy, które tutaj dają o sobie znać. Po pierwsze, istnieje przemysł inwigilacji i ten przemysł tworzy nowe produkty i szuka nabywców. Nabywcami mogą być instytucje państwowe, które nie zawsze kupują mądrze, ale mają sporo pieniędzy od podatników.

Poza tym istnieje coś takiego jak myślenie magiczne XXI wieku. Pozwala ono na sprzedawanie takich bzdur jak kierunkowe kable ethernet albo karty pamięci dające lepszy dźwięk (to nie żart, niektóre firmy sprzedają takie rzeczy). Ludzie nie stracili fascynacji magią. Po prostu przenosimy ją na nowy grunt.  

Czytaj także: Jak działa profilowanie rasowe na Facebooku? Ups! Nie wypada tak tego nazywać!