Cała armia moderatorów codziennie przegląda setki milionów postów zamieszczanych przez użytkowników Facebooka. Sam Zuckerberg, wśród zmian mających na celu redukcję toksycznych treści na portalu, mówi o zwiększeniu liczby pracowników zajmujących się moderacją postów do ponad 30 tys. osób.

Problem toksycznych wypowiedzi to złożona kwestia. Sama skala działania Facebooka jest ogromna, a do tego dochodzą inne miejsca w sieci, w których można komentować, rozmawiać czy dzielić się zdjęciami. Tylko na Facebooku co minutę publikowane jest ponad pół miliona komentarzy. Zatrudnianie moderatorów, aby chronić użytkowników przed niepożądanymi treściami wydaje się w takim wypadku rozwiązaniem doraźnym i niewystarczającym. Tu potrzebne jest rozwiązanie systemowe, a takie opracowuje polski zespół Samurai Labs, którego oprogramowanie nie dość, że automatycznie wykrywa niepożądane treści, to w przeciwieństwie do moderatorów zablokuje treść, zanim w ogóle dotrze ona do odbiorcy. 

Rozwiązanie opracowywane przez Polaków funkcjonuje w czasie rzeczywistym działając prewencyjnie. Michał Wroczyński, psychiatra i szef startupu Samurai Labs tłumaczy, że w przypadku, gdy ktoś chce wysłać szkodliwy komentarz lub wiadomość na czacie, sztuczna inteligencja analizuje treść i w razie konieczności wysyła do autora stosowne ostrzeżenie oraz blokuje daną wiadomość, jeszcze zanim dotrze ona do odbiorcy, któremu może wyrządzić krzywdę.

Rozwiązanie ma szansę wkrótce zaowocować wdrożeniem w pełnej skali. Obecnie twórcy pracują nad pozyskaniem partnera z segmentu e-sportu do pracy nad pilotażowym rozwiązaniem pozwalającym przetestować ich zaawansowane algorytmy. Rozwiązanie wzbudziło zainteresowanie rodzimych inwestorów. W pierwszej rundzie finansowania w startup zainwestowali kapitan polskiej reprezentacji Robert Lewandowski i anioł biznesu Dawid Urban.

Źródło: Samurai Labs